Иудея, хоть и небольшая, но крайне неудобная страна, создавала значительные проблемы для Рима на протяжении более двухсот лет, и во время ее завоевания обе стороны пролили много крови.
В 63 году до нашей эры римляне впервые захватили Палестину, которая тогда находилась под контролем Хасмонейского царства. В это время произошли беспорядки внутри царства. Два брата, Гиркан II и Аристобул II, сражались за престол и не могли достичь согласия. Чтобы оказать поддержку своим соотечественникам, римский полководец Гней Помпей прибыл в Иерусалим со своей армией. Гиркану досталось царство, но он потерял свое королевское звание. Римляне оставили ему титул этнарха — "национального лидера", если использовать современную терминологию. Его государство сохраняло некоторую автономию, но потеряло независимость. Фактическим правителем стал Антипатр, союзник Рима.
В 43 году произошли новые беспорядки. Антипатр был отравлен, а вскоре в Иудею пришли парфяне, которые решили воспользоваться хаосом и получить что-то для себя. Они назначили своего человека правителем, обещавшего им поддержку. Однако сын Антипатра, Ирод (которого впоследствии называли Великим), обратился за помощью к римлянам. Триумвиры поддержали его, предоставили войска, и в 37 году до н.э. Иерусалим был освобожден от парфян совместными силами римлян и наемной армии Ирода.
После смерти Ирода Октавиан Август применил классический римский принцип "разделяй и властвуй". Иудея была разделена на несколько тетрархий. Границы и способы управления тетрархий несколько раз менялись — например, с 26 по 36 год н.э. Иудеей управлял римский префект Понтий Пилат. Местное население периодически поднимало восстания. К 60-м годам началось самое масштабное из них, направленное против римского прокуратора Гессия Флора, который требовал уплаты налогов со Храма Иерусалима.
В 66 году XII Молниеносный легион был отправлен под стены Иерусалима для подавления мятежа. Легион даже проник в предместья, но несмотря на это, атака была отражена. Легион вынужден отступить, и во время отступления он потерпел поражение под Беф-Ороном, потеряв свои легионные орлы. Это было посрамление перед всем миром, и за это необходимо было отомстить.
После четырех лет непрерывных боев римляне захватили Галилею и приблизились к Иерусалиму. Их командовал Тит, сын римского императора Веспасиана. Осада продолжалась пять месяцев, и в результате разгневанные римляне полностью разрушили город до основания. От Храма остался только фрагмент стены, который сейчас известен как Западная Стена. Победители получили свои триумфы, но они были смешанные чувства: хоть и огромная империя победила маленькую провинцию, но победа достигнута была посредством большого количества пролитой крови.
В 115 году нашей эры происходит следующее восстание. Однако основные сражения разворачиваются в других местах, поскольку Иерусалим лежит в руинах, храмовая гора разрушена, здесь не осталось ничего, за что можно было бы сражаться. В 130 году римляне решают восстановить город, превратив его в свое владение. Начинается строительство, и на месте прежнего иудейского Храма возникает храм Юпитера, а на священном месте устанавливается статуя императора Адриана.
Иудеи поднимаются в восстании и отбивают Иерусалим у римлян. Они особенно надеялись на возрождение Храма, но римляне не оказывают готовности воплотить это. Лидер восстания, Бар-Кохба, пытается возродить храм и восстановить жертвоприношения, он чеканит свою монету. Многие считают его мессией. Однако приходит новый римлянин, Юлий Север, и этот последний восстания подавляется.
На этот раз Иерусалим не был разрушен. Вместо этого он был целенаправленно заселен римлянами, а евреям запретили приближаться к нему, за исключением одного дня в году. Этот запрет продолжался до VII века.