Ne zadugo posle smrti Hrista na
Petak, 30-og marta, AD 36, usledila je dugotrajna i brutalna opšta okupacija
Judeje od strane Rimljana, a posebno Jerusalima. I ponovo, Jevreji su se
pobunili. Kao rezultat toga, Imperator Vespazian poslao je Titusa da uspostavi
red. On je to sproveo uz ogromno krvoproliće uprkos žestokog otpora Jevreja koji
su se konačno usresredili na odbranu Jerusalima. Rimski vojnici, u svom besu,
opljačkaše i uništiše Hram uprkos izričitoj Cezarovoj naredbi koja je to
zabraninjivala. On nikada više nije bio obnovljen. Slikovito i lično svedočenje
može se naći u rukopisima Flaviusa Josefusa, koji je i sam bio Jevrejin, i koji
je prethodno bio vojni general, istoričar i diplomata. U jednom periodu, on je
bio angažovan kao mirovni pregovarač između Rimljana i Jevreja. Kao da ga je
poslalo samo proviđenje, Josefusu je bilo dozvoljeno da skloni sve svete svitke
iz Hrama pre njegovog uništenja. Iako su svitci tragično bili izgubljeni,
Josefus je ipak imao pun uvid u njih i oni su mu pomogli da napiše obiman deo
drevne istorije sa velikom tačnošću i pouzdanošću. Njegov rad i dalje je predmet
studija.
Jednom su Rimnjani bili posebno
okrutni te su svi Jevreji proterani iz celog Jerusalima za narednih 150 godina.
Stoga je područje unutar zidova tvrđave ostalo na korišćenje isključivo
nejevrejima - hrišćanima sve dok ga Muslimani na juriš ne osvojiše AD 638 pod
vođstvom Kalif Umar el-Šarifa. Ovo se odigralo septembra AD 622, tačno 16 godina
posle upostavljanja muslimanske religije od strane Mohameda Ibna Abdulaha (AD
570-632); koji je nekada bio gospodar trgovačkog karavana.
Do AD 691, Kalif Abdul Malik
raščistio je prostor unutar tvrđave i podigao Džamiju Sakhra (Kube Stene)
neposredno u susedstvu originalnog mesta Solomonovog Hrama. U kasnijim godinama
Al Aska džamija je dodata nasuprot i isto tako blizu ovom mestu.