Jeruzsálem három vallás közös öröksége. Zsidók, keresztények és mohamedánok egyaránt sajátjuknak vallják e magasztos helyet.

Jeruzsálem a júdeai sivatag jelentéktelen, dombtetőn álló városkája volt, amikor i.e. 1000 táján Dávid elfoglalta a kánaánitáktól és fővárosává tette. Mikor Dávid fia, Salamon megépítette az első templomot, ahol Mózes kőtáblába vésett tízparancsolatát elhelyezték, Jeruzsálem a zsidó nép szent városa lett. I.e.587-ben Elő-Ázsia legnagyobb uralkodója, Nabu-kudurri-uszur (Nabukodonozor) megtámadta a várost, lerombolta Salamon templomát, a zsidókat pedig Babilonba hurcoltatta. A babiloni fogságból visszatérő zsidóság i.e. 520 táján újjáépítette a templomot, és 500 év múlva Nagy Heródes átépíttette azt. Ez a heródesi templom sem állt sokáig, i.sz. 70-ben a rómaiak földig rombolták. Csak a nyugati fala maradt állva, napjainkban ez a zsidók legszentebb helye, a Siratófal.

A város második jelentős emléképülete a Szent Sír-templom. Helye azt a sziklasírt jelöli, ahova Arimateai József temette Jézus testét. 326-ban Constantinus téglalap alakban épületegyüttest emeltetett, a sír feltételezett helye fölé pedig kör alakú szentélyt építtetett. Ez az Anasztászisz-rotunda. Az épületegyüttes a Golgota (Kálvária-domb) feltételezett helyén kiegészült egy árkádos udvarral, valamint a Mártírium-templommal, ahol istentiszteleteket tartottak. A bazilikát a 12. században többször lerombolták, újjáépítették, majd 1149-ben a keresztes lovagok román templomot szenteltek fel a helyén. A jelenlegi Szent Sír-templom a keresztesek építményének hű másolata, amelyet az 1927-es földrengés után emeltek. A létesítmény fennmaradásáról 6 keresztény egyházi közösség ( római katolikus, görögkeleti ortodox, szír, etióp, örmény és kopt )  közösen gondoskodik, és tiszteletben tartja egymás vallási szertartásait.

Mekka és Medina után Jeruzsálemben található az iszlám harmadik legszentebb zarándokhelye, a Sziklamecset. 638-ban a muzulmán Omar kalifa vette be a várost, és a legendás szikla köré megépíttette a mecsetet. A monda szerint Mohamed próféta, Gábriel arkangyal kíséretében erről a 4 m-es sziklatömbről emelkedett a mennybe, hogy megkapja a kinyilatkoztatásokat földi küldetése teljesítéséhez. A muszlim hit szerint innen hangzik majd el a világvége eljövetelekor az utolsó ítéletre hívó szó. A csillogó kupolájú épületet 687─691-ben emelték nyolcszögletű alapra, elrendezését szigorú matematikai elvek vezérelték. A kupolát tartó falak alsó részét márvány borítja, felső részüket 45 000 mázas fajanszcsempe díszíti. A kupola váza fából készült, amit arany-alumínium ötvözetből készült lemezekkel fedtek be. A mai Korán-idézetekkel ékesített kupola 1963-ban készült el.

A Sion-hegyen található Szűz Mária Halála-templom azon a helyen áll, ahol a Hagyomány szerint a Szent Szűz meghalt. Tömegével vonzza turistákat és a keresztény hívőket, főleg húsvétkor, pünkösdkor és a sátoros ünnep idején. Egy közeli épületben pedig a Coenaculum néven ismert terem található, amely az Utolsó vacsora színhelye és egyben Dávid sírja.