מקורו של מטבע הלשון "הנצח זו ירושלים" היא בדרשת חז"ל במסכת ברכות על הפסוק: "לך ה' הגדולה והגבורה התפארת והנצח וההוד" תנא משמיה דרבי עקיבא:
"לך ה' הגדולה זו קריעת ים סוף והגבורה זו מכת בכורות, והתפארת זו מתן תורה והנצח זו ירושלים", זוהי בירת הנצח של העם היהודי.
מאז הוקמה, הייתה ירושלים המרכז הלאומי והרוחני של העם היהודי מקום משכנם של מלכי בית דוד, ומקום משכנו של בית הבחירה, אשר לשם עלו ישראל שלוש פעמים בשנה.
בחזון אחרית הימים רואים נביאי ישראל את ירושלים מרכז רוחני לא רק לעם ישראל אלא גם לעמי העולם; "ונהרו אליו כל הגויים והלכו עמים רבים ואמרו לכו ונעלה על הר ה' אל בית אלהי יעקב כי מציון תצא תורה ודבר ה' מירושלים".
ירושלים התנחלה בלב כולנו. מאז גלה העם מארצו בכל הזדמנות הוא העלה את ירושלים על ראש שמחתו. יהודי מזכיר את ירושלים בכל יום בתפילתו, מעלה את ירושלים על ראש שמחתו.
לאורך שנים, בהיות עם ישראל בגלות, הוא לא פסק מלהעלות את זכרה ולהתפלל לשוב אליה. "על נהרות בבל שם ישבנו וגם בכינו בזכרנו את ציון", הוא הביטוי הממחיש זאת יותר מכל. בקונגרס הציוני, כאשר עלה לדיון נושא אוגנדה והיו מי שתמכו ביישוב העם היהודי שם, קם חוזה המדינה והכריז: "אם אשכחך ירושלים תשכח ימיני". בעזרת צור ישראל וגואלו זכינו במלחמת ששת הימים לשחרור חבלי מולדת, וגולת הכותרת של מלחמה זו היה שחרור העיר והכותל המערבי, כפי שבאה לידי ביטוי בקריאתו של מפקד הכח: "הר הבית בידנו". תמונותיהם של הלוחמים המתפללים ובוכים ליד הכותל המערבי הופצה בכל תפוצות ישראל, ותמונת הצנחן העומד מול הכותל, הפכה ל"תמונת המלחמה".
דוד המלך אומר בספר תהילים: "ירושלים הבנויה כעיר שחוברה לה יחדיו". פסוק זה נתפרש בתלמוד הירושלמי: "עיר שמחברת ישראל זה לזה". וכן גם במדרש: "עיר שעושה כל ישראל חברים".לעומת זאת, בתלמוד הבבלי הוסבר פסוק זה כך שירושלים של מטה מכוונת כלפי ירושלים של מעלה. ההתייחסות לחיבור העיר עצמה, לא חיבור של תושביה דווקא. לכאורה, שתי דרשות נפרדות לפנינו, אולם בעיון מעמיק יותר נמצא ששתי דרשות אלה, אחת הן.
כל עיר בירה מחברת את אזרחי המדינה ומלכדת אותם. אם כך, מה הרבותא בעיר הבירה ירושלים? אלא, שירושלים, מעצם היותה עיר קודש והמקדש בתוכה, מעצם זה נובע החיבור הפנימי.
ירושלים של מטה מכוונת כלפי ירושלים של מעלה. יהודי מישראל העולה לירושלים, אינו עולה רק לזו של מטה, הוא עולה גם לירושלים של מעלה. בעלייתו לירושלים, הוא משחרר עצמו מן העניינים הפרטיים, מחיי ההווה שלו ומתחבר לחיי הנצח, וכאשר עולים כולם לירושלים, אזי הם מתאחדים ומתלכדים, שכן הם עולים לירושלים של מעלה. נמצא, אפוא, שהיא מכוונת כלפי ירושלים של מעלה אבל עושה כל ישראל חברים זה לזה.
חז"ל הרחיבו בחובתו של כל יהודי להשתדל בטובתה של ירושלים, ואמרו: "דור שלא נבנה בית המקדש בימיו כאלו חרב בימיו". שאל בעל ה"שפת אמת", מדוע "חרב בימיו"? ניחא "לא נבנה", אבל מדוע "חרב"?. ותרץ: בניינה של ירושלים ובניינו של בית המקדש אינו דבר חד-פעמי, אלא תהליך מתמשך. כל דור מניח את הנדבך שלו עד שתסתיים הבנייה והבניין יעמוד על תילו. יוצא, אפוא, דור שלא הניח את הנדבך שלו ולא תרם את חלקו, כאילו חרב בימיו.
השבוע, כאשר נחגוג כולנו את יום שחרורה ואיחודה של ירושלים, נוסיף אנו את הנדבך שלנו. נרבה אחווה ורעות בניינו, נוסיף שלום בין האחים ובכך נזכה להגשמת דבריו של רבי יהושע בן לוי, כמובא במסכת "דרך ארץ זוטא": "אמר להם הקב"ה לישראל אתם גרמתם להחריב את ביתי ולהגלות את בני, היו שואלים בשלומה של ירושלים ואני נותן לכם שלום".