פסוק א:עַל נַהֲרוֹת בָּבֶל, שָׁם יָשַׁבְנוּ לאחר תלאות הדרך מציון, גַּם בָּכִינוּ בְּזָכְרֵנוּ אֶת צִיּוֹן.
פסוק ב:עַל עֲרָבִים, עצי ערבה, הגדלים בדרך כלל על שפת הנהרות, בְּתוֹכָהּ – בתוך בבל, תָּלִינוּ כִּנֹּרוֹתֵינוּ. בכך ביטאנו שכעת אין לנו שימוש בכינורות – איננו רוצים ואיננו יכולים עוד לשיר.
פסוק ג:כִּי שָׁם – בגלות, שְׁאֵלוּנוּ, ביקשו מאתנו שׁוֹבֵינוּ דִּבְרֵי שִׁיר, שנשיר להם, אם מתוך סקרנות לשמוע את ניגונינו, השבויים, אם כדי להתעלל בנו, וְתוֹלָלֵינוּ, שוללינו הבוזזים אותנו או הבזים ולועגים ביקשו מאתנו שִׂמְחָה, ואמרו: "שִׁירוּ לָנוּ מִשִּׁיר צִיּוֹן – בעיקר שירת המקדש".
פסוק ד:והשבויים משיבים על כך: אֵיךְ נָשִׁיר אֶת שִׁיר ה', שהוא שיר ציון, עַל אַדְמַת נֵכָר?!
פסוק ה:והם פונים לדבר על זיכרון ירושלים: אִם אֶשְׁכָּחֵךְ, יְרוּשָׁלָםִ, תִּשְׁכַּח, תיעלם, תאבד את כוחה, יד יְמִינִי, ידי החזקה.
פסוק ו:תִּדְבַּק לְשׁוֹנִי לְחִכִּי, ולא אוכל לדבר, לא לשיר בפה וגם לא לנגן ביד אִם לֹא אֶזְכְּרֵכִי, אזכרך, או אזכירך, ירושלים. אם לא אתייחס אלייך, מוטב שלא אדבר כלל. אִם לֹא אַעֲלֶה אֶת יְרוּשָׁלִַם עַל רֹאשׁ שִׂמְחָתִי. בראשית כל אחת משמחותי אזכיר את ירושלים – מפלתה וחורבנה. גם כאשר אהיה שרוי בשמחה אישית, לא אשכח את ירושלים בעלבונה.
פסוק ז:נוסף על זיכרון החורבן יש זיכרון נוסף שאותו איננו רוצים לשכוח – זיכרון המלחמה והאויבים: זְכֹר, ה', לִבְנֵי אֱדוֹם, שהציקו אף הם לישראל בזמן החורבן, אֵת יוֹם חורבנה ומפלתה של יְרוּשָׁלִָם, שאז היו הם הָאֹמְרִים: "עָרוּ עָרוּ, החריבו, חשפו את הקירות עַד הַיְסוֹד בָּהּ". הם קראו לא רק לכיבוש, אלא גם להרס מוחלט.
פסוק ח:בַּת בָּבֶל הַשְּׁדוּדָה, השודדה, העוסקת בשוד, אַשְׁרֵי שֶׁיְשַׁלֶּם לָךְ אֶת גְּמוּלֵךְ שֶׁגָּמַלְתָּ לָנוּ. אשרי מי שיעשה לך כמו שעשית לנו.
פסוק ט:כלומר אַשְׁרֵי שֶׁיֹּאחֵז וְנִפֵּץ אֶת עֹלָלַיִךְ אֶל הַסָּלַע. אף שהמשורר מבקש נקמה, אין הוא אומר: אשרַי אם אעשה זאת, אלא מייחל שמישהו אחר יעשה זאת.