Mazmur ini menggambarkan penderitaan orang-orang Yahudi saat pembuangan di Babel, setelah jatuhnya Yerusalem tahun 586 SM. Sungai-sungai Babel adalah sungai Efrat dengan anak-anak sungainya dan sungai Tigris (mungkin juga termasuk sungai Habor, Chaboras/Khabur, yang bergabung dengan sungai Efrat di Circesium).[4] Di samping kerinduan akan Yerusalem, juga tercatat kebencian pada orang-orang yang menghancurkan kota itu. Sumber-sumber rabbinik mencatat Mazmur ini ditulis oleh nabi Yeremia,[5] dan di Alkitab Septuaginta diawali dengan catatan: "Untuk Daud. Oleh Yeremia, di pembuangan".[6]
Sejumlah komunitas Yahudi membaca mazmur ini sebelum doa sehabis makan Birkat Hamazon pada hari-hari di mana Mazmur 126 (Shir Hama'alot) tidak dibacakan.
Di Gereja Ortodoks Timur dan gereja Katolik Timur yang memakai ritual Bizantin, Mazmur ini (Mazmur 136 menurut penomoran Septuaginta) merupakan bagian Kathisma ke-19 dan dibaca dalam ibadah Matins pada Jumat pagi sepanjang tahun, kecuali pada Minggu Terang ("Bright Week") (yaitu minggu setelah hari Paskah) di mana tidak ada pembacaan mazmur sama sekali. Selama Minggu-minggu Sengsara ("Great Lent") dibaca dalam Matins pada hari Kamis dan pada "Jam Ketiga" ("Third Hour") hari Jumat, tetapi dalam minggu ke-5 Minggu Sengsara, dibaca dalam Vespers pada hari Selasa petang dan pada "Jam Ketiga" hari Jumat. Juga dinyanyikan dengan khusuk dalam Matins setelah Polyeleos pada tiga hari Minggu menjelang Minggu-minggu Sengsara.
Banyak karya musik yang dibuat berdasarkan mazmur ini sengaja menghilangkan ayat terakhir. John L. Bell, seorang komposer nyanyian rohani, berkomentar pada karyanya untuk mazmur ini: "Ayat terakhir dihilangkan karena kutukan yang luarbiasa keras ini sebaiknya disampaikan dalam khotbah atau diskusi kelompok. Namun, tidak boleh dilupakan, terutama oleh mereka yang belum pernah merasakan pembuangan, betapa kejamnya penjajahan atau pemerkosaan atas orang dan tanah lain."[10]
Musik Latin (Super Flumina Babylonis) oleh Palestrina (1525–1594), Orlando di Lasso (1532–1594) dan Nicolas Gombert (c. 1495 – c. 1560) sebagai motet 4-suara.
Musik Yahudi (עַל נַהֲרוֹת בָּבֶל, Al naharot Bavel) oleh Salamone Rossi (1570–1630) untuk 4 suara.
Pianis-komposer Prancis abad ke-19 Charles-Valentin Alkan (1813–1888) menggubah "Super Flumina Babylonis" Op. 52.
Inspirasi dari nyanyian budak Va, pensiero yang terkenal dari opera Nabucco karya Giuseppe Verdi (1813–1901).
Bagian kedua dari "Two Psalms" (1931) oleh Harry Partch (1901–1974) adalah "By the Rivers of Babylon" (1931–41), asalnya dibuat untuk viola & suara "intoning", dengan kithara dan chromelodeon ditambahkan pada tahun 1955.
Dalam oratorio karya William Walton (1902–1983) "Belshazzar's Feast", sebuah versi untuk bagian pembukaan digubah seakan-akan dinyanyikan oleh orang-orang Israel yang dibuang di Babel.
David Amram (b. 1930) membuat lagu Inggris ("By the Rivers of Babylon").
Dimasukkan dalam lagu On the Willows, karya Stephen Schwartz dalam opera Broadway Godspell.
Brent Dowe dan Trevor McNaughton dari The Melodians menulis Rivers of Babylon, menurut musik Jamaica, yang dimasukkan dalam film "The Harder They Come" dan dipopulerkan oleh kelompok musik Boney M pada tahun 1970-an. Pada tahun 1992, grup rock/reggae "Sublime" mengeluarkan "live cover" lagu ini dalam album mereka "40 oz. to Freedom".
Mazmur 137:5–6 menjadi dasar dari refrain lagu "Jerusalem" oleh Matisyahu.
Dua ayat pertama menjadi setting musik oleh komposer Inggris Philip Hayes.[11]Don McLean membuat lagu "Babylon" sebagai track terakhir dari albumnya tahun 1971 "American Pie".
Pemusik Fernando Ortega membuat lagu "City of Sorrows" berdasarkan mazmur ini.
William Faulkner memakai If I Forget Thee Jerusalem (1939) sebagai judul karya sastranya.
Penyair Portugis pada abad ke-16 Luís de Camões membuat sajak Sôbolos rios que vão por Babilônia berdasarkan mazmur ini
Penyair Wales Evan Evans membuat "A Paraphrase of Psalm CXXXVII" sebagai jawaban langsung atas Mazmur 137 dan membandingkan kesengsaraan orang-orang Wales dengan orang-orang Israel di mazmur ini.
Selain dalam musik, judul "Di tepi sungai-sungai Babel" (By the waters of Babylon) dibuat dalam bentuk lain misalnya: stanza ke-3 The Fire Sermon dari sajak The Waste Land karya T. S. Eliot (tahun 1922) berbunyi: 'By the waters of Leman I sat down and wept...'. Leman (dari bahasa Prancis kuno) dapat diartikan "Danau Jenewa" atau sebutan untuk kekasih[12]
By the Waters of Babylon, cerita pendek tahun 1937 oleh Stephen Vincent Benét.
By Grand Central Station I Sat Down and Wept, sajak tahun 1945 oleh Elizabeth Smart.
By the River Piedra I Sat Down and Wept]], novel tahun 1994 oleh Paulo Coelho.
Di buku ke-10, bab 7 buku The Brothers Karamazov, Kapten Snegiryov mengutip ayat 5 dan 6.
Paus Gregory X mengutip Mazmur 137 ("If I forget thee, O Jerusalem, let my right hand forget her cunning") sebelum melepas tentara "Perang Salib" (Crusades) saat pentahbisannya menjadi Paus (1268–1271).
^James L. Kugel, "Psalm 137," in In Potiphar's House (Cambridge, MA: Harvard University Press, 1994)
^
translated from the Greek Septuagint by the Holy Transfiguration Monastery. (1987). The Psalter According to the Seventy (1974) (edisi ke-second printing). Boston MA: Holy Transfiguration Monastery. hlm. 241. ISBN0-943405-00-9.