Rühm studierte die Fächer Klavier und Komposition an der Universität für Musik und darstellende Kunst in Wien. Nach seinem Studium nahm er Privatunterricht bei dem Zwölftonkomponisten Josef Matthias Hauer. Seit Anfang der 50er Jahre produzierte er Lautgedichte, Sprechtexte, visuelle Poesie, Photomontagen und Buchobjekte. Er ist Mitgründer der Wiener Gruppe (mit Friedrich Achleitner, H. C. Artmann, Konrad Bayer und Oswald Wiener) und auch Herausgeber der gleichnamigen Anthologie. Anreger für seine Kunst waren u. a. August Stramm, Kurt Schwitters, Gertrude Stein, Carl Einstein und Paul Scheerbart. Von 1972 bis 1996 war er Professor an der Hochschule für bildende Künste in Hamburg und von 1978 bis 1982 Präsident der Grazer Autorenversammlung. Rühms Arbeiten sind im Grenzbereich von Musik, Sprache, Gestik und Visuellem angesiedelt. Seine Hör-Produktionen sind herausragende Beispiele für das Neue Hörspiel und die Akustische Kunst. Außerdem verfasste er zahlreiche Werke der experimentellen Poesie für zwei Stimmen, die er gemeinsam mit seiner Frau Monika Lichtenfeld (1938–2023),[1][2] mit der er seit 1976 verheiratet gewesen war, vortrug. Laut einer Aussage von Rühm in einer Dokumentation von 2010 entsprang diese Art von Texten dem Wunsch, seine Frau auf seine Lesereisen mitzunehmen. Während eines Aufenthalts im Libanon beschäftigte er sich mit arabischer Musik. Sein Werk ist mit zahlreichen Preisen ausgezeichnet worden. Seit 2005 gibt Michael Fisch seine Gesammelten Werke heraus. Gerhard Rühm selbst verwaltet den Nachlass von Franz Richard Behrens und ist Herausgeber des Werkes von Konrad Bayer. Seit 1978 ist er Mitglied der Freien Akademie der Künste Hamburg. 2009 erhielt er den Alice-Salomon-Poetik-Preis und am 25. Januar 2010 die Ehrendoktorwürde der Universität zu Köln.
Der Fotograf und Regisseur David Rühm ist Rühms Sohn.[3] Rühm lebte jahrzehntelang in Köln,[4] 2023 zog er zurück nach Wien.[5]
„Aus expressiven und unmittelbar bedeutsamen Botschaften macht Rühm sich nichts, eher hält er es mit nahezu minimalistischen Strategien, wobei er den Zufall neben der Ordnung bestehen lässt. Die expressionistische Musiksprache der Schönberg-Schule interessiert ihn weniger, doch Reihen-Schemata spielen in seinem (literarischen) Werk eine bedeutende Rolle. Zufalls-Momente wie sich wiederholende Raster spielen bei ihm in Sprache und Aktion, in Musik und Graphik eine erhebliche Rolle.“
Band 4.1: Bildzyklen. Erster Teilband. Herausgegeben von Monika Lichtenfeld. Matthes & Seitz, Berlin 2019, ISBN 978-3-95757-929-4
Band 4.2: Bildzyklen. Zweiter Teilband. Herausgegeben von Monika Lichtenfeld. Matthes & Seitz, Berlin 2020, ISBN 978-3-95757-930-0
Band 5: Theaterstücke. Herausgegeben von Michael Fisch und Monika Lichtenfeld. Matthes & Seitz, Berlin 2010, ISBN 978-3-88221-518-2
Band 6.1: Prosa. Erster Teilband. Herausgegeben von Monika Lichtenfeld. Matthes & Seitz, Berlin 2023, ISBN 978-3-7518-0905-4
Band 6.2: Prosa. Zweiter Teilband. Herausgegeben von Monika Lichtenfeld. Matthes & Seitz, Berlin 2023, ISBN 978-3-7518-0906-1
Band 7: melodramen, lieder, chansons.
Band 8.1 und 8.2: bildnerische arbeiten.
Band 9: theoretische schriften.
Band 10: nachträge.
Diese Werkausgabe ist auf zehn Bände (in sechzehn Einzelbänden) angelegt und wird mit dem fünften Band seit 2010 vom Verlag Matthes & Seitz Berlin fortgeführt.
Interpretation von Josef Matthias Hauer: Sieben kleine Stücke für Klavier op.3, Fünf Hölderlin-Lieder op. 6, Sechs Zwölftonspiele, Gerhard Rühm (Klavier) und Adelina Rühm (Sopran), Amadeo AVRS 3013, Wien, LP 1953.
ich küsse heiß den warmen sitz – gerhard rühm spielt und singt eigene chansons nach texten von rühm, bayer und wiener, da camera song sm 95022, Heidelberg, LP, 1969
Selten gehörte Musik. 3. Berliner Dichterworkshop 12./13.7.1973. LP, Edition Hansjörg Mayer, Stuttgart 1974 (Dieter Roth, Gerhard Rühm, Oswald Wiener)
Selten gehörte Musik. Novembersymphonie (Doppelsymphonie). 2. Berliner Musik-Workshop 15.–26. Nov. 1973. 2LP, Edition Hansjörg Mayer, Stuttgart 1974 (Dieter Roth, Gerhard Rühm, Oswald Wiener)
Selten gehörte Musik. Streichquartett 558171 (Romenthalquartett). 3-LP-Set, Edition Hansjörg Mayer, Stuttgart/London/Reykjavík 1976 (Günter Brus, Hermann Nitsch, Dieter Roth, Gerhard Rühm)
Selten gehörte Musik. Musica Che Si Ascolta Raramente. Das Berliner Konzert November 1974. 3-LP-Set, Edizioni Morra/Pari e Dispari/Edition Hj Mayer, Reggio Emilia/Neapel/Stuttgart 1977 (Christian Ludwig Attersee, Günter Brus, Hermann Nitsch, Arnulf Rainer, Gerhard Rühm, Dominik Steiger, Oswald Wiener)
Selten gehörte Musik. Abschöpfsymphonie. 4-LP-Set, Edition Hansjörg Mayer/Edition Lebeer-Hossmann, Stuttgart/Brüssel/Hamburg 1979 (Christian Ludwig Attersee, Heinz Cibulka, Herbert Hossmann, Hansjörg Mayer, Hermann Nitsch, Paul Renner, Björn Roth, Dieter Roth, Gerhard Rühm, Dieter Schwarz, André Thomkins, Oswald Wiener)
Zusammen mit Christian Attersee: Klaviertreiben, Gerhard Rühm (Klavier), Christian Attersee (Klavier), Galerie Heike Curtze 001, Privatpressung, Düsseldorf/Wien, 1981.
bleistiftmusik. (= 1 MC in Kassette zu dem Buch-Objekt mit 14 Dias Bleistiftmusik). Köln: Edition Hundertmark 1982.
das leben chopins und andere ton-dichtungen., Edition Block EB 115/6, Berlin, DoLP, 1988.
botschaft an die zukunft. Gesammelte Sprechtexte. Reinbek: Rowohlt 1988. (= 1 MC in Kassette zu dem Buch Botschaft an die Zukunft) ISBN 3-498-05718-9.
Wiener Lieder und Gedichte. Graz und Wien: Droschl 1993 (= CD in Kassette zu dem Buch Sämtliche Wiener Dialektdichtungen) ISBN 3-85420-344-6.
vom eintonstück zum damentango. Klavierstücke und Melodramen 1950–1997. Edition Zeitton. Wien: Österreichischer Rundfunk 1998. (= 3 CD in Kassette) CD 151.
Opheila and the words / Wald, ein deutsches Requiem / Kleine Geschichte der Zivilisation. Mainz: Wergo 1998. (= Ars Acustica in Koproduktion mit dem WDR.)
verlier' nicht den kopf aus liebe. Gesammelte Chansons aus fünf Jahrzehnten. Edition Zeitton. Wien: Österreichischer Rundfunk 2000. (= 3 CD in Kassette) CD 211.
konstellationen. Frauenfeld in der Schweiz: gomringer-press 1961. (= konkrete poesie/poesia concreta 4) Ohne ISBN.
Gerhard Rühm (Hrsg.): Die Pegnitz-Schäfer. Georg Philipp Harsdörffer, Johann Klaj, Sigmund von Birken. Gedichte. Berlin: Gerhard 1964. Ohne ISBN.
fenster Texte. Reinbek bei Hamburg: Rowohlt 1968. Ohne ISBN.
Thusnelda.Romanzen. Stierstadt im Taunus: Eremiten-Presse 1968. Ohne ISBN.
DA.Eine Buchstaben-Geschichte für Kinder. Frankfurt am Main: Insel 1970. Ohne ISBN.
Gesammelte Gedichte und visuelle Texte. Reinbek bei Hamburg: Rowohlt 1970, ISBN 3-498-05668-9.
Knochenspielzeug.Märchen und Fabeln. Mit Graphiken von Christian Ludwig Attersee. Stierstadt im Taunus: Eremiten-Presse 1970. Ohne ISBN.
die frösche.Und andere Texte. Reinbek bei Hamburg: Rowohlt 1971. (= Rowohlt Taschenbuch 1460) ISBN 3-499-11460-7.
Die Reise nach Cythera.Zehn Umdichtungen. Stierstadt im Taunus: Eremiten-Presse 1971, ISBN 3-87365-017-7.
Ophelia und die Wörter.Gesammelte Theaterstücke 1954–1971. Darmstadt und Neuwied: Luchterhand 1972. Ohne ISBN.
Mann und Frau. Darmstadt und Neuwied: Luchterhand 1972. Ohne ISBN.
wahnsinn.Litaneien. München: Hanser 1973, ISBN 3-446-11777-6 (= Mit einer Schallplatte).
Comic. Edition Neue Texte, Linz 1975. Ohne ISBN.
bücher bilder bilder-bücher. Berlin: Edition am Mehringdamm 1976. (= 4. Publikation der Edition am Mehringdamm).
Adelaides Locken.Illustration und Nachrede zu einem Gedicht von Johann Heinrich Füssli. Köln und Berlin: Edition Hundertmark 1979. Ohne ISBN.
automatische zeichnungen. Wien: Museum Moderne Kunst 1979 (= Publikation 13 a) Ohne ISBN.
fotomontagen.1958–1966. Wien: Museum Moderne Kunst 1979 (= Publikation 13 b) Ohne ISBN.
hand- und körperzeichnungen. Wien: Museum Moderne Kunst 1979 (= Publikation 13 c) Ohne ISBN.
knochenspielzeug.Märchen, Fabeln und Liebesgeschichten. Düsseldorf: Eremiten-Presse 1979, ISBN 3-87365-138-6.
Zeichnungen aus dem Bestand der Galerie. München: Galerie Klewan 1979. Ohne ISBN.
Selten gezeigte Kunst.Gruppenarbeiten aus Berlin (Gerhard Rühm und andere). München: Galerie Klewan 1979. Ohne ISBN.
super rekord 50 + 50 (mit Friedrich Achleitner). Edition Neue Texte, Linz 1980, ISBN 3-900292-17-5.
Abenteuer des Don Juan.Zeichnungen 1980/81. Innsbruck, Wien und Düsseldorf: Galerien Krinzinger und Curtze 1981. Ohne ISBN.
Triumph des Herzens.Malerei, Kitsch und Kuriosa. (Gerhard Rühm und andere) München: Galerie Klewan 1982. Ohne ISBN.
Schriftzeichnungen 1956–1977. Hannover: Verlag Zweitschrift 1982. Ohne ISBN.
Bleistiftmusik (Buchobjekt mit 1 MC und 14 Dias.). Köln: Edition Hundertmark 1982. Ohne ISBN.
Salome.Nachdichtung des Textes von Oscar Wilde. Frankfurt am Main: Verlag der Autoren 1983, ISBN 3-88661-057-8.
Zwölf Österreicher(Gerhard Rühm und andere). München: Galerie Klewan 1983. Ohne ISBN.
Text Bild Musik.Ein Schau- und Lesebuch. Edition Freibord, Wien 1984. Ohne ISBN (=Freibord 41/42).
Wandrers (Geheimnis). Köln: Edition Hundertmark 1985. Ohne ISBN (= 18. Heft der Edition Hundertmark).
Die Wiener Gruppe.Achleitner, Artmann, Bayer, Rühm, Wiener. Herausgegeben von Gerhard Rühm. Reinbek bei Hamburg: Rowohlt 1985, ISBN 3-498-07300-1 (Erweiterte Neuausgabe).
leselieder/visuelle musik. Bielefeld und Graz: Kommunale Galerie und Kulturhaus 1986. Ohne ISBN.
Michael Fisch: Gerhard Rühm – Ein Leben im Werk (1954–2004). Ein chronologisches Verzeichnis seiner Arbeiten. Bielefeld: Aisthesis 2005, (= Bibliographien zur deutschen Literaturgeschichte 14) ISBN 3-89528-489-0.
Michael Fisch: »Ich« und »Jetzt«: Theoretische Grundlagen zum Verständnis des Werkes von Gerhard Rühm und praktische Bedingungen zur Ausgabe seiner »Gesammelten Werke«. Bielefeld: Transcript 2010, (= Lettre) ISBN 978-3-8376-1501-2.
Michael Fisch: I do not only commit myself – in making art – to one option. Confronting Paul de Vree and Gerhard Rühm. In: Confrontational Readings. Literary Neo-Avantgarde in Dutch and German. Herausgegeben von Inge Arteel, Lars Berners and Olivier Counter. Cambridge: Legenda 2020, S. 13–48. (Zusammen mit Dirk de Geest.) ISBN 978-1-78188-401-0
Renate Kühn (Hrsg.): Einfacher Durchgang. Zu Poesie und Poetologie Gerhard Rühms. Bielefeld: Selbstverlag 2009. Ohne ISBN.
Renate Kühn (Hrsg.): Doppelter Durchgang. Zu Poesie und Poetologie Gerhard Rühms. Bielefeld: Aisthesis 2010, ISBN 978-3-89528-823-4 (mit einer CD).
Melitta Becker und Gerhard Melzer: Gerhard Rühm. In: Kritisches Lexikon der Gegenwartsliteratur. Herausgegeben von Heinz Ludwig Arnold. München: Ed. Text u. Kritik. (Vorschau)