Karl-Markus Gauß entstammt einer donauschwäbischen Familie, sein Vater war der Verleger und Volkskundler Adalbert Karl Gauß.[1] Er studierte Germanistik und Geschichte in Salzburg und trat schon früh durch literarische Essays hervor, die er zunächst vor allem im Wiener Tagebuch veröffentlichte. Als Herausgeber betreute er gemeinsam mit Ludwig Hartinger die (nicht abgeschlossene) Werkausgabe Ernst Fischers im Frankfurter Sendler Verlag.
Ab 1991 war Gauß als Herausgeber und Chefredakteur der Literaturzeitschrift Literatur und Kritik tätig. Gauß’ Themen spiegelten sich auch in dieser Zeitschrift wider. Daneben schreibt er für die Süddeutsche Zeitung (in der er eine Kolumne hat), die Neue Zürcher Zeitung sowie regelmäßig in vielen österreichischen Zeitungen und Zeitschriften.
Gauß zeichnet sich vor allem durch seine Essays aus. Er bezieht in ihnen Stellung für eine menschliche Welt; sehr prägnant und stilistisch versiert hebt er die verschiedenen Paradoxien und Perversionen des modernen Lebens hervor, ohne dabei in Kulturpessimismus zu verfallen. Immer wiederkehrendes Thema ist die Annäherung an Nationale Minderheiten und Ethnien (beispielsweise Arbëreshe, Aromunen, Gottscheer-Deutsche, Roma, Sepharden von Sarajevo und Sorben). Weitere Themen sind Mittel- und Südosteuropa. Diese Regionen hat Gauß für seine Bücher vielfach bereist, häufig gemeinsam mit dem Fotografen Kurt Kaindl.
Seine Reisereportagen befassen sich mit kulturellen Begegnungen, dem Austausch mit Intellektuellen und Schriftstellern genauso wie mit Menschen auf der Straße und in Gasthäusern. Sowohl in seinen Essays wie auch in den Reiseberichten und Journalen stellt Gauß in Österreich oft wenig bekannte mittel- und osteuropäische Schriftsteller vor.
Das europäische Alphabet. Paul Zsolnay Verlag, Wien 1997. ISBN 3-552-04827-8.
Ins unentdeckte Österreich. Nachrufe und Attacken. Paul Zsolnay Verlag, Wien 1998. ISBN 3-552-04878-2.
Der Mann, der ins Gefrierfach wollte. Albumblätter. Paul Zsolnay Verlag, Wien 1999. ISBN 3-552-04936-3.
Die sterbenden Europäer. Unterwegs zu den Sepharden von Sarajevo, Gottscheer Deutschen, Arbëreshe, Sorben und Aromunen. Paul Zsolnay Verlag, Wien 2001. ISBN 3-552-05158-9.
Kurt Kaindl: Die unbekannten Europäer. Fotoreise zu den Aromunen, Sepharden, Gottscheern, Arbëreshe und Sorben. Mit Texten von Karl-Markus Gauß. Otto Müller Verlag, Salzburg 2002. ISBN 3-7013-1060-2.
Mit mir, ohne mich. Ein Journal. Paul Zsolnay Verlag, Wien 2002. ISBN 3-552-05181-3.
Von nah, von fern. Ein Jahresbuch. Paul Zsolnay Verlag, Wien 2003. ISBN 3-552-05286-0.
Die Hundeesser von Svinia. Paul Zsolnay Verlag, Wien 2004. ISBN 3-552-05292-5.
Wirtshausgespräche in der Erweiterungszone. Otto Müller Verlag, Salzburg. 2005, ISBN 3-7013-1102-1.
Die versprengten Deutschen. Unterwegs in Litauen, durch die Zips und am Schwarzen Meer. Paul Zsolnay Verlag, Wien 2005. ISBN 3-552-05354-9.
Christian Tanzer: Im Vergessen das Gedächtnis sein. Der Essayist Karl-Markus Gauß. Verlag Dieter Heinz, Stuttgart 2007, ISBN 978-3-88099-438-6.
Werner Michler, Klemens Renoldner, Norbert Christian Wolf (Hrsg.): Von der Produktivkraft des Eigensinns. Die Literaturen des Karl-Markus Gauß. Otto Müller Verlag, Salzburg 2017, ISBN 978-3-7013-1243-6.
Germanoslavica. Zeitschrift für germano-slawische Studien. Im Auftrag des Slawischen Instituts der Akademie der Wissenschaften der Tschechischen Republik hg. v. Siegfried Ulbrecht. Gastherausgeber: Edgar Platen, Irena Samide und Helena Ulbrechtová. Jg. 31 (2020), H. 1–2. Themenheft „Karl-Markus Gauß“. ISSN1210-9029.
Anna Pastuszka: Die Reise nach Ost- und Ostmitteleuropa in der Reiseprosa von Wolfgang Büscher und Karl-Markus Gauß. - Peter Lang-Verlag, Berlin 2019 (Lubliner Beiträge zur Germanistik und Angewandten Linguistik 10).
Vasile V. Poenaru: Articulate Europe à la Karl-Markus Gauß. PerNi Publishing Unlimited (Series Germanistik, Volume 5). Toronto 2020.