Nach einer grundlegenden musikalischen Ausbildung bei den Wiener Sängerknaben von 1953 bis 1957 studierte Gruber von 1957 bis 1963 an der Wiener Musikhochschule die Fächer Horn, Kontrabass, Elektronische Musik, Filmmusik und Komposition, u. a. bei Alfred Uhl und Erwin Ratz und 1963 in der Meisterklasse bei Gottfried von Einem. Von 1963 bis 1969 war er als Kontrabassist Mitglied des Tonkünstler-Orchesters und von 1969 bis 1995 Mitglied des ORF Radiosymphonieorchesters. Bereits in den 1960er Jahren machte er sich einen Namen als Dirigent, so ab 1961 beim Ensemble „die reihe“, dessen künstlerischer Leiter er als Nachfolger von Friedrich Cerha im Jahr 1984 wurde. 1968 gründete er gemeinsam mit Kurt Schwertsik und Otto M. Zykan das Ensemble MOB art & tone Art. Er gastiert als Dirigent regelmäßig beim Klangforum Wien, dem Ensemble Modern, der London Sinfonietta, dem Scottish Chamber Orchestra und weiteren namhaften Klangkörpern. Zahlreiche CD-Veröffentlichungen, unter anderem mit dem Palast Orchester und dem Ensemble Modern, zeugen von der künstlerischen Vielseitigkeit Grubers.
HK Gruber ist mit der Künstlerin und Lyrikerin Franka Lechner verheiratet und lebt in Wien und Rosenburg (Niederösterreich).
Die Vertreibung aus dem Paradies (op. 17; 1966, revidiert 1979). Melodram. Libretto: Richard Bletschacher. UA: 1969 Wien
Gomorra (1976, revidiert 1990/91). Ein musikalisches Spektakel. Libretto: Richard Bletschacher. UA: 1993 Wien
Gloria von Jaxtberg oder Das Gegenteil von Wurst ist Liebe (1992/93). A pigtale (Kammeroper in zwei Teilen). Libretto: Rudolf Herfurtner. UA: 1994 Huddersfield.
Violinkonzert No. 1: ... aus schatten duft gewebt, für Violine und Orchester, 17'. UA: 20. September 1979, Berlin, überarbeitete Version UA: 20. Juli 1992, Stadthalle Palasport, Bozen.
Rough Music (1982/83). Konzert für Schlagzeug und Orchester. UA: 1983, Schlagzeug: Gerald Fromme, Orchester des ORF. Schweizer EA: Oktober 1988, Schlagzeug: Dieter Dyk; Tonhalle-Orchester Zürich, Dirigent: Yoav Talmi.
Nebelsteinmusik für Violine und Streicher, 16', UA: 10. Juli 1988, Festival in St. Florian.
Konzert (1989) für Violoncello und Ensemble (kleines Orchester). UA: 3. August 1989 Tanglewood Music Center, Violoncello: Yo-Yo Ma; Boston Musica Viva, Dirigent: Richard Pittman.
Kurzgeschichten aus der Oper „Geschichten aus dem Wienerwald“ für Orchester, UA: vollständige Fassung 22. September 2022, GewandhausorchesterLeipzig Dirigent: Cristian Măcelaru
Nicht nur Frankenstein. Der Komponist Heinz Karl Gruber. Dokumentarfilm, Österreich, 2014, 33:40 Min., Buch und Regie: Herbert Eisenschenk, Produktion: Vermeer-Film, ORF, Reihe: matinee, Erstsendung: 21. Juli 2014 bei ORF 2, Inhaltsangabe von ORF 2, (Memento vom 29. Juli 2014 im Internet Archive).