Karl Günther joue après sa formation dans différents théâtres à Berlin, Hambourg, Munich et Dresde. Il est plus tard engagé à Vienne au Volkstheater et au Theater in der Josefstadt.
Il commence sa carrière au cinéma en 1920, mais c'est à partir de Burgtheater qu'il devient connu du grand public. Il joue alors les acteurs élégants ou les nobles, les officiers ou les dirigeants, souvent avec un caractère antipathique.