Cresciuto nella squadra di Mutzig, Gemmrich fu acquistato nel 1973 dallo Strasburgo in cui militerà fino al 1979 vincendo, al suo ultimo anno di militanza con gli alsaziani, il campionato. Nel 1978 Gemmrich fu inoltre convocato per la prima volta in Nazionale esordendo a Napoli contro l'Italia.
Nel 1979, subito dopo la vittoria del campionato con lo Strasburgo, Gemmrich fu ceduto al Bordeaux per far spazio a Carlos Bianchi[1]. Con i girondini Gemmrich rimase fino al 1983 vincendo il primo anno, la Coppa delle Alpi. Dopo una parentesi al Lilla e allo Strasburgo, Gemmrich nel 1984 passò al Nizza, dove si ritirò due anni dopo.
Dopo il ritiro dall'attività agonistica, Gemmrich svolse per qualche tempo la mansione di allenatore in seconda dello Strasburgo, divenendone tecnico ad interim nel 1989[2].
Passò poi all'attività politica divenendo consigliere municipale della città di Strasburgo[3] e, in seguito, consigliere territoriale delle attività sportive della regione Alsazia[4]. Nel settembre del 2008 ha presentato la candidatura alla presidenza della lega calcistica alsaziana[4].