Gundersen ble europamester på skøyter tre ganger – i 1901, 1904 og 1906. Under EM i Davos i 1906 satte han verdensrekord på 500 m med 44,8, og ble den første som gikk under 45 sekunder på distansen. Under VM i Helsingfors i 1902 vant Gundersen de to korte distansene og finnen Jussi Wiinikainen de to lengste, og det kunne ikke kåres noen mester. Også i VM i 1900, 1901, 1904 og 1906 plasserte Gundersen seg blant de fremste.
Han ble norgesmester i 1901, 1902 og 1905 og nr. 2 i 1899, 1900 og 1903.
Adskilte europamesterskap i allround, menn og kvinner - frem til og med 1988/1989-sesongen. Felles europamesterskap i allround sammen med kvinner - fra og med 1989/1990-sesongen. Nytt format fra og med 2016/17-sesongen, utvidet med sprint-mesterskap samtidig med allroundmesterskap kun i oddetallsår og kun enkeltdistansemesterskap i partallsår. Allround : Stor firkamp 0 / 0 Sprint : Sprint firkamp (2017– ) 0 / 0 Enkeltdistanser : (2018– )