Rudolf Koelman ha studiato con Jan Bor, Herman Krebbers e Jascha Heifetz.
Dal 1996 al 1999 ha ricoperto il ruolo di spalla della Royal Concertgebouw Orchestra di Amsterdam.
Al momento (2007) è titolare della cattedra di violinismo solista presso la Zürcher Hochschule der Künste Zurigo (ZHdK) e dirige la giovane orchestra dell'istituto.
Suona abitualmente un violino costruito nel 1829 da Giovanni Francesco Pressenda e possiede anche un violino olandese Jaap Bolink del 1984 e suona un violino costruite nel 1720 da Antonio Stradivari (Ex Woolhouse)
Koelman ha suonato come solista con varie orchestre, compreso quella di Amsterdam, di Berna, la Bruckner di Linz, il Concertgebouw di Amsterdam, il Combattimento Consort, la Fremantle Chamber Orchestra, la Haydn Synfonietta di Vienna, la sinfonica di Innsbruck, la WDR di Colonia, la Broadcasting System Symphony Orchestra coreana, la Orchestra da Camera di Losanna, la Orchestra Sinfonica Siciliana, quella di Radio Kamer, la Radio Philharmonisch Orkest, il Royal Concertgebouw, la Stuttgarter Philharmoniker, la Südwestdeutsche Philharmonie, la Tokyo Philharmonic e la Zürcher Kammerorchester.