Quando aveva 6 anni Tellefsen iniziò a suonare il violino in "Trondheims musikkskole" (la scuola di musica di Trondheim). Nel 1955 iniziò i suoi studi presso la The Royal Danish Academy of Music di Copenaghen. Nel 1959 fece il suo debutto nella Universitetets Aula, Oslo.
Tellefsen è uno dei violinisti più apprezzati in Europa e nella sua lunga carriera da solista ha suonato con molte delle più grandi orchestre e direttori del mondo. Ha realizzato numerose registrazioni e ricevuto numerosi premi, tra cui l'Harriet Cohen International Music Award.
Nel febbraio 1984 partecipò a un'evacuazione di emergenza su un volo SAS che finì in mare al largo dell'aeroporto JFK.[4]
Sebbene avesse ricevuto l'ordine di lasciare i propri beni, si rifiutò di abbandonare il suo inestimabile violino Guarneri mentre facevano l'evacuazione su una zattera gonfiabile.
Gli evacuati dovettero remare dall'aereo con le mani nude e, a causa della mancanza di remi, sorsero diversi suggerimenti (anche se per lo più per scherzo) di usare il prezioso strumento come sostituto del remo.
1977: Christian Sinding, Konsert For Fiolin Og Orkester Nr. 1, Op. 45 / Suite For Fiolin Og Orkester Op. 10 / Legende For Fiolin Og Orkester Op. 46 (Norsk Kulturråds Klassikerserie), con Filharmonisk Selskaps Orkester, direttori d'orchestra: Okko Kamu & Kjell Ingebretsen
1979: Johan Daniel Berlin: Fiolinkonsert - 2 Symfonier - 4 Menuetter (Norsk Kulturråds Klassikerserie), con Kjell Jønnum (tromba) Gayle Mosand (harpsichord) & musicians from «Trondheim Kammerorkester», direttore d'orchestra: Arve Tellefsen
1980: Ole Bull: En Jubileumskonsert Med Kjente Og Ukjente Komposisjoner Inkl. «Sæterjentens Søndag» (Norsk Kulturråds Klassikerserie), con Musikkselskabet «Harmonien»'s Orkester, direttore d'orchestra: Karsten Andersen
1986: Edvard Grieg: Fiolinsonate Nr. 1 I F-Dur, Opus 8 / Fiolinsonate Nr. 2 I G-Dur, Opus 13 (Norsk Kulturråds Klassikerserie), con Eva Knardahl (pianoforte)
1986: Edvard Grieg: Fiolinsonate Nr. 3 I C-Moll, Opus 45 / Cellosonate I A-Moll, Opus 36 (Norsk Kulturråds Klassikerserie), con Eva Knardahl (Grand Piano), Aage Kvalbein (violoncello) & Jens Harald Bratlie (Grand Piano)
1989: Edvard Grieg: Violin Sonatas (Norsk Kulturråds Klassikerserie), con Eva Knardahl (piano)
1991: Schostakowitsch: Chamber Works (BIS)
1993: Schostakowitsch: Violin Concerto no. 1 op. 99 / Bach: Violin Concerto in E major (Grappa Music), con la Royal Philharmonic Orchestra, direttore d'orchestra: Paavo Berglund
^(NO) Heidi Schei Lilleås, Bruk fiolinen som åre, Arve, NettAvisen.no, 16 gennaio 2009. URL consultato il 18 agosto 2013 (archiviato dall'url originale il 30 ottobre 2010).
^(NO) Arve Tellefsen æresdoktor ved Musikkhøgskolen, in Universitas, agosto 2009.