Janson debuterte som trekkspillvirtuos i Oslos restaurantmiljø i tolvårsalderen. Hans mor, pianisten Margrethe Gleditsch, spilte en viktig rolle i hans musikalske utvikling, blant annet gjennom klaverundervisning. Hans klaverdebut som fant sted i Oslo i 1962 høstet flere lovord fra norske musikk-kritikere.[6] Han hadde også tidlig oppdrag i NRK og fikk tilbud om Europa-turné, men dette fikk hans mor satt en stopper for. Komposisjonsundervisning fikk Janson av Finn Mortensen og Bjørn Fongaard. Han hospiterte også på Musikhøgskolan i Stockholm, og deltok på et feriekurs i Darmstadt.[7]
Som utøvende musiker gjorde han seg spesielt bemerket innen jazz, og han samarbeidet på 1950-tallet blant annet nært med sangeren Nora Brockstedt.
Mange av Jansons verker bærer bud om hans bakgrunn i jazz. Blant de tidligste komposisjoner finnes det flere for jazzbesetning, som Patrice Lumumba (1961) for piano, bass og trommer. Fra 1962 begynte han å komponere mer notebunden musikk. Han gjorde seg raskt bemerket med verker som November 1962 for piano og Vuggesang for 48 strykere og sopran (1963). I 1966 vant hans orkesterverk Konstruksjon og hymne pris som beste ikke-hollandske verk i komposisjonskonkurransen ved Bilthoven-festivalen. Samme år fikk han sitt internasjonale gjennombrudd på International Society for Contemporary Music (ISCM) Verdensmusikkdager med Kanon for kammerorkester og lydbånd. Av andre større verk er balletten Mot Solen (1969), operaen Et fjelleventyr (1972), Forspill for fiolin og orkester (1975), Mellomspill for orkester (1985), Nasjonalsang (1988), Livsfrise for cello, kor og orkester (1999) og En Bibelhistorie for en skuespiller og 15 musikere (2007). For sistnevnte mottok han Edvardprisen i 2008.[8]
Det er vanskelig å plassere Alfred Janson i en stilmessig bås.[trenger referanse] Hans tidlige verker var i et modernistisk tonespråk, men han søkte seg etterhvert over i mer tonale baner. Han var selv stolt av Nocturne (1967) for blandet kor, celli, slagverk og harpe, et verk som regnes som et av hovedverkene innen norsk såkalt nyvennlighet.[trenger referanse] Han blir gjerne omtalt som en moderne romantiker, som har latt seg inspirere av både jazz og elektronikk. Hans verker avspeiler kreativ kraft, originalitet og viljestyrke, samtidig som de har en lys lyrisk undertone.[trenger referanse] Han lot seg ofte inspirere av politiske temaer, og er kanskje den eneste norske komponist som har oppnådd en demonstrasjon mot en fremførelse i Oslo Konserthus, fordi det aktuelle verk var en hilsen til spiondømte Arne Treholt.[9] Et nyere verk med klart politisk tilsnitt er A Bagdad Blues (not for Blair, not for Bush) fra 2003, som Janson skrev etter den amerkikansk-britiske invasjonen av Irak.[10] I den mer humoristisk-politisk genre står Valse Triste som en milepæl - en ikke helt snill collage over norsk kulturdebatt anno 1970.[trenger referanse] I sistnevnte genre er også korsuiten Errotikk og Pollitikk til tekst av Arild Nyquist, hvor komponisten, antakelig som den eneste i verden, benytter tempoangivelsen Hambo Lento.[11]
Et av Jansons verker som er hyppig fremført, er Sonnet No 76 for kor og solostemme (baryton eller syngende skuespiller) (2000). Verket er innspilt flere ganger, blant annet av Det norske solistkor (2006), som også bestilte verket, og Kammerkoret NOVA (2008). I 2014 urframførte trompetisten Tine Thing Helseth Jansons trompetkonsert Variasjoner over variasjoner over en norsk folketone, et verk som tar utgangspunkt i Edvard Griegs opus 24, Ballade i g-moll.
Alfred Janson mottok flere priser og utmerkelser for sitt virke som komponist og utøver. Han mottok Lindemanprisen i 1988 og Gammleng-prisen i 2010 i åpen klasse, i tillegg til Edvard-prisen i 2008. I 2016 ble han tildelt Arne Nordheims komponistpris.[13]
Foreldrene hans var billedhuggeren Gunnar Janson (1901–1983) og pianisten Margrethe Gleditsch (1901–1981). Han var far til skuespiller Teodor Janson, som han fikk sammen med skuespillerinnen Grynet Molvig.
Diverse: Response: Electronic Music From Norway (1970)
Diverse: Musique électronique Norvégienne (1970)
Shalom Ronly-Riklis & Inger Wikström: Shalom Ronly-Riklis med Young Israel Strings och Inger Wikström spelar Haydn, Partos, Alfred Janson och Israelisk folkmusik i Sverige (1970)