Nato in un piccolo villaggio vicino a Torres Vedras, combatté per tre anni con l'esercito portoghese nell'Angola e nel Mozambico durante la guerra coloniale portoghese del 1961-1974. Qui si fece notare per la sua predisposizione al ciclismo.
Joaquim Agostinho, «di media statura, ma con la costruzione di un rinoceronte», secondo Pierre Chany[1], fu scoperto da Jean de Gribaldy, ex ciclista e direttore sportivo[2]. I due si incontrarono in Brasile nel 1968, quando Agostinho vinse la Volta a São Paulo[2], ed instaurarono un profondo legame.
A stagione inoltrata del 1969, De Gribaldy lo portò alla Frimatic, permettendogli di passare al professionismo e di correre il Tour de France, nel quale vinse due tappe. Iniziarono quindi i successi, accompagnati tuttavia anche da molte cadute, che ne caratterizzarono la carriera. Tra queste si ricorda quella occorsagli nella corsa francese nel 1970 a Divonne-les-Bains, nella quale riportò una commozione cerebrale[3]: la mattina seguente risalì in sella e portò a termine il Tour de France. Al Tour subì delle cadute anche nelle due edizioni successive, dove si dimostrò uno dei migliori scalatori e avrebbe potuto lottare per la vittoria finale.
Corse per 13 volte la Grande Boucle, dal 1969 al 1983, classificandosi per due volte terzo nella classifica generale (1978 e 1979) e vincendo quattro tappe. Fu campione portoghese per sei anni consecutivi, dal 1968 al 1973, imponendosi come scalatore sia nella Vuelta a España che nel Tour de France, dove vinse una tappa all'Alpe d'Huez nell'edizione 1979. Rimase con De Gribaldy fino al 1973, quando passò prima con la Bic e poi con la Teka; ritornò con il suo "scopritore" nel 1978, alla Flandria.
Il team Frimatic-De Gribaldy con Joaquim Agostinho sulla destraIl team Frimatic-Jean de Gribaldy nel 1970
Cadde tre volte nella rete dei controlli anti-doping: alla Volta a Portugal nel 1969, che aveva inizialmente vinto (gli venne inflitta una penalità di 15 minuti), e nel 1973 (inizialmente vincitore, fu declassato)[4], e al Tour de France 1977, dove gli venne assegnata una penalità di 10 minuti.
Nell'aprile 1984, durante la Volta ao Algarve, gara a tappe che stava conducendo, a pochi metri dall'arrivo della tappa di Quarteira (Loulé), Agostinho urtò un cane entrato alla sede stradale, cadendo rovinosamente a poche centinaia di metri dall'arrivo e battendo pesantemente la testa. Risalì in sella e tagliò il traguardo accompagnato da altri corridori. Apparentemente soltanto stordito dalla botta, venne medicato dall'ambulanza e fece ritorno in albergo. Dopo due ore, però, venne portato all'ospedale di Faro, dove una radiografia evidenziò la rottura dell'osso parietale del cranio. Trasferito d'urgenza a Lisbona, cadde in coma durante il tragitto in ambulanza, morendo in ospedale dieci giorni dopo, senza essersi più ripreso.
A Torres Vedras, in cima al Parque Verde da Várzea, c'è un monumento eretto in suo onore[6].
Nei giardini di Silveira un suo monumento fu inaugurato il 14 maggio 1989[6].
La strada Avenida Joaquim Agostinho conduce al centro di Santa Cruz[6].
In Francia, alla 14ª curva della salita che conduce all'Alpe d'Huez, un busto in bronzo (alto 1.70 metri, e pesante 70 kg), montato su un piedistallo in granito, commemora la sua vittoria di tappa nel 1979.
Nel 2000 i giornalisti di A Bola selezionarono Agostinho tra i quattro principali sportivi portoghesi del XX secolo, collocandolo dietro ad Eusébio, Carlos Lopes e Rosa Mota[6]