Nasceu no então bairro de Joaquim Egídio no distrito de Sousas e foi batizado com o nome de seu avô materno Aniello, que mais tarde modificaria[1]. Era filho dos imigrantes italianos Vincenzo Rossi e Vittoria Colombo, ambos originários da localidade de Lagonegro (Basilicata)[2]. Teve um único irmão, Michele "Miguel" Rossi.
Realizou seus primeiros estudos em Valinhos, ingressando depois, 26 de janeiro de 1926, no Seminário Menor Diocesano Santa Maria, em Campinas, onde também cursou a Filosofia. A 15 de outubro de 1933 partiu para Roma, instalando-se por cinco meses no Colégio Pio Latino-Americano. A 4 de abril de 1934, foi um dos trinta e três alunos fundadores do Pontifício Colégio Pio Brasileiro, onde recebeu a matrícula de número 1 do novo e grandioso colégio, na Via Aurélia. Realizou seus estudos de Teologia na Pontifícia Universidade Gregoriana de Roma.
Em 6 de setembro de 1962, foi designado ArcebispoMetropolitano de Ribeirão Preto, São Paulo, função que exerceu até 1 de novembro de 1964, quando da sua nomeação pelo Papa Paulo VI para Arcebispo de São Paulo. Em 1968, pressionado pelo clero paulista, recusou-se a receber do governo Costa e Silva a grã-cruz da Ordem Nacional do Mérito, uma atitude de protesto à expulsão do padre-operário belga Pierre-Joseph Wauthier, preso por negar-se a abençoar as liturgias patronais.[3] Tentando não se indispor com o governo, chegou a propor não receber a medalha em público, mas no quartel-general do II Exército e celebrar de bom grado uma missa de comemoração ao aniversário do presidente, mas Costa e Silva não aceitou.[3] Enquanto arcebispo de São Paulo, foi o responsável pela inauguração das duas torres da Catedral da Sé em 15 de novembro de 1969.[4]
Exerceu esta função até 22 de outubro de 1970, quando foi chamado a servir a Igreja na Cúria Romana.
A 25 de janeiro de 1965, durante as cerimônias de inauguração do Palácio dos Bandeirantes, sede do governo do estado de São Paulo, foi anunciada a sua escolha para o cardinalato. No Consistório do dia 22 de fevereiro de 1965, festa da Cátedra de São Pedro, presidido pelo Papa Paulo VI, na Basílica de São Pedro, Dom Agnelo Rossi foi criado Cardeal-presbítero, do título da Grande Mãe de Deus (1970-1984). Tomou posse de sua igreja titular a 27 de fevereiro de 1965.
A 2 de setembro de 1983, foi agraciado com o grau de Grã-Cruz da Ordem Militar de Cristo, de Portugal.[5]
Descrição: Escudo eclesiástico (oval). Em campo de blau um in-fólio aberto de argente com uma espada do mesmo posta em pala e brocante sobre o livro, tendo, adestrada em chefe, uma estrela de seis pontas também de argente. Chefe de goles com três flores-de-lis de argente ordenadas em faixa – que é de Rossi. O escudo está assente em tarja branca, na qual se encaixa o pálio branco com cruzetas de sable. O conjunto pousado sobre uma cruz trevolada de duas travessas de ouro. O todo encimado pelo chapéu eclesiástico com seus cordões em cada flanco, terminados por quinze borlas cada um, tudo de vermelho. Brocante sob a ponta da cruz um listel de argente com a legenda: OPORTET ILLVM REGNARE, em letras de sable.
Interpretação: O escudo oval obedece as regras heráldicas para os eclesiásticos. O campo azul representa o manto de Maria Santíssima sob cuja proteção o Cardeal pôs toda a sua vida sacerdotal, sendo que este esmalte significa: justiça, serenidade, fortaleza, boa fama e nobreza. O in-fólio com a espada representa o apóstolo São Paulo padroeiro do Estado onde nasceu o Cardeal e da Cidade onde foi Arcebispo, sendo de prata simboliza a inocência, a castidade, a pureza e a eloquência, virtudes essenciais num sacerdote. A estrela de seis pontas representa Nossa Senhora, a Estrela Matutina – Aurora da Salvação – e sendo de argente tem o simbolismo deste metal já descrito acima. O chefe é do brasão de armas da Família Rossi, sendo também uma homenagem a Sua Santidade o Papa Paulo VI, em cujo escudo também se encontram três flores-de-lis de argente, mas postas: 1 e 2, em chefe (de Montini). A cor vermelha simboliza o fogo da caridade inflamada no coração do Cardeal pelo Divino Espírito Santo e também faz alusão ao seu nome de família: Rossi, que em italiano é plural de vermelho. A flor-de-lis, a mais nobre das flores heráldicas, é símbolo de nobreza e poder, e sendo tríplice honra a Santíssima Trindade. A cruz de duas travessas representa a dignidade arquiepiscopal e o chapéu a dignidade cardinalícia. O ouro da cruz simboliza: nobreza, autoridade, premência, generosidade, ardor e descortínio. O listel tira seu lema da frase de São Paulo (1 Cor. 15, 25) OPORTET ILLVM REGNARE: " É preciso que Ele reine" confirmando bem ser só Jesus Cristo a aspiração contínua da vida do Cardeal, dando eco à carta Apostólica Œcumenicum Concilium. O esmalte negro das letras simboliza: a sabedoria, a ciência, a honestidade, a firmeza e a obediência ao Sucessor de Pedro.
Projeto de barra do Piraí-RJ - com o Movimento dos Voluntários do Papa ao cargo do Graal (1959)
Representante do Episcopado da América-Latina para a Cooperação com os Bispos dos Estados Unidos e Canadá, no Encontro de Washington-EUA -Georgetown University (Novembro de 1959)
Administrador Apostólico da Diocese de Valença (1959)
Organizador do Comitê latino-Americano da Fé (CLAF, 1959) e fundador do Instituto Catequético Latino Americano (ICLA) Santiago-Chile (1960)
Congresso Missionário de Torreón-México - Enviado Papal (1977)
Congresso Missionário de Manila-Filipinas - Enviado Papal (1979)
Criação:
do Centro Internacional de Animação Missionária - CIAM - Roma-Itália (1974)
do Instituto de Catequese Missionária, em duas Sessões: Roma e Castel Gandolfo
do Foyer Paulo VI
do Centro de Estudos Chineses - Pontifícia Universidade Urbaniana - Roma-Itália
do Centro de Estudos sobre o Ateísmo - Pontifícia Universidade Urbaniana - Roma- Itália
do Centro de Estudos sobre Evangelização e Culturas - Pontifícia Universidade Urbaniana - Roma-Itália
Reformas:
Palácio da Propaganda Fide - Piazza di Spagna - Roma-Itália
Novo Arquivo da Propaganda Fide
Prédio da Universidade Urbaniana
Prédio de Castel Gandolfo
Vila Betania
Melhoramento nas propriedades agrícolas da Propaganda Fide
Construções:
Prédio da Reitoria da Universidade Urbaniana -Roma-Itália
Nova Biblioteca da Universidade Urbaniana - Roma-Itália (dotada com mais de 400 novos volumes)
Foyer Paulo VI
Auditório João Paulo II
Casa de São José - das Irmãs Carmelitas que assistem à Universidade Urbaniana
Novo Edifício do Centro de Animação Missionária
Viagens ao exterior com finalidade apostólica:
África: África do Sul, Alto Volta, Angola, Camarões, Congo, Costa do Marfim, Egito, Gabão, Gana, Guiné Equatorial, Marrocos, Mocambique, Quênia, Senegal, Essuatíni, Sudão e Zaire
América: Antilhas, Argentina, Bolívia, Brasil, Canadá, Chile, Colômbia, Costa Rica, El Salvador, Equador, Estados Unidos (e ONU), Guatemala, México, Panamá, Paraguai, Peru, Uruguai e Venezuela
Ásia: Camboja, Coréia do Sul, Emirados Árabes Unidos, Filipinas, Japão, Jordânia, Hong-Kong, Índia, Indonésia, Israel, Kuwait, Líbano, Macau, Malásia, Singapura, Síria, Sri Lanka, Tailândia, Taiwan e Vietnan do Sul
Europa: Alemanha, Áustria, Bélgica, Espanha, França, Grécia, Inglaterra, Irlanda, Itália, Jersey, Lichtenstein, Luxemburgo, malta, Portugal, San Marino e Suíça.
Oceania: Austrália, Fiji, Ilhas Salomão, Novas Híbridas, Nova Zelândia, Papua-Nova Guiné e Samoa.
Viagens apostólicas com o Santo Padre:
Austrália e Filipinas: com o Papa Paulo VI (1970) - como Prefeito da Propaganda Fide
Dom Agnelo foi um verdadeiro Evangelizador:
"Como minha primeira grande viagem foi a Roma, sentindo ao vivo, durante quatro felizes anos, a romanidade e a catolicidade da Igreja, a minha vida e as demais viagens ficaram iluminadas e marcadas por esses dois objetivos … Lograram convencer-me, cada vez mais, da submissão e amor ao Santo Padre e da adesão incondicional à Igreja Missionária e, portanto, Universal"