Aníbal Troilo erlernte im Alter von acht Jahren das Bandoneon-Spiel und arbeitete bereits 1925 als professioneller Musiker in einem Stummfilmkino in Buenos Aires.
Aníbal Troilo spielte zunächst in einem Sextett gemeinsam mit dem ViolinistenAlfredo Gobbi. Ab 1929 war er zunächst Mitglied des Sexteto Vardaro-Pugliese und ging im gleichen Jahr zum Orquesta Típica des SängersJulio Sosa. Darüber hinaus spielte er auch bei verschiedenen anderen Tango-Formationen. Zeitweise begleitete Aníbal Troilo den Sänger Carlos Gardel. In dieser Zeit entwickelte er seinen unverwechselbaren Stil, der nachfolgend als Troilo-Sound (Sonido Troilo) bezeichnet wurde.
Im Jahr 1937 gründete Aníbal Troilo sein eigenes Orquesta Típica, dem eine Reihe renommierter Tangomusiker, wie der GitarristRoberto Grela und 1939–1944 der Bandoneonist Astor Piazzolla angehörten, und das bis Ende der 1950er-Jahre überaus populär war. Im Jahr 1952 formierte Aníbal Troilo das Instrumentalquartett Cuarteto de Aníbal Troilo. Er arbeitete fortwährend mit den besten Musikern, Arrangeuren und Sängern des Tangos zusammen. Von seinen Musikern verlangte er, ihr Instrument wie er selbst zum 'Singen' zu bringen nach der Art von Carlos Gardel. Er legte auch Wert darauf, "mit so wenig Tönen wie möglich so viel wie möglich zu sagen."[1]
Zu Ehren von Aníbal Troilo, der als Bandleader und Komponist den Tango maßgeblich prägte, errichtete die Stadt Buenos Aires eine Denkmal-Statue.[1]