Het orkest werd in 1972 opgericht door Sigiswald Kuijken en Gustav Leonhardt. Als kenner op het gebied van authentieke uitvoering van oude muziek kreeg Kuijken de vraag van het Duitse Harmonia Mundi, om Le Bourgeois Gentilhomme van Jean-Baptiste Lully op te nemen onder leiding van Gustav Leonhardt. De naam werd ontleend aan het orkest van Lully zelf aan het hof van Lodewijk de XIV. Onder meer door authentieke instrumenten te gebruiken en de oude speelwijze in ere te herstellen, streeft het orkest ernaar de oude muziek, zowel qua interpretatie als qua klankbeeld, zo getrouw mogelijk te laten herleven.
In 2000 startte La Petite Bande de J.S. Bach Cantate-serie bij Accent Records. Deze productie kadert in de reeks van Cantaten doorheen het kerkelijk jaar, waarbij een vocaalkwartet centraal staat. De opvatting "one to a part", een zanger per muziekpartij, is het uithangbord van Kuijken voor deze nieuwe opnamen.[1][2][3][4]
In 2004 introduceerde Sigiswald Kuijken de "violoncello da spalla" (schoudercello) aan het publiek. Op basis van enkele overgeleverde instrumenten en na grondig onderzoek (onder meer rond de snaren) bouwde de Belgisch-Russische instrumentenbouwer Dmitry Badiarov een eerste prototype, dat in de loop van de jaren nog verfijnd werd. Dit instrument werd voornamelijk gebruikt in Noord-Italië en Zuid-Duitsland aan het einde van de 17e en het begin van de 18e eeuw, vaak in het kader van kamermuziek. J.S. Bach heeft, naar Kuijken vermoedt, zijn beroemde cellosuites voor dit instrument geschreven. Hij heeft ze dan ook op de plaat gezet, gespeeld op dit instrument. La Petite Bande nam ook de Vier Jaargetijden van Vivaldi op met een schoudercello in het orkest. In Kuijkens optiek komt het stuk zo veel beter tot zijn recht.
Op 2 februari 2009 werd Kuijken met de Cultuurprijs (Prijs van de Vlaamse Gemeenschap voor Algemene Culturele Verdienste) bekroond.[5] De volgende dag liet een adviescommissie weten dat ze adviseerde La Petite Bande haar jaarlijkse subsidie te ontnemen. Na een internetpetitie besloot de toenmalige minister van Cultuur Bert Anciaux het negatieve advies van de commissie te negeren en de subsidie voort te zetten.[6] In 2012 besliste de Vlaamse minister van Cultuur Joke Schauvliege de subsidiekraan toch dicht te draaien.[7]
Tijdens een persconferentie in september 2011 meldde Kuijken dat hij enkele keren per jaar het roer over wil geven aan jonger talent. Het eerste project onder leiding van organist Benjamin Alard heeft in april 2013 plaatsgevonden.[8]
Het ensemble verzorgde door de jaren heen talloze concerten in Europa, Australië, Zuid-Amerika, China en Japan. Met La Petite Bande realiseerde Sigiswald Kuijken ook een groot aantal opnamen bij onder meer Deutsche Harmonia Mundi, Seon, Virgin, Accent, Challenge Records, Denon en Hyperion.[9]