Joe Spano wurde als Sohn von Virginia Jean (geborene Carpenter) und Vincent Dante Spano, einem Arzt, in San Francisco im US-Bundesstaat Kalifornien geboren. Er besuchte die Archbishop Riordan High School in San Francisco und graduierte an der University of California, Berkeley. Spano ist meist in Gastrollen verschiedener Fernsehserien und in kleineren Filmrollen zu sehen. Zu seinen größeren Serienrollen gehört von 1981 bis 1987 die Rolle des Detective Henry Goldblume in der Fernsehserie Polizeirevier Hill Street. 1989 erhielt er den Primetime Emmy Award als bester Gastdarsteller für seine Rolle als John Saringo in der Dramaserie Der Nachtfalke. Seit 2003 spielt er die wiederkehrende Rolle des FBI-Agenten Tobias Fornell in der Krimiserie Navy CIS.
Mit seiner Frau Joan, einer Therapeutin, adoptierte er zwei Mädchen.