McKean wurde am Ende der 1960er Jahre Mitglied der Komikergruppe The Credibility Gap, die bis zum Jahr 1976 in Radiosendungen auftrat. Ab 1976 gehörte er als Leonard „Lenny“ Kosnowski zur Stammbesetzung der Sitcom Laverne & Shirley, die ein großer Erfolg war. In der Komödie Küß’ mich, Doc! (1982) spielte er eine der größeren Rollen an der Seite von Sean Young. 1984 spielte McKean neben Christopher Guest und Harry Shearer eine der Hauptrollen in dem Film This Is Spinal Tap: In der halb-fiktiven Hardrockband Spinal Tap verkörperte er den Sänger und Frontmann David St. Hubbins.
In der Komödie Nummer 5 gibt nicht auf (1988) übernahm er eine der Hauptrollen. In der Komödie Dieser verflixte Kater (1997) spielte er die Rolle von Peter Randall, dem Vater von Patti Randall, die von Christina Ricci gespielt wurde. 2003 spielte McKean erneut an der Seite von Guest und Shearer in dem Musikfilm A Mighty Wind. Für diesen Film komponierte er außerdem mehrere Lieder, darunter das Stück A Kiss at the End of the Rainbow, das er gemeinsam mit Annette O’Toole schrieb und für das die beiden mit dem Seattle Film Critics Award ausgezeichnet wurden. Für das Titelstück des Films, das McKean mit Christopher Guest und Eugene Levy geschrieben hatte, gewann er 2004 einen Grammy Award und den Broadcast Film Critics Association Award. Außerdem wurde er für den Oscar und für den Golden Satellite Award nominiert.
Von 2015 bis 2018 spielte er in der Netflix-Serie Better Call Saul eine der Hauptrollen: McKean verkörpert Charles „Chuck“ McGill, den Bruder des Protagonisten. 2022 kehrte er für einen Gastauftritt im Serienfinale zurück.
McKean war in den Jahren 1970 bis 1993 mit Susan Russell verheiratet, mit der er zwei Kinder hat. 1999 heiratete er Annette O’Toole.