Glenn studierte am William and Mary College und diente drei Jahre bei den US-Marines. Einige Monate arbeitete er als Reporter für die Zeitung Kenosha Daily Tribune. Im Jahr 1966 zog er nach New York und spielte im La MaMa Experimental Theatre, seit 1968 im The Actors Studio.
Glenn wurde besonders oft in Western, Actionfilmen und Thrillern eingesetzt, zumal ihn in vielen Rollen eine strenge Aura umgab. So spielte er im Spionagefilm Jagd auf Roter Oktober (1990) neben Sean Connery und Alec Baldwin einen amerikanischen Marineoffizier und in dem Psychothriller Das Schweigen der Lämmer (1991) neben Jodie Foster deren Vorgesetzten Jack Crawford. Weitere bekannte Kinorollen übernahm er in Absolute Power (1997) an der Seite von Clint Eastwood und Gene Hackman und in Training Day (2001) neben Denzel Washington und Ethan Hawke. In Das Bourne Ultimatum (2007) und Das Bourne Vermächtnis (2012) verkörperte er den CIA-Direktor Ezra Kramer. 2008 war er ursprünglich für die Rolle des Clay Morrow in der FX-Serie Sons of Anarchy vorgesehen, wurde dann jedoch, trotz bereits abgedrehter Pilot-Folge, durch Ron Perlman ersetzt. Dies ist auch in einer Szene der Pilot-Folge zu erkennen, da er eine deutlich schmalere Statur besitzt, als Perlman. Während er in Blockbustern meistens auf Nebenrollen beschränkt blieb, war er in einigen B-Movies und Fernsehfilmen auch selbst der Hauptdarsteller. Im US-Fernsehen spielte Glenn unter anderem regelmäßige Rollen als Kevin Garvey senior in The Leftovers und als Marvel-Comicfigur Stick in den Serien Marvel’s Daredevil und Marvel’s The Defenders.
Glenn ist seit 1967 mit der Künstlerin Carol Schwartz verheiratet und hat zwei Kinder.[4][5]
↑Um Glenns Geburtsjahr herrscht Verwirrung: Die IMDb nennt beispielsweise 1939, generell lassen sich verschiedene Angaben finden, die von 1938 bis 1942 reichen.