In Cleveland geboren, konnte er in der New Yorker Theaterszene erste Bühnenerfahrungen sammeln. Später folgten Stücke wie A Raisin in the Sun am Roundabout Theatre und A Soldier’s Play an der Seite von Denzel Washington und Samuel L. Jackson.
Nachdem Pickens 1990 an die Westküste gezogen war, spielte er Nebenrollen in einigen Serien und kleinere Filmrollen, bis ihm 1995 mit Nixon der Durchbruch gelang. Nach einigen anspruchsvolleren Rollen in Filmen wie Gridlock’d, Bulworth und Traffic – Macht des Kartells folgten hauptsächlich Engagements in Serien. Seit 2005 ist er als Dr. Richard Webber in der erfolgreichen US-Serie Grey’s Anatomy zu sehen.
In seiner Freizeit reitet er Rodeo und nimmt als Mitglied des United States Roping Team regelmäßig an Wettkämpfen teil.
Er ist mit Gina Pickens verheiratet und hat mit ihr zwei Kinder.