Goldstein, Sohn eines ehemaligen Tischtennischampions, begann das Tennisspielen mit neun Jahren. 1990 erreichte er das Finale der USTA National Boys’ U14 Indoor Championships, zwei Jahre später erreichte er den ersten Platz bei den USTA-Spielen bei den U16. 1993 und 1994 gewann er die USTA Boys’ U18, zudem gewann er 1994 die Doppelmeisterschaft mit Scott Humphries. Im selben Jahr erreichte er das Junioren-Doppelfinale der US Open 1994, sowie das Junioren-Halbfinale der Australian Open und von Wimbledon.
Zwischen 1994 und 1998 besuchte er die Stanford University und wurde in jedem dieser Jahre mit dem All-American ausgezeichnet. Goldstein gewann mit Scott Humphries zahlreiche Doppelmeisterschaften. Er war auch der erste Athlet, der an vier NCAA-Meisterschaften teilnahm. Im letzten Schuljahr spielte Goldstein hauptsächlich Einzel und führte Stanford zu einem 28:0-Saisonsrekord. 1997 und 1998 wurde er mit dem Arthur Ashe Sportsmanship and Leadership Award ausgezeichnet. 1998 erreichte er das Finale der NCAA-Einzelspiele, das er gegen seinen Teamkollegen Bob Bryan verlor. Im selben Jahr legte er sein Diplom in Humanbiologie ab.
1998 gewann er in Lexington seinen ersten Einzeltitel auf der ATP Challenger Tour. Den Doppeltitel gewann er mit seinem Partner K. J. Hippensteel. Im selben Monat war er mit Brian Vahaly in College Station im Doppel erfolgreich. Seine beste Platzierung auf der Tennis-Weltrangliste hatte er 2006 mit Position 58 im Einzel, sowie 2007 mit Position 40.
Goldstein beendete 2008 seine Profikarriere und gründete ein Energieunternehmen in der Bucht von San Francisco. Er ist verheiratet und hat eine Tochter.