Nato da padre statunitense e madre filippina, durante l'infanzia si trasferisce spesso in diverse città degli Stati Uniti a causa del lavoro del padre, un militare.[2] Dopo essersi iscritto per un breve periodo all'università, Herbert lascia gli studi per perseguire le aspirazioni artistiche e inizia a lavorare come stand up comedian, assumendo fin da subito il suo pseudonimo definitivo.[2] In un primo momento, Jo Koy lavora in svariati club di Las Vegas; successivamente inizia a essere presente in trasmissioni televisive su reti come BET e NBC.[3][4] A partire dal 2009 realizza degli speciali televisivi per Comedy Central e Netflix.[5]
Nel 2013 recita in un episodio di Family Tools, intensificando successivamente la sua presenza in ambito cinematografico. Nel 2022 è protagonista del film Easter Sunday.[6] Nel 2024 conduce la cerimonia dei Golden Globe, ricevendo reazioni negative da parte di pubblico, critica e alcune delle celebrità presenti alla cerimonia.[7][8] In seguito a tale esperienza, riprende a esibirsi come stand up comedian.[9]