Short war das neunte von zehn Kindern. Schon 1936 trat er in New Yorker Nachtclubs auf. In den 1950er Jahren war Short sehr populär. Durch den Niedergang der Nachtclubs und den Aufstieg der Beatles in den 1960er Jahren sank das Interesse an ihm, doch gelang ihm im Jahre 1968 ein Comeback. Seit diesem Jahr spielte er regelmäßig im Carlyle Hotel in New York. Weitere Auftritte führten ihn u. a. ins Weiße Haus. Short spielte in den 1980er Jahren in den FilmenSplash – Eine Jungfrau am Haken und Hannah und ihre Schwestern mit.