Dzimis Ipiķu pagasta "Lejasigaļos".[4] Tēvs - saimnieks Jēkabs Dimis, māte - Maija (dzimusi Švalbe).[5]
Arī viņa brālis Voldemārs bijis vieglatlēts, uzstādījis Latvijas rekordu desmitcīņā un augstlēkšanā. Jaunieša vecumā J. Dimza nodarbojās ar dažādiem sporta veidiem, tai skaitā grieķu—romiešu cīņu, boksu, futbolu.[2] 1926. gada septembrī aizvadīja pirmās sacensības desmitcīņā.[2]
Startēja desmitcīņā divās Olimpiskajās spēlēs (1932, 1936). Abās Olimpiskajās spēlēs nebeidza sacensības, taču 1932. gadā pēc astoņām disciplīnām atradās otrajā vietā ar 6636 punktiem.[6] Vairākkārtējs Latvijas čempions dažādās distancēs, tāpat vairākkārtējs Latvijas rekordists dažādās distancēs.
1930. gadu sākumā strādāja policijā Ķemeros, pēc tam bija Rīgas dzelzceļa mezgla policijas priekšnieka palīgs.
Pēc Latvijas okupācijas un aneksijas 1940. gada 6. augustā viņu apcietināja un apsūdzēja sakarā ar sadursmēm Rīgas Stacijas laukumā 1940. gada 17. jūnijā. Ilgstoši atradās ieslodzījumā Rīgas Centrālcietumā, sākoties Vācijas iebrukumam Latvijā 1941. gada 24. jūnija naktī no cietuma aizvests nezināmā virzienā[7] un nogalināts.