Moroi grandit dans une famille d'industriels. Son père, Moroi Tsunehei, est le fondateur de la Chichibu Cement Company Limited, plus tard dirigée par son frère Kan'ichi Moroi.
Il vit en Allemagne de 1932 à 1934 pour étudier la composition à l'école supérieure de musique de Berlin auprès de Leo Schrattenholz, Max Trapp et Walter Gmeindl. Il a par la suite affirmé que sa vie créatrice a véritablement commencé à partir de son séjour à Berlin. De retour au Japon en 1934, il construit une carrière couronnée de succès dans les années suivantes.
Peu de temps après avoir terminé sa Symphonie no 3 en 1944, il est appelé par l'armée japonaise à servir dans la Guerre du Pacifique. À la suite de la reddition du pays il se consacre à l'enseignement et l'écriture de livres sur la théorie musicale, composant seulement huit œuvres dans les trois décennies suivantes, dont deux symphonies. Dans ses dernières œuvres, il se tourne vers le dodécaphonisme.
Moroi Saburō joue un rôle essentiel dans la réorganisation de l'enseignement de la musique au Japon. De 1965 à 1976, il est directeur de l'Orchestre municipal de Tokyo, puis chef du département de musique de l'université de Kawasaki. Il a composé cinq symphonies et une sinfonietta, un concerto pour piano et un concerto pour violoncelle, de la musique de chambre et des lieder.
Parmi les élèves de Moroi se trouvent Ikuma Dan, Toshiharu Ichikawa (市川都志春), Yoshirō Irino, Kunio Toda (戸田邦雄), Minao Shibata (柴田南雄), Sōkichi Ozaki (尾崎宗吉), Akio Yashiro et Chūji Kinoshita (木下忠司). Son fils Makoto Moroi est également compositeur.
Moroi a composé un total de dix sonates pour piano : trois premières sonates, cinq sonates numérotées écrites entre 1927 et 1931, et une deuxième série de deux sonates numérotées avec numéros d'opus écrites en 1933 et 1939.