Né le 18 novembre 1895, il commence très tôt sa carrière de pianiste dans sa ville natale où il se produit pour la première fois en public à l'âge de 6 ans avec le Concerto en ré majeur de Haydn.
Ernst Levy a étudié avec Egon Petri et Raoul Pugno. En 1910, il termine ses études au Conservatoire de Bâle où Hans Huber, l'un de ses professeurs, lui dédie son Concerto en ré majeur pour piano. Il suit également à l'Université de Bâle des cours de musicologie, de philosophie et d'histoire de l'art. Sa précocité lui vaut d'être très tôt désigné comme remplaçant de Hans Huber, tombé malade en 1917. Il enseigne ainsi à la classe des virtuoses du Conservatoire de Bâle alors qu'il a à peine 20 ans. Il abandonne pourtant ce poste en 1921 pour se rendre à Paris. Après avoir commencé par gagner sa vie comme pianiste et comme professeur de musique, il fonde en 1928 le Chœur philharmonique de Paris avec lequel il interprète les grandes œuvres vocales et s'impose comme chef d'orchestre. Il s'adonne aussi au journalisme, en tant que critique musical.
Les événements politiques des années 1930 auront raison de la présence de Lévy en Europe. La montée de l'antisémitisme le pousse à émigrer aux États-Unis (1941[1]) où il mène une carrière, non seulement comme compositeur et interprète, mais aussi comme professeur de musique puisqu'il donne des cours dans différents établissements comme le New England Conservatory de Boston, le Bennington College du Vermont, l'Université de Chicago, le Massachusetts Institute of Technology et enfin le Brooklyn College. C'est pendant son séjour dans ce pays d'accueil qu'il rédige la plus grande partie de son œuvre, soit quinze symphonies et une multitude de morceaux pour chœur et pour orchestre de chambre. Enfin, en collaboration avec son ami Siegmund Levarie, il rédige un livre d'acoustique intitulé Tone suivi plus tard par un deuxième ouvrage, le Dictionary of musical morphology, également rédigé avec Levarie.
Une fois à la retraite, il rentre en Suisse, en 1966, et se fixe à Morges où il se consacre exclusivement à la composition et à la rédaction.