Hans Mersmann étudie à Munich et à Berlin. Il obtient son doctorat en 1916. Un an plus tard, il est chargé par la commission de la chanson folklorique prussienne de créer une archive des chansons folkloriques. De 1924 à 1933, il est rédacteur en chef du magazine Melos. En 1926, il devient professeur à l’université technique de Berlin. En 1933, après la prise du pouvoir par les nazis, il est licencié de l’université par ces derniers au motif qu'il aurait travaillé pour la nouvelle musique. Il est alors obligé de donner des cours de musique privé. En 1935, il était encore stigmatisé comme « bolchevique de la musique » par la Nationalsozialistischen Kulturgemeinde.