발라드 가수로 데뷔하기 이전인 1997년 중반까지 1년 반에서 2년 정도의 연습 생활 이후에 댄스 그룹 '사천사'의 멤버로 활동했지만 부족한 춤실력 때문에 방출당했고 결국 그가 속해 있던 그룹인 '사천사'는 데뷔 준비 과정에서 해체되고 만다. 이후 솔로가수로서 1998년 9월 3일 첫 앨범 《To Heaven》을 발매하고 데뷔했다. 뮤직비디오만 공개한 뒤부터 한동안 얼굴 없는 가수로 활동하다가, 1998년 10월 17일 《이소라의 프로포즈》(99회)로 방송에 첫 출연을 하면서 모습을 드러냈다. 앳된 미모와 고운 미성으로 많은 여성팬들의 마음을 사로잡았다.
이후 1999년에 2집《For your soul》을 발매하여 타이틀 곡인〈슬픈 영혼식〉이 큰 사랑을 받았다. 홍콩을 배경으로 한 뮤직비디오에는 당대 최고의 스타였던 최지우, 신현준, 정준호와 조성모 본인이 출연하여 화제가 되었다.
2000년 리메이크 앨범인 2.5집《CLASSIC》을 발매하였다. 같은 해에 3집인 《Let Me LOVE》를 발매하였다. 타이틀곡 《아시나요》는 베트남 전쟁을 배경으로 한 뮤직비디오로 당시 CG기술이 발달하지 않았는데도 높은 완성도와 탄탄한 구성을 보여주었다. 뮤직비디오 제작 비용은 총 15억이 투입되었다. 대한민국 뮤비 역사상 최고의 뮤비라는 찬사를 받을 정도로 후에 이 정도 퀄리티의 뮤비는 더이상 나오지 않았다. 아시나요는 폭발적인 미성으로 2년 연속 대상을 수상하면서 가수로서의 경력 부분에서 최고점을 달성했다. 수록곡 중 댄스곡《다짐》에서는 종전에는 보여주지 않았던 파격적인 무대 매너와 일명 가죽잠바 털기춤을 선보이며 계속해서 큰 사랑을 받았다. 당시 CF《초록매실》에서의 "매실왕자" 타이틀을 벗기위해 하기 싫었는데도 억지로 이 노래를 불렀고, 더욱 유명해 지는 계기가 되었다.
이후 4집《No More Love》가 발매되었고, 5집《歌人》이 발매되었는데 《피아노》라는 곡으로 다시 히트치게 되고 골든티스크 시상식에서 대상을 받았다. 그러나 이 기점으로 미성의 창법이 급격히 변형되면서 팬층의 대거 이탈과 조성모의 기량 하략을 불러왔다. 조성모도 5집 활동때 성대 상태가 심하게 악화된 모습을 보였다. 이후 조성모 6집《My First》때는 많은 활동을 하지 않았다. 계속되는 이전 소속사와의 분쟁과 현재 소속사의 무리한 스케줄 강행을 비롯한 회사의 무개념한 태도로 인해 조성모의 목상태마저 악화되어 결국 노래를 제대로 하지 못할 정도까지 가게 된다. 하지만 많은 사람들이 기억하는 조성모는 발라드의 황태자라는 칭호를 얻었다. 앨범 판매량 공식 1600만 장이라는 대기록(역대 1위)에 힘입어, 국민 가수 반열에 올랐다. 2004년에는 드라마 《파리의 연인》 OST 타이틀곡 ‘너의 곁으로’를 발표하며, 드라마 OST계에도 진출하는 등 재기를 노렸다. 뮤지컬 《광화문연가》, 《요셉 어메이징》, 《카페인》 등을 통해 뮤지컬로도 진출했다.