Johansson entstammt einer Musikerfamilie. Sein Bruder Jens ist der Keyboarder von Stratovarius. Sein Vater Jan war einer der bekanntesten Jazzpianisten Skandinaviens.[1]
Johansson wuchs vornehmlich in Stockholm auf. Später auch in Malmö. Mit dreizehn Jahren begann er autodidaktisch das Schlagzeugspiel zu erlernen. Zuvor hatte er bereits gemeinsam mit seinem Bruder Jens für fünf Jahre Klavierunterricht genommen.[2]
Seinen Wehrdienst nahm Johansson als äußerst langweilig wahr, jedoch ließ ihn sein Leutnant für ein paar Stunden Schlagzeug üben.[2]
1984 bis 1989 spielte Johansson gemeinsam mit seinem Bruder für Yngwie Malmsteen. Von 1999 bis 2014 spielte er mit der Power-Metal-Band Hammerfall.[2] Für den Posten des Schlagzeugers bei Hammerfall folgte ihm David Wallin nach.[3]
2004 spielte Johansson Liveschlagzeug in der Band seines Bruders, Stratovarius.
2017 schlossen er sowie seine Söhne Niklas und Karl sich Pär Hulkoff an und komplettierten damit dessen Projekt „Hulkoff“.
Mit seinen Söhnen spielt er auch in der Band Tungsten.[4]
Johansson besitzt seine eigene Plattenfirma.[2] Sein Spitzname lautet „Swedish Tank“.[3]
Im März 2019 wurde bekannt, dass Anders Johansson bei der amerikanischen Metal-Band Manowar aktiv ist.[5]