På 1980-talet spelade Johansson trummor i Malmöbandet Silver Mountain och medverkade på skivorna Shakin' Brains och Breaking Chains.[1] Han blev medlem i Hammerfall 1999, i samband med turnén för bandets andra skiva Legacy Of Kings. Första skivan han spelade på var Renegade som släpptes 2000. Därefter följde Crimson Thunder, Chapter five, Threshold och Masterpieces samt flera samlingar och dvd-releaser.[2] Han har spelat i Yngwie Malmsteens band Rising Force 1984–1989. Johansson spelade på skivorna Studio/Live, Marching out, Trilogy, Odyssey, Trial by fire, Inspiration samt videogrammen Japan 1985 och Live in Leningrad. Där spelade han med sin bror Jens Johansson.[3] Anders Johansson har spelat in skivor och turnerat med jazz/fusion/funk-basisten Jonas Hellborg och Owe Thörnqvist.
Johansson har spelat in över 100 skivor som bandmedlem och/eller studiomusiker under sin karriär. Han är mest känd som heavy metal-musiker, men spelar alla musikstilar. Hans speciella spelstil har ansetts vara teknisk, kraftfull, poly-rytmisk men ändå dynamisk. Han använde tio bastrummor på en turné med Hammerfall, vilket är ett inofficiellt rekord.
Johansson, som bor i Skåne, är även utbildad gymnasieingenjör (el-tele/svagström), men har aldrig arbetat med detta. Han är son till jazzpianistenJan Johansson och driver skivbolaget Heptagon Records, som ger ut faderns skivor. Anders Johansson spelar även kontrabas i duon Bröderna Johansson tillsammans med brodern Jens, de spelar folkvisejazz. Han har också bandet Tungsten tillsammans med sina två äldsta söner Karl Johansson och Niklas Johansson och sångaren Mike Andersson.
Johansson har skrivit en självbiografi med titeln: Trumslagarpojken (2016).[4]