Le nom de Mayhem fait immédiatement référence à l'histoire du Black Metal, histoire dont le groupe a forgé une certaine partie, il est vrai. Mayhem fait partie des pionniers de la première vague du Black Metal norvégien à la fin des années 80. Le groupe est formé dès 1984 par celui qui est considéré par beaucoup comme l'inventeur du Black Metal : le guitariste Øystein Aarseth (alors surnommé Destructor). Les autres membres du groupe sont Messiah (chant), Necrobutcher (basse) et Manheim (batterie). L'influence principale du groupe est Venom, d'où vient le nom du groupe (la chanson "Mayhem without mercy").

Mayhem parvient à sortir sa première démo Pure fucking Armageddon en 1986. Le son est absolument ignoble, la musique influencée par Bathory et Venom et les paroles par le satanisme. Conscient que peu de labels consentront à signer le groupe, son leader crée le label Posercorpse Music, sur lequel Mayhem sort son premier EP Deathcrush en 1987 avec Maniac au chant. Si la musique du groupe est toujours aussi approximative, le son un peu plus travaillé permet d'apprécier davantage la musique. Mayhem commence à se faire connaître en Norvège et ailleurs, les 1000 exemplaires de l'EP se trouvant rapidement écoulés.

En 1988, Mayhem subit la perte de deux de ses membres : Manheim (qui vient de trouver un emploi) et Maniac (interné en hopital psychiatrique après un suicide raté). Øystein Aarseth qui prend alors le surnom d'Euonymous engage Dead comme chanteur et Hellhammer derrière les fûts. Ces deux membres vont grandement influencer le futur du groupe. En effet, Dead était de notoriété publique, mentalement instable et avait une fascination maladive pour la mort (on raconte qu'il reniflait un corbeau en décomposition pendant les concerts). Quand à Hellhammer, il est passionné par le Seconde Guerre Mondiale, mais c'est sur le plan musical qu'il va apporter le plus, par sa technique, qui fait de lui un des meilleurs batteurs du monde.

Posercorpse Music devient Deathlike Silence Productions, label destiné à accueillir les groupes conformes à l'idéologie sombre et sataniste conçu par Euronymous. Après une tournée européenne, Mayhem sort le mythique Live in Lepizig, seul enregisrement du groupe avec Dead au chant. Le son est effroyable, mais cet album est aujourd'hui considéré comme culte. C'est aussi lors de cette tournée qu'a été enregistrée le bootleg Dawn of the black hearts.

Peu après, en avril 1991, Dead se suicide d'une balle dans la tête avec son fusil de chasse et des munitions offertes par Varg Vikernes de Burzum. C'est Euronymous qui le découvrira en premier et prendra des photos du cadavre qui finiront comme artwork de Dawn of the black hearts. La légende raconte également qu'il aurait utilisé des bouts de cervelle pour un ancien rituel viking. Euronymous ne montre d'ailleurs aucun regret après la mort de son chanteur, en profitant au contraire pour assurer la promotion de Mayhem.

Euronymous va alors sombrer dans une paranoia aigue et créer l'Inner Circle, groupe terroriste sataniste visant à désigner les "vrais" groupes de Black Metal. Derrière la façade de la boutique de disques de Euronymous (Helvete), Euronymous et Varg Vikernes organisent des actions contre les groupes de death metal (lettres de menace à Deicide), et les groupes de Black Metal suèdois et finlandais (Impaled Nazarene entre autres). Les membres de l'Inner Circle vont jusqu'à brûler 21 églises en bois. L'un de ces incendies va entraîner la mort d'un pompier et attirer l'attention des médias sur l'Inner Circle. Necrobutcher se voir alors obligé de quitter le groupe et Euronymous parvient à convaincre Varg Vikernes de jouer les parties de basse du premier album de Mayhem De Mysteriis Dom Sathanas. Il engage également le hongrois Attila Csihar comme chanteur.

Mais là encore, l'histoire de Mayhem va déraper. Le 10 août 1993, Varg Vikernes assassine Euronymous de 23 coups de couteau pour des raisons assez nébuleuses (le meurtrier ayant régulièrement changé sa version des faits au cours des années qui suivirent). Attila Csihar retournant alors dans son groupe, Hellhammer se retrouve seul à bord et assure la sortie du premier album de Mayhem, avant de mettre fin au groupe. Malgré la demande de la famille d'Euronymous, les parties de basse de Varg Vikernes ne furent pas effacées de l'album, mais simplement non masterisées.

A la surprise quasi-générale, Hellhammer annonce la reformation de Mayhem en 1995 avec Maniac et Necrobutcher. C'est Blasphemer qui occupe la place de guitariste laissée vacante par Euronymous. L'EP Wolf's Lair Abyss sort en 1997 chez Misanthropy Records, recevant un cerain succès auprès du public, même si certains fans de Mayhem s'estiment trahis par l'abandon de la stratégie underground du groupe.

Le second album du groupe Grand Declaration of War va accentuer cet impression de trahison. L'album, futuriste, avant-gardiste, électronique, voit un Mayhem audacieux explorer des nouvelles voies musicales. Adulé par certain, détesté par d'autres, cet album accède rapidement à un statut d'album culte. Blasphemer, qui a composé quasiment tout l'album, s'impose comme nouveau leader du groupe. Mayhem enchaine alors les tournées à travers le monde, sortant de nombreux lives.

Maniac comment alors à souffrir d'une peur de la foule, qu'il guérit avec différentes drogues et de l'alcool pour jouer sur scène. Le troisème album de Mayhem Chimera sort en 2004. Le groupe revient à un son plus cru, moins formaté, à la production moins lisse. L'album reçoit un accueil mitigé des critiques, mais les ventes sont bonnes.

La tournée de promotion s'avère chaotique, la maladie de Maniac obligeant le groupe à annuler nombre de dates. Finalement, Maniac se retrouve viré du groupe un soir où il était tellement drogué qu'il ne se souvenait plus de ses paroles. Hellhammer parvient à convaincre Attila Csihar (alors dans Aborym et Keep of Kalessin) de revenir dans le groupe.

Le dernier album de Mayhem sort au début de l'année 2007. Intitulé Ordo Ad Chao, il surprend de nouveau. Primitif, dérangeant, cet album sonne comme un retour aux sources. Hellhammer y produit une de ses meilleurs performances pour un album unique, qui prouve que le groupe est encore loin d'être mort.