Musicalement, Led Zeppelin IV pousse à son maximum toutes les facettes du groupe.
L’album s’ouvre avec “Black Dog”, morceau construit autour d’un riff labyrinthique imaginé par John Paul Jones après avoir écouté Electric Mud de Muddy Waters. Son nom viendrait d’un chien noir errant qui rôdait autour de Headley Grange pendant les sessions d’enregistrement.
Avec “The Battle of Evermore”, Led Zeppelin plonge dans une ambiance médiévale et fantastique inspirée par l’univers de The Lord of the Rings. Grand admirateur de J. R. R. Tolkien, Robert Plant dissémine régulièrement des références à la Terre du Milieu dans les chansons du groupe, notamment dans “Ramble On” ou “Over the Hills and Far Away”.
Le morceau accueille également Sandy Denny, chanteuse du groupe folk Fairport Convention. Sa voix aérienne répond à celle de Plant dans un dialogue presque spectral. Elle reste d’ailleurs la seule artiste invitée à apparaître sur un album studio de Led Zeppelin. Le groupe lui attribue même un symbole personnel dans le livret intérieur : trois triangles inversés se rejoignant en un point.
Au centre de l’album trône évidemment “Stairway to Heaven”.
D’abord accueillie avec perplexité en concert, la chanson deviendra l’un des morceaux les plus célèbres de tous les temps.
Construite comme une ascension progressive introduction folk, montée électrique puis explosion finale elle résume à elle seule toute l’identité de Led Zeppelin IV.
Le morceau alimentera aussi de nombreuses polémiques, notamment des accusations de plagiat autour du titre “Taurus” du groupe Spirit. Une affaire finalement rejetée par la justice américaine, les similitudes reposant essentiellement sur une progression harmonique très répandue dans la musique folk et baroque.
Plusieurs éléments du morceau sont devenus mythiques. Contrairement à une idée longtemps relayée, l’introduction ne comporte pas de flûte à bec jouée par John Paul Jones, mais un Mellotron destiné à reproduire des textures orchestrales. Quant au célèbre solo final de Jimmy Page, il est enregistré sur sa légendaire Telecaster “Dragon”, et non sur une Les Paul. Sur scène, le guitariste utilisera ensuite sa célèbre Gibson SG double manche afin d’enchaîner les parties 6 et 12 cordes du morceau.
L’album se conclut avec “When the Levee Breaks”, adaptation d’un vieux blues de Memphis Minnie. Son rythme écrasant, ses harmonicas saturés et sa production gigantesque annoncent déjà le hard rock et le heavy metal des décennies suivantes.