En 1965, Jimmy Page se unió a una banda llamada The Yardbirds en sustitución de Eric Clapton, que había dimitido. A Page le seguía preocupando su salud en las giras y, al principio, había sugerido a su amigo Jeff Beck. Juntos, él y Beck, el batería Keith Moon, el bajista John Paul Jones y el teclista Nicky Hopkins grabaron "Beck's Bolero." A Page se le había ocurrido la idea de crear un supergrupo con él, Beck, Moon y John Entwistle. Aunque la idea fracasó, Moon había sugerido un nombre conocido, "Lead Zeppelin," y Entwistle añadió que lo que hicieran juntos saldría tan bien como un globo de plomo.
Page fue a un concierto de los Yardbirds en Oxford, donde se enteró de que Paul Samwell-Smith se marchaba de la banda. Se ofreció a sustituirlo y fue aceptado. Tocó el bajo eléctrico antes de cambiar a la guitarra principal cuando Chris Dreja pasó al bajo. Después de que Beck se marchara, los Yardbirds siguieron adelante y grabaron el álbum "Little Games," que alcanzó el número 80 en la lista Billboard. Dieron conciertos en los que Page tocaba una primera versión de "Dazed and Confused."
Page y Dreja eran los únicos miembros de los Yardbirds que quedaban, ya que los demás se habían marchado poco a poco. Page decidió que iba a continuar con la banda y rápidamente se puso a buscar músicos. A Terry Reid, cantante y compositor, se le ofreció el puesto de cantante principal, pero tuvo que rechazar la oferta. En su lugar, sugirió a Robert Plant, un cantante por descubrir con una voz fuerte y bonita

Plant estaba en una banda llamada The Hobbstweddle, actuando en un colegio de formación de profesores en Birmingham, cuando un músico de guitarra que buscaba un cantante para su nueva banda se presentó. Page se hizo rápidamente con Plant, quien sugirió a su amigo John Bonham para tocar la batería.
Cuando Page vio a Bonham tocar para Rose en un club en Hampstead, Londres, en julio de 1968, él y el mánager Peter Grant supieron que Bonham era el batería perfecto para su banda. Por desgracia, Bonham no aceptó la invitación de Page. Mientras tocaba con Rose, también recibía ofertas de otras bandas, y cuarenta y ocho telegramas de Plant y Grant. Pero finalmente, aceptó la oferta. Sin embargo, Dreja se fue para convertirse en fotógrafo de rock.
Así que Page reclutó a Jones para tocar el bajo y los teclados. Jones se había reunido con Page varias veces durante su época como músico de sesión. Incluso había colaborado en el álbum de The Yardbirds "Little Games" en 1967. Aquel invierno, Jones le dijo a Page que deseaba formar parte de cualquier proyecto. Así, más tarde ese año, cuando The Yardbirds se separaron, Jones volvió a buscar a Page, por sugerencia de su mujer, quien le invitó inmediatamente a unirse a la banda.
Los cuatro músicos —Robert Plant, Jimmy Page, John Paul Jones y John Bonham— tocaron juntos por primera vez en una tienda de discos de Gerrard Street en Londres. Tocaron "Train Kept A-Rollin," sugerida por Page, y en cuanto Jones escuchó a Bonham tocar la batería, supo que iban a triunfar. El primer tema de estudio que hizo Led Zeppelin fue "Jim's Blues," para el álbum de P.J. Proby "Three Week Hero."

La banda hizo una gira por Escandinavia en septiembre de 1968. Page había usado cada céntimo que tenía para que la gira funcionara, y no ganaron dinero en absoluto. Continuaron con la creación de un primer álbum, basado en sus directos. Page cubrió los costes él mismo. Una vez terminado el álbum, la banda se vio obligada a cambiar de nombre debido a una carta de cese y desistimiento de Chris Dreja. Así, la banda cambió su nombre por uno previamente sugerido: Led Zeppelin.
En noviembre, Led Zeppelin firmó un contrato con Atlantic Records, ganando $200.000 sin siquiera haber hecho una audición para la discográfica. Su contrato establecía que la banda tendría que lanzar álbumes, hacer giras y diseñar el álbum y su contenido. También tendrían que promocionar cada lanzamiento y decidir qué temas lanzarían como sencillos. Así, Led Zeppelin formó su propia compañía, Superhype, para gestionar todos los derechos de publicación. Jimmy Page decidió producirlo todo.

La banda anunció su nuevo nombre el 14 de octubre de 1968 y dio su primer concierto en la Universidad de Surrey en Guildford el 25 de octubre. Luego realizaron una breve gira por Gran Bretaña. Después, Richard Cole organizó su primera gira por Norteamérica, de diciembre a febrero. Primero tocaron en Denver el día 26, seguidos de fechas en la Costa Este antes de trasladarse a California para tocar en Los Ángeles y San Francisco. La banda completó cuatro giras por Estados Unidos y cuatro por el Reino Unido durante su primer año.
"Led Zeppelin I," el álbum de debut homónimo de la banda, se lanzó el 12 de enero de 1969 durante la gira estadounidense y el 31 de marzo de 1969 en el Reino Unido. Aunque Plant escribió las letras con Page, no recibió los créditos de compositor hasta más tarde. El álbum alcanzó el número 10 en la lista de Billboard y el número 6 en el Reino Unido.
"Led Zeppelin II," su segundo álbum, se lanzó el 22 de octubre de 1969 en Estados Unidos y Reino Unido. En ambos países, el álbum alcanzó el número 1. El 15 de noviembre, el álbum recibió un disco de 12 veces platino por la RIAA por vender más de 12 millones de copias. Steve Waksman ha dicho que "Led Zeppelin II" fue "el punto de partida musical para el heavy metal."
"Led Zeppelin III" se lanzó el 5 de octubre de 1970. Page y Plant habían ido a una casa de campo en Gales llamada Bron-Yr-Aur para escribir las canciones del álbum. El sonido acústico se debió a la influencia de la música folk y celta. Los críticos y fans se sorprendieron por el cambio de arreglos eléctricos de los dos primeros álbumes al tercero. "Immigrant Song" se lanzó en noviembre de 1970 como sencillo, contra los deseos de la banda, y alcanzó los veinte primeros puestos en la lista de Billboard.

Por aquel entonces, Led Zeppelin había llegado a la cima y era un éxito de crítica. Los miembros de la banda empezaron a cambiar su imagen con ropa más extravagante. Empezaron a viajar en un jet privado llamado The Starship. Alquilaban plantas enteras de hoteles. Se convirtieron en el centro de repetidas historias de desenfreno. Bonham incluso montó en moto por una planta alquilada de la Riot House, o el Continental Hyatt House. Incluso se les prohibió la entrada en el Tokyo Hilton por destrozar una habitación en la que se alojaban.
"Led Zeppelin IV" se lanzó el 8 de noviembre de 1971. Tenía una carátula de álbum en blanco, ya que la banda deseaba ser anónima. Los fans lo llamaron "Untitled," "IV," y "Led Zeppelin IV" por los cuatro símbolos que aparecían en los laterales. "Led Zeppelin IV" es uno de los álbumes más vendidos de la historia, con más de 37 millones de copias vendidas en todo el mundo. El álbum incluye "Stairway to Heaven," considerada la canción insignia de Led Zeppelin.
"Houses of the Holy" se lanzó el 28 de marzo de 1973. Utilizaba sonidos más experimentados, como la orquestación de mellotrón y los sintetizadores. La canción "Houses of the Holy" no apareció en el álbum, sino en "Physical Graffiti," ya que se había grabado al mismo tiempo. La portada del álbum fue muy controvertida, ya que en ella aparecían niños desnudos escalando la Calzada del Gigante en Irlanda del Norte. Incluso fue prohibida en algunas partes del mundo, como el Bible Belt de EE. UU. El álbum, sin embargo, encabezó las listas de éxitos.

En el estadio de Tampa, Florida, tocaron ante 56.800 fans, recaudando $309.000. La película "The Song Remains the Same" se filmó en el Madison Square Garden, donde dieron tres conciertos con entradas agotadas. Sin embargo, la película se retrasó hasta 1976. Unos $180.000 del dinero de la banda fueron robados de una caja de seguridad en el Drake Hotel, lo que causó un gran problema a la banda y provocó montones de noticias.

En 1974, Led Zeppelin se tomó un pequeño descanso y formó su propio sello discográfico, Swan Song, llamado así por una de sus canciones inéditas. Su logotipo se basaba en un dibujo llamado "Evening: Fall of Day" de William Rimmer. El dibujo puede encontrarse en recuerdos de Led Zeppelin, especialmente en camisetas. Además de utilizar Swan Song para promocionar sus propios álbumes, promocionaron a otros artistas como Bad Company, The Pretty Things y Maggie Bell. El sello tuvo éxito mientras Led Zeppelin existió, pero se disolvió menos de tres años después de que ellos se separaran.
"Physical Graffiti" se lanzó el 24 de febrero de 1975, como el sexto álbum de estudio y doble de la banda. La grabación de las canciones se suspendió ya que Jones se planteaba dejar la banda. Pero finalmente se reunieron en Headley Grange para terminar la grabación. La revista Rolling Stone se refirió al álbum como el "intento de respetabilidad artística" de Led Zeppelin. Sin mencionar que tuvieron que competir con The Rolling Stones y The Who por el título de "Mejor banda de rock del mundo." En mayo de 1975, Led Zeppelin tocó cinco noches con entradas agotadas en el Earls Court Arena de Londres, en aquel momento el recinto más grande de Gran Bretaña.

Después, se marcharon y planearon una gira de otoño en América. Por desgracia, en agosto, Plant y su mujer, Maureen, sufrieron un accidente de coche mientras estaban de vacaciones en Rodas, Grecia. Plant se rompió un tobillo. Maureen resultó gravemente herida. Una transfusión de sangre le salvó la vida. Plant se quedó en la Isla del Canal de Jersey ese otoño para recuperarse. Más tarde, la banda se reunió en Malibú, California, donde empezaron a escribir su siguiente álbum.
"Presence" se lanzó el 31 de marzo de 1976. Muchas ideas para el álbum surgieron del parón por el accidente de coche de Plant que había cancelado la gira. Durante la grabación del álbum, Page había empezado a consumir heroína, lo que pudo afectar a sus actuaciones en directo y a sus grabaciones en estudio, aunque Page lo niega. El álbum, sin embargo, fue disco de platino, pero los críticos sugirieron que los excesos de la banda podrían haberles pasado factura.
La banda no hizo gira debido a las lesiones de Plant, pero en su lugar, completaron la película del concierto, "The Song Remains the Same," y el álbum de la banda sonora. La película se estrenó en la Ciudad de Nueva York el 20 de octubre de 1976, pero recibió una tibia acogida por parte de la crítica y los fans. La película fue especialmente poco exitosa en el Reino Unido, donde, poco dispuesta a hacer giras desde 1975 debido a su estatus de exiliados fiscales, Led Zeppelin se vio obligada a enfrentarse a una batalla cuesta arriba para recuperar el afecto del público.

En 1977, Led Zeppelin realizó una gira por Norteamérica. Batieron otro récord de asistencia con 76.229 espectadores en el Pontiac Silverdome el 30 de abril. Según el Libro Guinness de los Récords, fue la mayor asistencia hasta la fecha a un espectáculo de un solo artista. El 19 de abril, más de 70 personas fueron detenidas cuando cerca de 1.000 fans intentaron colarse en el Cincinnati Riverfront Coliseum para dos conciertos con entradas agotadas. Otros intentaron entrar lanzando piedras y botellas contra las puertas de cristal. El 3 de junio, se desató un disturbio en el Tampa Stadium debido a una fuerte tormenta que provocó que el concierto se suspendiera. Hubo detenciones y personas gravemente heridas.

El 23 de julio, Led Zeppelin dio un concierto en el festival Days on the Green en el Oakland Coliseum de Oakland, California. Por desgracia, Bonham y miembros del personal de apoyo de la banda fueron arrestados después de que un promotor del equipo de Bill Graham fuera gravemente golpeado durante la actuación de la banda. El segundo concierto en Oakland del día siguiente fue la última actuación en directo de la banda en los Estados Unidos. Dos días después, el 26 de julio, mientras la banda se registraba en un hotel del French Quarter, Plant recibió la noticia de que su hijo de cinco años, Karac Pendragon, había muerto a causa de un virus estomacal. El resto de la gira se canceló de inmediato. Plant se retiró a su casa en los Midlands, reflexionando sobre su futuro y llorando la muerte de su hijo.
En noviembre de 1978, el grupo grabó en los Polar Studios de Estocolmo, Suecia. El álbum resultante, "In Through the Out Door," se lanzó el 15 de agosto de 1979, y sería su último álbum antes de la muerte de Bonham.

El álbum alcanzó el número 1 en las listas de ventas de Estados Unidos y Reino Unido. La canción "All My Love" fue escrita por Plant, inspirada por la muerte de Karac.
El 17 de octubre de 1980, la banda tenía programada una gira por Norteamérica. El 24 de septiembre, Bonham fue recogido por el asistente de Led Zeppelin Rex King para asistir a los ensayos en Bray Studio. Pararon a desayunar, donde Bonham se bebió cuatro vodkas (450ml/15 oz) con un panecillo de jamón, a lo que simplemente le dijo a King, "Desayuno." Bebió mucho en el estudio y más tarde fue llevado a la casa de Page, The Old Mill House en Clewer, Windsor.
Bonham se había dormido después de la medianoche y fue llevado a su cama, acostado de lado.
A la 1:45 P.M. del día siguiente, el nuevo mánager de gira de Led Zeppelin, Benji LeFevre, y Jones encontraron a Bonham muerto. La causa de la muerte fue asfixia por vómito, muerte accidental. El veredicto se conoció el 27 de octubre. Una autopsia no encontró drogas en su organismo. Bonham fue incinerado el 10 de octubre de 1980, y sus cenizas fueron enterradas en la iglesia parroquial de Rishock en Droitwich, Worcestershire.
Su lápida dice: "PRECIADOS RECUERDOS DE UN ESPOSO Y PADRE AMOROSO JOHN HENRY BONHAM QUE MURIÓ EL 25 DE SEPTIEMBRE A LOS 32 AÑOS. Siempre será Recordado en nuestros corazones. Buenas noches mi amor, que Dios te bendiga."
La gira se canceló y, a pesar de los rumores de que otros se unirían al grupo para reemplazarlo, los miembros restantes —Plant, Page y Jones— decidieron separarse. Un comunicado de prensa del 5 de diciembre de 1980 declaraba que: "Deseamos que se sepa que la pérdida de nuestro querido amigo y el profundo sentido de armonía indivisa que sentimos nosotros mismos y nuestro mánager nos han llevado a decidir que no podíamos continuar como estábamos," y estaba firmado, "Led Zeppelin." Su último álbum, "Coda," se hizo 2 años después de la muerte de Bonham.