El grupo se formó en 1962 en St. Albans, Hertfordshire, Inglaterra, y se hizo conocido por primera vez tocando en el Old Verulamians Rugby Club de esa ciudad. La banda se formó cuando sus miembros aún estaban en el colegio. Algunas fuentes afirman que Argent, Atkinson y Grundy asistían a la St. Albans School, mientras que Blunstone y White eran estudiantes de la St. Albans Boys' Grammar School (actualmente llamada Verulam School). Argent era corista en el coro de la Catedral de St. Albans.
Según Blunstone y White, eligieron el nombre de "The Zombies" por desesperación, descartando opciones como "Chatterley and the Gamekeepers". Después de ganar un concurso de "grupos de música beat" patrocinado por el London Evening News, firmaron con el sello discográfico Decca y grabaron su primer éxito, "She's Not There". Lanzada a mediados de 1964, alcanzó el puesto número 12 en el Reino Unido, su único éxito en el Top 40 británico. Esta canción, en tono menor y con toques de jazz, destacaba por la calidad de sus músicos y la voz entrecortada de Blunstone, y era diferente a cualquier otra cosa que se escuchara en el rock británico de la época. Se emitió por primera vez en Estados Unidos a principios de agosto de 1964 en la emisora de rock de Nueva York WINS por Stan Z. Burns, quien la estrenó en su segmento diario del mediodía "Hot Spot". La canción empezó a ganar popularidad a principios de otoño y finalmente subió al puesto número 2 a principios de diciembre.

Como muchos otros grupos de la Invasón Británica, The Zombies fueron enviados a Estados Unidos para promocionar su nuevo sencillo. Entre sus primeras actuaciones en el país se encontraban los espectáculos navideños de Murray the K en el Brooklyn Fox Theatre, donde la banda ofrecía siete conciertos al día. El 12 de enero de 1965, la banda hizo su primera aparición en persona en la televisión estadounidense, en el primer episodio de Hullabaloo de la cadena NBC. Tocaron "She's Not There" (y su último sencillo, "Tell Her No") ante una audiencia histérica de adolescentes.
Después de que el siguiente sencillo, "Leave Me Be", fracasara en el Reino Unido (y no se lanzara como sencillo en Estados Unidos, aunque figuraba en la cara B de "Tell Her No"), "Tell Her No", de Rod Argent, se convirtió en otro gran éxito de ventas en Estados Unidos en 1965, alcanzando el puesto número 6 en la lista Billboard Hot 100 en marzo. Sin embargo, "Tell Her No" no llegó al Top 40 en el Reino Unido. Las grabaciones posteriores, como "She's Coming Home", "Whenever You're Ready", "Is This the Dream", "Indication" y "Gotta Get a Hold of Myself" no lograron el éxito de los dos sencillos anteriores (aunque The Zombies siguieron teniendo éxito en Escandinavia y Filipinas). Una canción de The Zombies lanzada solo como cara B (de "Whenever You're Ready") en Estados Unidos y el Reino Unido en 1965, "I Love You", se convirtió posteriormente en un gran éxito para el grupo People! en Estados Unidos en 1968.
El primer LP de The Zombies en el Reino Unido, Begin Here (1965), era una mezcla equilibrada de canciones originales y versiones de R&B. Mientras continuaban grabando en 1965-66 e intentaban tener éxito en las listas de ventas, grabaron suficiente material para un segundo álbum, pero la falta de éxito en las listas hizo que la mayoría de esas canciones no se publicaran.
En 1967, The Zombies firmaron con CBS Records, para quienes grabaron el álbum Odessey and Oracle (la palabra "odyssey" fue mal escrita por los diseñadores de la carátula). Como el presupuesto de la banda no alcanzaba para músicos de sesión, usaron un Mellotron.

Para cuando Odessey and Oracle se lanzó en abril de 1968, el grupo ya se había disuelto (en diciembre de 1967). El álbum se vendió mal y solo se lanzó en Estados Unidos porque el músico Al Kooper, que en ese momento tenía contrato con Columbia Records, convenció a su sello de los méritos del álbum. Una de sus canciones, "Time of the Season", escrita por Argent, se lanzó como sencillo y finalmente (en 1969) se convirtió en un éxito nacional (alcanzó el puesto número 3 en la lista Billboard Hot 100).
En 1968, Rod Argent y Chris White comenzaron a trabajar en material para una posible nueva banda cuando CBS les propuso hacer otro álbum de The Zombies. Se grabaron varias canciones nuevas con una formación que incluía a Argent, Hugh Grundy, Jim Rodford (bajo) y Rick Birkett (guitarra), y se combinaron con algunas grabaciones inéditas y demos de Decca. Desafortunadamente, el álbum, programado para ser lanzado en 1969, fue cancelado y solo un par de canciones, "Imagine the Swan" (una de las canciones recién grabadas) y "If It Don't Work Out" (un demo de una canción que Dusty Springfield grabó y lanzó en 1965), se publicaron como sencillos. (Parte de este material se lanzó en varios álbumes recopilatorios durante los años 70 y 80, y el álbum, titulado R.I.P., finalmente se lanzó en Japón en 2008).

Después de que The Zombies se disolviera, Rod Argent formó una banda llamada Argent en 1969, con Chris White como compositor. Atkinson trabajó en la sección de artistas y repertorio (A&R) de Columbia Records, y Grundy se unió a él allí después de un breve período en la venta de autos. Colin Blunstone comenzó una carrera en solitario después de un breve período fuera del negocio de la música, que incluyó trabajar en la sección de reclamos por robo de una compañía de seguros. Tanto Argent como White le proporcionaron nuevas canciones. También hizo grabaciones vocales para The Alan Parsons Project.
La formación original de la banda se negó a reunirse para conciertos, por lo que varios grupos falsos intentaron capitalizar el éxito y salieron de gira con el nombre de la banda. Uno de estos grupos salió de gira en 1988, llegando incluso a registrar la marca del nombre del grupo (ya que la banda había dejado que caducara) y a reclutar a un bajista llamado Ronald Hugh Grundy, afirmando que el baterista original, Hugh Grundy, había cambiado de instrumento.

En 1990, Blunstone, Grundy y White se reunieron brevemente como The Zombies con el teclista y guitarrista Sebastian Santa Maria y grabaron el álbum New World (1991). Argent, Atkinson y una gran cantidad de guitarristas invitados también aparecieron en este álbum.

En 1997 se lanzó una recopilación de 120 canciones del trabajo de la banda original, Zombie Heaven, a través de los sellos británicos Ace/Big beat. La compilación contiene todas las grabaciones de la banda para Decca/Parrot (en mono), el LP completo Odessey And Oracle (en estéreo), el material que habría formado el LP inédito R.I.P., varias grabaciones inéditas y un disco de grabaciones realizadas para la BBC. El 25 de noviembre de 1997, los cinco miembros originales de The Zombies se reunieron en el Jazz Cafe en Camden Town, Londres, como parte de un concierto en solitario de Blunstone para interpretar "She's Not There" y "Time of the Season" para promocionar el lanzamiento de Zombie Heaven.
Blunstone y Argent se reunieron para un álbum (Out Of The Darkness) y una gira juntos en 2001 bajo el nombre de Blunstone & Argent y continuaron tocando en vivo juntos hasta 2004, cuando volvieron a usar el nombre "The Zombies". La nueva formación incluía al primo de Rod, Jim Rodford (antes de The Kinks y Argent), su hijo Steve Rodford en la batería y Keith Airey (hermano de Don Airey) en la guitarra.
En 2002, Ace/Big Beat lanzó la compilación de 48 canciones The Decca Stereo Anthology, que, por primera vez, mezclaba todas las grabaciones de Decca/Parrot en estéreo real.

El guitarrista Paul Atkinson falleció en Santa Mónica, California, EE. UU., el 1 de abril de 2004, a causa de una enfermedad hepática y renal. Después de retirarse como artista, fue representante de artistas y repertorio (A&R) durante muchos años.
En 2005, Blunstone y Argent lanzaron un DVD y un álbum de 2 CD (Live At The Bloomsbury Theatre) y continuaron de gira con The Zombies.
Para conmemorar el 40 aniversario de Odessey & Oracle, los cuatro miembros originales de The Zombies que aún vivían participaron en una serie de tres conciertos en el Shepherd's Bush Empire Theatre de Londres entre el 7 y el 9 de marzo de 2008. Los sitios web de Blunstone y Argent habían anunciado que el concierto del 8 de marzo se grabaría para un CD y/o DVD que se lanzaría más tarde en 2008, y Amazon.com puso el CD oficialmente en preventa para su lanzamiento el 1 de julio de 2008. Tanto el CD como el DVD se lanzaron oficialmente en el Reino Unido y en varios países del mundo.
En 2010, Tom Toomey reemplazó a Keith Airey en la guitarra, y en 2011 "The Zombies featuring Colin Blunstone & Rod Argent" lanzaron su nuevo álbum de estudio, Breathe Out, Breathe In. Las reseñas fueron en general muy buenas, e incluyeron reseñas de 4 estrellas en publicaciones como Record Collector, Q, Uncut, Daily Mirror y The Independent.
La banda actualmente realiza giras por Estados Unidos y Canadá cada año, así como en los Países Bajos y el Reino Unido. La agenda de giras de 2011 incluyó a Japón, Francia, Alemania, Grecia e Israel.
El 19 de julio de 2013, se anunció que la banda aparecería en el segundo crucero anual de Moody Blues, del 2 al 7 de abril de 2014, a bordo del barco MSC Divina.
El 16 de octubre de 2013, The Zombies fueron anunciados como nominados para su inclusión en el Salón de la Fama del Rock and Roll, la primera nominación para el grupo desde que se convirtieron en elegibles en 1988.