En 1973, Blackmore había llevado a Deep Purple a través de un cambio significativo en su formación, con Ian Gillan y Roger Glover siendo reemplazados por David Coverdale y Glenn Hughes. Sin embargo, los nuevos miembros estaban ansiosos por añadir nuevos estilos musicales y Blackmore vio cómo su petición de grabar «Black Sheep of the Family», compuesta por Steve Hammond, junto con «Sixteenth Century Greensleeves» era rechazada por la banda. Decidió grabar la canción con Dio, utilizando a su banda Elf como músicos adicionales. Le gustó el resultado y, entre febrero y marzo de 1975, se grabó un álbum completo, titulado Ritchie Blackmore's Rainbow, en los estudios Musicland de Múnich, Alemania. El nombre de la banda se inspiró en el Rainbow Bar and Grill de Hollywood.
La música de Rainbow se inspiró en parte en la música clásica, ya que Blackmore comenzó a tocar el violonchelo para ayudarle a construir progresiones de acordes interesantes, y Dio escribió letras sobre temas medievales. Dio poseía un registro vocal versátil, capaz de cantar tanto hard rock como baladas más ligeras y, según Blackmore, «sentí un escalofrío recorriendo mi espalda». Aunque Dio nunca tocó ningún instrumento musical en ningún álbum de Rainbow, se le atribuye la composición y los arreglos musicales junto con Blackmore, además de escribir todas las letras él mismo. Blackmore y Dio también encontraron un punto en común en su sentido del humor.

Tras la positiva experiencia de grabar con Dio, Blackmore decidió abandonar Deep Purple, ofreciendo su último concierto en París en abril. El álbum tuvo una acogida positiva por parte de la crítica y fue un éxito en el top 20 del Reino Unido y en el top 30 de Estados Unidos. La salida de Blackmore de Deep Purple se anunció públicamente el 21 de junio.
Rainbow actuando en Múnich en 1977. El arcoíris eléctrico que se extendía por el escenario consumía tanta energía que a menudo interfería con las guitarras y los amplificadores.
Blackmore no estaba contento con la formación de Elf para los conciertos en directo, por lo que despidió a todos excepto a Dio poco después de grabar el álbum, debido al estilo de Driscoll a la batería y al bajo funky de Gruber. Blackmore seguiría dictando quién formaba parte de la banda durante el resto de su vida, y el baterista y antiguo compañero Ricky Munro comentó: «Era muy difícil llevarse bien con él porque nunca sabías cuándo se daría la vuelta y diría: "Estás despedido"». Blackmore reclutó al bajista Jimmy Bain, al teclista estadounidense Tony Carey y al baterista Cozy Powell, que había trabajado anteriormente con Jeff Beck y había tenido cierto éxito en solitario. Powell también le gustaba mucho a Blackmore por su mutua afición a las bromas pesadas.

Esta formación también inició la primera gira mundial de la banda, con la primera fecha en Montreal el 10 de noviembre de 1975. El elemento central de la actuación en directo de la banda era un arcoíris controlado por computadora que incluía 3000 bombillas y se extendía a lo largo de 12 metros por el escenario. El segundo álbum, Rising, se grabó en febrero en Musicland. Para cuando llegaron las fechas europeas en el verano de 1976, Rainbow ya se había labrado una reputación como banda con un directo apasionante. La banda añadió Mistreated, de Deep Purple, a su repertorio, y las canciones se alargaron para incluir improvisaciones. Carey recuerda que ensayar el material fue bastante sencillo, y afirma: «No preparamos nada, excepto la estructura, el final... era muy libre, realmente rock progresivo». La portada del álbum fue diseñada por el famoso artista fantástico Ken Kelly, que había dibujado a Tarzán y Conan el Bárbaro.

En agosto de 1976, tras un concierto en el Newcastle City Hall, Blackmore decidió despedir a Carey, ya que consideraba que su estilo era demasiado complicado para la banda. Al no encontrar rápidamente un sustituto adecuado, Carey fue readmitido, pero a medida que la gira mundial avanzaba hacia Japón, se convirtió en blanco habitual de las bromas y el humor de Blackmore.
Posteriormente, Blackmore decidió que Bain no estaba a la altura y lo despidió en enero de 1977. Poco después, Carey corrió la misma suerte. Sin embargo, a Blackmore le costó encontrar sustitutos que le gustaran. Para los teclados, tras hacer audiciones a varios artistas de renombre, entre ellos Mark Stein, de Vanilla Fudge; Matthew Fisher, de Procol Harum, y Eddie Jobson, exmiembro de Curved Air y Roxy Music, Blackmore finalmente seleccionó al canadiense David Stone, de la poco conocida banda Symphonic Slam. Para el bajo, Blackmore eligió inicialmente a Mark Clarke, antiguo miembro de Jon Hiseman's Colosseum, Uriah Heep y Tempest, pero una vez en el estudio para grabar el siguiente álbum, Long Live Rock 'n' Roll, a Blackmore le disgustó tanto el estilo de tocar de Clarke que lo despidió en el acto y tocó él mismo el bajo en todas las canciones excepto en cuatro: la canción que da título al álbum, «Gates of Babylon», «Kill the King» y «Sensitive to Light». El ex bajista de Widowmaker, el australiano Bob Daisley, fue contratado para grabar estas canciones, completando así la siguiente formación de la banda.

Tras el lanzamiento y la extensa gira mundial de 1977-78, Blackmore decidió que quería llevar a la banda por un nuevo camino comercial, alejándose de la temática de «espadas y brujería». Dio no estuvo de acuerdo con este cambio y abandonó Rainbow.
Blackmore intentó sustituir a Dio por Ian Gillan, pero Gillan rechazó la oferta. Tras una serie de audiciones, se contrató al antiguo vocalista y guitarrista de The Marbles, Graham Bonnet. Powell se quedó, pero Daisley y Stone fueron despedidos, y este último fue sustituido por el teclista Don Airey. Al principio, la banda hizo audiciones para encontrar un bajista, pero, por sugerencia de Cozy Powell, Blackmore contrató al entonces exmiembro de Deep Purple Roger Glover como productor, bajista y letrista. El primer álbum de la nueva formación, Down to Earth, incluyó los primeros grandes éxitos de la banda en las listas de singles, «All Night Long» y «Since You Been Gone», compuesta por Russ Ballard.

En 1980, la banda encabezó el cartel del festival inaugural «Monsters of Rock» en Castle Donington, Inglaterra. Sin embargo, este fue el último concierto de Powell con Rainbow, ya que había anunciado su intención de abandonar la banda, al no gustarle la dirección cada vez más pop rock que estaba tomando Blackmore. Bonnet renunció para dedicarse a un proyecto en solitario, que culminó en el álbum Line Up, en el que participaron varios veteranos del hard rock contemporáneo, como Jon Lord, su antiguo compañero de banda Cozy Powell y Micky Moody, de Whitesnake. El álbum produjo un éxito que llegó al top ten del Reino Unido, «Night Games». La considerable destreza vocal de Bonnet no pasó desapercibida y, desde entonces, ha disfrutado de diversos grados de éxito con MSG y Alcatrazz, entre otros.

Para el siguiente álbum, Bonnet y Powell fueron sustituidos por los estadounidenses Joe Lynn Turner y Bobby Rondinelli, respectivamente. La canción principal del álbum, Difficult to Cure, era una versión de la Novena Sinfonía de Beethoven. El álbum dio lugar a su sencillo más exitoso en el Reino Unido, «I Surrender» (otra canción de Ballard), que alcanzó el número 3. También incluía la pieza para guitarra «Maybe Next Time». Tras la gira de promoción, Don Airey abandonó la banda por desacuerdos sobre la dirección musical y fue sustituido en los teclados por David Rosenthal.
La banda consiguió una importante difusión en las emisoras de radio de rock orientadas a álbumes de Estados Unidos con el tema «Jealous Lover», que alcanzó el número 13 en la lista de temas de rock de la revista Billboard, que seguía la difusión de AOR.

Originalmente publicado como cara B de «Can't Happen Here», «Jealous Lover» se convirtió posteriormente en la canción principal de un EP publicado en Estados Unidos con una portada muy similar a la de «Difficult to Cure».
El siguiente álbum de estudio de Rainbow fue Straight Between the Eyes. El álbum era más coherente que Difficult to Cure y tuvo más éxito en Estados Unidos. Sin embargo, la banda estaba alejando a algunos de sus primeros fans con su sonido más AOR. El sencillo, «Stone Cold», era una balada que tuvo cierto éxito en las listas (número 1 en la lista de canciones de rock de la revista Billboard) y su video recibió mucha difusión en MTV. La exitosa gira de promoción se saltó por completo el Reino Unido y se centró en el mercado estadounidense. Se filmó una fecha de esta gira en San Antonio, Texas, y el resultado, «Live Between the Eyes», también se emitió repetidamente en MTV.
Bent Out of Shape supuso el despido del baterista Rondinelli en favor del antiguo baterista de Balance, Chuck Burgi. El álbum incluía el sencillo «Street of Dreams». Según la biografía de Blackmore en su página web oficial, el vídeo de la canción fue prohibido por MTV por su controvertido videoclip hipnótico. Sin embargo, el Dr. Thomas Radecki, de la Coalición Nacional contra la Violencia en la Televisión, criticó a MTV por emitir el vídeo, lo que contradice la afirmación de Blackmore. La gira resultante llevó a Rainbow de vuelta al Reino Unido y también a Japón en marzo de 1984, donde la banda interpretó «Difficult to Cure» con una orquesta completa. El concierto también fue filmado.

La dirección de Rainbow, Thames Talent, coordinó los intentos para reformar con éxito Deep Purple MK. II. En abril de 1984, Rainbow se disolvió. El que entonces sería el último álbum de Rainbow, Finyl Vinyl, se compuso a partir de temas en vivo y caras B de sencillos, incluyendo el instrumental «Weiss Heim» (cara B de All Night Long), «Bad Girl» (cara B de Since You Been Gone) y «Jealous Lover» (cara B de Can't Happen Here).
En 1988, tras unirse a la banda Impelliteri, Graham Bonnet versionó «Since You Been Gone» en el álbum debut del grupo, Stand In Line.