Miles nació como John Errington en Jarrow, en el condado de Durham, hijo de Alec y Doris. Asistió a la escuela St. Peters antes de aprobar su examen «eleven-plus» e ingresar a la escuela secundaria Jarrow Grammar School. Mientras aún era alumno de la Jarrow Grammar School, Miles comenzó a tomar clases de guitarra en la cercana localidad de Hebburn y su profesor de música de la escuela secundaria, Jimmy Joseph, lo alentó a seguir una carrera en la música; sin embargo, su primer trabajo después de terminar la escuela fue fabricar letreros para baños. Miles tocó en varias bandas locales, entre ellas The John Miles Set, Derringers, The New Atlantians y The Urge, antes de unirse a The Influence, en la que también formaban parte Paul Thompson —quien más tarde sería el baterista de Roxy Music— y Vic Malcolm, quien más tarde sería el guitarrista principal de Geordie. Este grupo lanzó el sencillo «I Want to Live» (Orange Records, 1969). Posteriormente, formó The John Miles Set, junto a Bob Marshall y Dave Symonds, antes de iniciar su carrera como solista en 1971.

Entre otros lanzamientos se encuentran los compuestos por el dúo de compositores australianos Vanda & Young: «The World Belongs to Yesterday» (1972), «Yesterday Was Just the Beginning of My Life» (1972) y «One Minute Every Hour» (1973). Fue durante un descanso en una presentación de los sábados en el club de Peter Stringfellow en Leeds cuando comenzó a escribir lo que se convertiría en «Music». En 1972, la banda apareció en la serie de televisión Opportunity Knocks.

Miles firmó un contrato discográfico con el sello británico Decca en 1975 y lanzó cuatro álbumes: Rebel (1976) —n.º 9 en la lista del Reino Unido—, Stranger in the City (1977) —n.º 37 en el Reino Unido—, Zaragon (1978) —n.º 43 en el Reino Unido— y More Miles Per Hour (1979) —n.º 46 en el Reino Unido—. Miles tuvo mayor éxito con los sencillos y lanzó un total de dieciocho durante esta época, cuatro de los cuales llegaron al top 40 del Reino Unido. Además de «Music», entró en las listas del Reino Unido con «Highfly» (1975) —n.º 17—, «Remember Yesterday» (1976) —n.º 32— y «Slow Down» (1977) —n.º 10—. En 1975, los lectores del Daily Mirror eligieron a Miles como Mejor Artista Revelación. Poco después del lanzamiento de «Music», la revista Melody Maker describió a Miles como «la fuerza más brillante y fresca del rock británico».

«Music» le valió a Miles un Premio Ivor Novello a la Mejor Canción Middle of the Road en 1977. La mayoría de sus canciones fueron coescritas con el bajista de su banda de acompañamiento, Bob Marshall.

En la cima de su éxito, en 1976 y 1977, Miles hizo varias apariciones en los programas semanales de televisión dedicados a la música pop Supersonic y Top of the Pops. El álbum debut sí recibió cierta atención en Estados Unidos. Dos sencillos del álbum debut entraron en la lista Billboard Hot 100 de EE. UU.: «Highfly» alcanzó el puesto n.º 68, seguido de «Music», que se quedó en el n.º 88. En Canadá, «Highfly» llegó al n.º 74 y «Slow Down» al n.º 68.

Sin embargo, «Music» alcanzó el puesto n.º 1 en las listas de Holanda y Bélgica, y el n.º 4 en las de Suiza. «Slow Down» fue su mayor éxito en las listas de Estados Unidos, alcanzando el puesto n.º 2 en la lista de música disco y el n.º 34 en el Billboard Hot 100 en junio de 1977. Más tarde apareció en la película de 1979 Players, protagonizada por Ali MacGraw y Dean Paul Martin. El álbum Zaragon alcanzó el puesto n.º 3 en las listas de éxitos suecas y portuguesas. Durante su gira por Estados Unidos para promocionar Zaragon, Billboard señaló que «Miles cuenta con varios puntos fuertes: una voz sólida, una interpretación de guitarra precisa y un material sólido».

Miles fue telonero de Elton John en su gira norteamericana de 1976 Louder Than Concorde (But Not Quite As Pretty). Miles y su banda también fueron teloneros de otros artistas de primer nivel durante este período, entre ellos Fleetwood Mac, Aerosmith, Jethro Tull y los Rolling Stones. En 1978, Miles fue invitado a participar en el programa «Sight and Sound in Concert» de la BBC, que se transmitió simultáneamente por BBC Radio 1 y BBC 2 el 11 de marzo de 1978.

Desde 1985, Miles participó casi todos los años en la Noche de los Proms, una serie de conciertos que se celebran anualmente en Bélgica, los Países Bajos, Alemania, Luxemburgo, Polonia, Dinamarca y Estados Unidos. También se realizaban regularmente espectáculos en España, Francia, Austria, Suiza y Suecia. Los conciertos consisten en una combinación de música pop y música clásica popular (a menudo mezcladas) y suelen participar diversos músicos y grupos reconocidos.

Miles siempre interpretaba «Music», considerada el himno del espectáculo, y también cantaba otras canciones junto a otros artistas. En 2009 se lanzó el álbum The Best of John Miles at the Night of the Proms, que incluía «Music» y versiones de temas como «All by Myself», «Bohemian Rhapsody» e «It Was a Very Good Year».

El álbum de Miles de 1986, Transition, fue elogiado por Billboard, que señaló que «su interpretación audaz y la solidez del material deberían garantizarle una amplia difusión».

Miles realizó giras con Tina Turner a partir de 1987, tocando teclados, guitarra y haciendo coros en todas sus giras, además de participar en varios de sus álbumes. Participó en el álbum Outrider de Jimmy Page, de 1988, y en la gira posterior (su amplio registro vocal le permitió interpretar versiones tanto de Robert Plant como de Paul Rodgers, de las dos bandas anteriores de Page), y tocó el órgano Hammond en el álbum Night Calls (1992) de Joe Cocker, con quien estuvo de gira durante dos años. En 1990, Miles participó en la selección británica de A Song for Europe con la canción «Where I Belong», que quedó en segundo lugar.

Miles fue un vocalista invitado habitual en los álbumes de Alan Parsons Project, participando en Tales of Mystery and Imagination (1976), Pyramid (1978), Stereotomy (1985) y Gaudi (1987), así como en el álbum de Eric Woolfson Freudiana (1990). Apareció en el álbum Romanza de Andrea Bocelli, de 1997, en las canciones «Funiculi Funicula» y «Miserere».

Su primer DVD, John Miles – Live in Concert, salió a la venta en 2002. En 2007, Miles se presentó en Gelsenkirchen, Alemania, junto a la banda alemana Pur e interpretó dos canciones. En una de ellas, «Abenteuerland», Miles cantó con Pur en alemán. El concierto está disponible en el DVD Pur&Friends-Live-auf-Schalke-2007. En octubre de 2008, Miles volvió a salir de gira con Tina Turner hasta mayo de 2009.

El Olympiapark de Múnich le entregó a Miles una llave simbólica del parque en 2015 por ser el artista que más veces había actuado allí, y ese momento quedó registrado en el Paseo de las Estrellas Olímpico de Múnich.

En 2017, Miles recibió un premio por su destacada contribución a la música en los Premios Progressive Rock.

En 2019, Miles protagonizó una actuación tipo flashmob de «Music» organizada por Südwestrundfunk (SWR; Radiodifusión del Suroeste), una corporación regional de radiodifusión pública que presta servicio al suroeste de Alemania. Se llevó a cabo en la plaza del mercado de Landau y contó con la participación de más de 100 personas, incluidos los miembros de la Orquesta Juvenil Estatal de Renania-Palatinado y 20 operadores de cámara.

En 2020, Miles grabó una nueva versión de «Music» de manera remota con la Orquesta Filarmónica de Amberes «Quarantine», debido a la cancelación de la Noche de los Proms a causa de la pandemia de COVID-19.