John McLaughlin nació el 4 de enero de 1942 en Yorkshire, Inglaterra, y era el menor de cinco hermanos. Sus padres se separaron cuando él era niño, y se mudó con su madre. Su padre era ingeniero y esperaba que McLaughlin siguiera sus pasos. Sin embargo, a McLaughlin le interesaba la música. Su madre era violinista, y él aprendió a tocar la guitarra cuando tenía once años. También tomó clases de piano. Al principio se sintió atraído por el blues y el swing.

McLaughlin dejó la escuela cuando era adolescente y trabajó en un taller de reparación de guitarras. Luego se mudó a Londres para perseguir su sueño de ser músico. En 1969, lanzó su primer álbum de jazz-rock, Extrapolation. Posteriormente se mudó a la ciudad de Nueva York para trabajar con la banda Lifetime de Tony Williams en el álbum Emergency! (1969). A continuación, colaboró con el músico de jazz Miles Davis en el álbum In a Silent Way (1969).

McLaughlin trabajó con Miles en Bitches Brew (1970) y lanzó los álbumes solistas Devotion (1970) y My Goal’s Beyond (1971). Después de grabar otro trabajo con Miles, A Tribute to Jack Johnson (1971), McLaughlin exploró la música acústica y oriental. En 1971, se convirtió en líder de la Mahavishnu Orchestra, una banda de jazz fusión. La banda grabó The Inner Mounting Flame (1971), Birds of Fire (1973) y Visions of the Emerald Beyond (1975). McLaughlin lanzó Love Devotion Surrender (1973) junto al también guitarrista Carlos Santana. Abandonó Mahavishnu en 1975.

En esa época, McLaughlin formó la banda acústica Shakti, que tenía influencias de jazz y música india. La banda grabó los álbumes Shakti with John McLaughlin (1976), A Handful of Beauty (1976) y Natural Elements (1977). Posteriormente, McLaughlin colaboró con diversos artistas. Se unió al guitarrista de jazz fusión Al di Meola y al guitarrista de flamenco Paco de Lucía para lanzar los álbumes en vivo Friday Night in San Francisco (1981) y Passion, Grace & Fire (1983). En la década de 1980, también se reunió con Mahavishnu por un breve período.

McLaughlin continuó trabajando tanto en solitario como con otros músicos y grupos a lo largo de la década de 1990. Se enfocó en el jazz, tanto en formato eléctrico como acústico. Lanzó el álbum acústico Time Remembered: John McLaughlin Plays Bill Evans (1993); tocó con Elvin Jones y Joey DeFrancesco para el álbum de 1994 After the Rain; y lanzó The Promise (1995), que contó con reencuentros con Di Meola, De Lucía y DeFrancesco, y presentó al baterista Dennis Chambers. McLaughlin también colaboró con Chambers en el álbum The Heart of Things (1997).

A finales de siglo, se unió a exmiembros de Shakti y otros músicos para formar Remember Shakti. Durante los años siguientes, la banda lanzó Remember Shakti (1999) y The Believer (2000). Su gira dio lugar al álbum en vivo Saturday Night in Bombay (2001). Como artista solista, el músico lanzó Thieves and Poets en 2003. En ese mismo año se publicó una caja de diecisiete CD con sus conciertos entre 1974 y 1996, titulada The Montreux Concerts. Luego pasó los siguientes años trabajando con varios artistas para el álbum Industrial Zen (2006).

McLaughlin lanzó Floating Point en 2008, pero no se diferenciaba mucho de su álbum anterior. La última canción del álbum, «Five Peace Band», se convirtió en el nombre de otro grupo que formó. Five Peace Band estaba integrado por McLaughlin, el pianista Chick Corea, el saxofonista Kenny Garrett, el bajista Christian McBride y el baterista Vinnie Colaiuta. La banda realizó una gira y lanzó Five Peace Band Live en 2009.

En 2010 le siguió otra colaboración llamada 4th Dimension. La banda, integrada por el guitarrista McLaughlin, el bajista Etienne Mbappe, el teclista y baterista Gary Husband y el baterista Mark Mondesir, lanzó el álbum To the One en 2010. La banda sufrió un cambio en su formación cuando Mondesir fue reemplazado por Ranjit Barot, quien anteriormente había trabajado con McLaughlin en Floating Point. La nueva formación de 4th Dimension realizó una gira y lanzó Now Here This (2012). Su presentación en vivo en el Berklee College of Music de Boston, Massachusetts, se publicó como The Boston Record en 2014.

McLaughlin siguió de gira y tocando con 4th Dimension. En 2015, la banda lanzó Black Light, que incluía la canción acústica «El Hombre Que Sabía» como homenaje a de Lucía.

A principios de 2017, McLaughlin anunció su gira de despedida, «Meeting of the Spirits», que recorrería veintitrés ciudades de Estados Unidos de noviembre a diciembre. El guitarrista Jimmy Herring tenía previsto unirse a McLaughlin y a 4th Dimension para la gira. McLaughlin dijo que, durante la gira, volvería a interpretar material de la Mahavishnu Orchestra de la década de 1970. También afirmó que seguiría trabajando en la música una vez que terminara la gira.

En 2020, McLaughlin lanzó el álbum Is That So? junto a los músicos Shankar Mahadevan y Zakir Hussain. Un año después, le siguió el álbum solista Liberation Time. En 2023, McLaughlin y su banda lanzaron su primer álbum en casi cinco décadas, This Moment. La banda también anunció una gira por Norteamérica, la primera en dieciséis años. En febrero de 2024, Shakti ganó el Grammy al Mejor Álbum de Música Global por This Moment. En 2025, Shakti lanzó Mind Explosion: 50th Anniversary Tour Live, grabado durante su gira del quincuagésimo aniversario; el álbum recibió posteriormente nominaciones al Grammy en las categorías de Mejor Álbum de Música Global y Mejor Interpretación de Música Global, y fue considerado el último lanzamiento de la banda tras la muerte de Zakir Hussain en 2024. En 2025, McLaughlin también lanzó Music for Abandoned Heights, un proyecto que surgió a partir de la música compuesta para una película que nunca se estrenó. McLaughlin se ha alejado en gran medida de las giras importantes y ahora asesora a músicos de jazz más jóvenes a través de proyectos como Young Lions.