Nació como Robert William Gary Moore el 4 de abril de 1952 cerca de la urbanización Stormont, junto a la carretera Upper Newtownards Road, en el este de Belfast, y fue uno de los cinco hijos de Bobby Moore, gerente de un salón de baile, y de su esposa Winnie. Su padre dirigía el salón de baile Queen's Hall en Holywood, condado de Down, donde el joven Gary veía actuar con frecuencia a bandas de espectáculos. Después de cantar en el escenario con una banda de espectáculos a los seis años, se propuso convertirse en artista. Dos años más tarde ya tocaba la guitarra acústica, y a los 13 interpretaba versiones de canciones de los Beatles con su primera banda, The Beat Boys. Los conciertos en Belfast de Jimi Hendrix, John Mayall y los Bluesbreakers, y The Who lo convirtieron en un fanático del rock expresivo y centrado en la guitarra, y en 1967 formó una banda llamada Platform Three, que tocaba en pequeños locales de la zona. En ocasiones eran el grupo telonero de Rory Gallagher (véase), quien fue una gran inspiración y un gran estímulo para él.

En 1968, Moore se mudó a Dublín, decidido a convertirse en músico profesional. Más adelante ese mismo año se unió a Skid Row, liderada por Brendan («Brush») Shiels en el bajo, con Philip Lynott (véase) en la voz. Lynott fue expulsado de la banda unos meses después, y esta pasó a ser un trío con Noel Bridgeman en la batería. Moore coescribió algunas canciones de Skid Row y, en ocasiones, se turnaba en la voz, pero era reconocido principalmente por su virtuosismo con la guitarra. Aclamado como el prodigio adolescente del rock irlandés, se convirtió en un guitarrista muy solicitado por bandas progresivas y tocó en los álbumes Heavy Petting (1970) de Dr. Strangely Strange y Honest Injun (1970) de Granny’s Intentions. Skid Row se ganó la reputación de ser una de las bandas más innovadoras de Dublín y fue banda de apoyo de grupos visitantes, como Fleetwood Mac en enero de 1970. Moore recibió una gran influencia del guitarrista de Fleetwood Mac, Peter Green, quien a su vez quedó impresionado por el talento musical de Moore y se convirtió en su mentor. Skid Row consiguió un contrato discográfico con CBS en 1970 y se ganó un público fiel con los álbumes Skid (1970) y 34 Hours (1971). Realizaron giras por Europa y Estados Unidos, pero no lograron ganar dinero. Moore dejó la banda en diciembre de 1971, justo antes de otra gira programada por Estados Unidos, y se mudó a Londres, donde lanzó su primer álbum solista, Grinding Stone (1973), con The Gary Moore Band.

En 1974 se unió a Thin Lizzy, liderada por Lynott, para la primera de tres etapas, aportando un memorable solo de guitarra a «Still in love with you» en el álbum Nightlife (1974). En menos de un año se retiró para unirse al grupo de jazz-fusión Colosseum II, ya que prefería su actitud más seria y profesional al hedonismo caótico de las giras de Lizzy. Moore trabajó arduamente para mejorar su técnica y sus conocimientos musicales, y esperaba que los demás hicieran lo mismo. Grabó tres álbumes con Colosseum II y colaboró en el álbum Variations de Andrew Lloyd Weber en 1978. Esto le permitió desarrollar su versatilidad musical: podía tocar una variedad de estilos —rock, jazz, blues, folk, country y bluegrass— en diversos instrumentos, entre ellos el violín, la mandolina y los teclados. Convencido de que le faltaban los conocimientos teóricos necesarios para seguir avanzando con la banda, renunció en agosto de 1978 para reincorporarse a Thin Lizzy (con quienes ya había realizado una gira por Estados Unidos como guitarrista suplente en 1977). Junto con Lynott, coescribió «Parisienne Walkways» (incluida en el álbum solista de Moore, Back on the Streets (1978)), que destacaba por su evocadora interpretación de la guitarra y la voz de Lynott, y alcanzó el puesto n.º 8 en la lista de sencillos del Reino Unido en mayo de 1979. La guitarra de Moore se destacó en el álbum de Lizzy Black Rose (1979), en particular sus interpretaciones rockeras de melodías tradicionales irlandesas en «Róisín Dubh». Junto con Lynott, coescribió «Sarah», también incluida en Black Rose. El álbum fue un éxito comercial, alcanzando el puesto n.º 2 en la lista de álbumes del Reino Unido, pero Moore se sintió incómodo con el consumo de drogas de la banda y la abandonó durante una gira por Estados Unidos en julio de 1979. Aunque había experimentado con drogas ilegales a finales de su adolescencia, Moore las evitó en gran medida a partir de los veinte años (aunque siguió consumiendo alcohol en exceso). Durante un tiempo se estableció en Los Ángeles y formó la banda G-Force, que grabó un álbum que fue un fracaso. Entre 1981 y 1982 grabó dos álbumes sin mayor relevancia con Greg Lake.

Moore y Thin Lizzy intercambiaron recriminaciones tras su salida a mitad de la gira, y se mantuvieron distanciados hasta que lo invitaron a participar como artista invitado con la banda en Hammersmith durante su gira de despedida en 1983, capturada en el álbum Life (1983). Posteriormente, lanzó una serie de álbumes como solista, entre ellos Run for Cover (1985), que incluía el sencillo «Out in the Fields», que llegó al top 5; esta fue su última colaboración con Lynott y su mayor éxito como solista en el Reino Unido. Los dos tenían una amistad competitiva y, a veces, tensa, pero existía un gran afecto entre ellos y, en lo creativo, a menudo sacaban lo mejor el uno del otro. Moore quedó devastado al enterarse de la muerte de Lynott por una sobredosis de drogas en enero de 1986. En el concierto benéfico Self Aid celebrado en Dublín el 17 de mayo de 1986, fue guitarrista y vocalista principal en una formación de Thin Lizzy que rindió homenaje a Lynott, y posteriormente tocó en muchos otros conciertos conmemorativos.

El siguiente álbum de Moore, Wild frontier (1987), fue un homenaje a la música tradicional irlandesa. Ante la insistencia de su discográfica, regresó al hard rock con After the war (1989) (compuesto en su mayor parte durante una estancia de tres meses en Dublín), pero sus ventas fueron decepcionantes. Mientras estaba de gira con este material, Moore se dio cuenta de que no tenía ningún deseo de promocionarse como un artista comercial de hard rock o heavy metal. Desestimaba la mayor parte del heavy metal como un rock caricaturesco y lleno de clichés, una música perdida en un espectáculo circense de pirotecnia exagerada. Su verdadero amor era el blues y, entre 1989 y 1990, colaboró con los veteranos del blues Albert Collins y Albert King (y con el ex Beatle George Harrison) para grabar Still Got the Blues (1990). Se convirtió en su álbum solista de mayor éxito artístico y comercial, vendiendo inesperadamente más de 3 millones de copias en pocos meses y ganándole su primer disco de oro en EE. UU. y su primer sencillo exitoso en ese país (con la canción que da título al álbum).

Se benefició enormemente del consejo de Albert King de tocar de manera más contenida y mesurada, y de dejar algo de espacio entre las notas. Su amistad con Harrison lo llevó a recibir una invitación para unirse a Jeff Lynne, Tom Petty y Bob Dylan y tocar la guitarra principal en «She’s my baby», la canción de apertura del álbum Traveling Wilburys vol. 3 (1990). Al regresar al blues, grabó After hours (1992), que volvió a contar con la colaboración de Collins y del legendario B. B. King.

En 1994, Moore se unió a los exmiembros de Cream, Ginger Baker y Jack Bruce, para ocupar el lugar de Eric Clapton en la formación de Cream y, bajo el nombre de BBM, lanzó el álbum Around the next dream. Luego grabó Blues for Greeny (1995), un tributo a Peter Green. A Moore le gustaba experimentar con nuevos sonidos, pero ni el pop más suave de Dark Days in Paradise (1997) ni los ritmos de baile modernos de Different Beat (1999) tuvieron un éxito particular. Con Back to the blues (2001) regresó a terreno conocido, y le siguieron álbumes como Power of the blues (2004) y Bad for you baby (2008), que mezclaban composiciones originales y clásicos del blues. En total, lanzó veinte álbumes de estudio y seis recopilaciones en vivo.

Moore era un cantante y letrista competente, pero fue su magnífica técnica con la guitarra lo que lo distinguió. Su combinación de virtuosismo y sentimiento podía hipnotizar al público, y era muy admirado por guitarristas como Eric Clapton, Brian May y Bryan Adams. Obsesionado con los aspectos técnicos de tocar la guitarra, le encantaba discutir con gran detalle las minucias de la amplificación y las ventajas y desventajas de diversas marcas. Su perfeccionismo musical y su aparente mal humor le valieron en algunos círculos la reputación de ser difícil, pero en general se mostraba relajado y con sentido del humor en entornos sociales y se llevaba bien con la mayoría de sus colegas músicos. Consideraba que hacer música era un fin en sí mismo más que un medio para alcanzar el estrellato y tenía poco interés en la imagen o la autopromoción; se reía de las sugerencias de su discográfica de que se tiñera el cabello de rubio o se sometiera a cirugía plástica para mejorar su apariencia. Aunque era idolatrado en Japón, consideraba que la adulación de algunos fans japoneses era excesiva y molesta, y no le gustaba hacer giras por ese país. A partir de 1996 vivió tranquilamente en Brighton, tocando ocasionalmente en conciertos benéficos en bares locales. Su público irlandés era leal, pero relativamente pequeño, y nunca alcanzó el estatus de héroe popular de Gallagher o Lynott. Se lo tomaba con filosofía, y disfrutaba del hecho de que rara vez lo reconocieran en sus visitas a Irlanda.

Moore murió de un ataque al corazón mientras dormía el 6 de febrero de 2011 en Estepona, España, mientras estaba de vacaciones con su novia Petra Nioduschewski, y fue enterrado en el cementerio de la iglesia de St Margaret, en Rottingdean, East Sussex. Muchos de sus colegas músicos le rindieron homenaje: Bob Geldof lo describió como «uno de los grandes bluesmen irlandeses. Su forma de tocar era excepcional y hermosa. No volveremos a ver a alguien como él».