Durante los años 80, los futuros integrantes de Tool se mudaron a Los Ángeles con diferentes aspiraciones. Adam Jones y Paul D'Amour buscaban entrar en la industria cinematográfica, mientras que Maynard James Keenan trabajaba en remodelaciones tras haber estudiado artes visuales. Danny Carey ya tenía experiencia como baterista en distintos proyectos musicales.
En 1989, Keenan y Jones se conocieron y comenzaron a trabajar juntos. Al poco tiempo se unió Carey, presentado por Tom Morello, amigo de la secundaria de Jones. Finalmente, un conocido de Jones los puso en contacto con D'Amour, completando la formación.
Al principio inventaron la historia de que su origen estaba ligado a una supuesta filosofía llamada "lacrimología". Sin embargo, el nombre Tool se planteó como un símbolo provocador y al mismo tiempo como la idea de ser "una herramienta" para el crecimiento del público.
Tras dos años de ensayos y presentaciones locales, firmaron con Zoo Entertainment y en 1992 lanzaron su primer EP, Opiate, con un sonido directo y pesado. Contenía los sencillos Hush y Opiate, y el videoclip de Hush criticaba la censura en la música. En esta etapa comenzaron a girar junto a bandas como Rollins Band, Rage Against the Machine y Fishbone, recibiendo buenas críticas iniciales.

En 1993 apareció Undertow, primer álbum de estudio. Mostraba un rango más amplio que Opiate y contenía temas más trabajados. Durante una presentación en un local de la Iglesia de la Cienciología, Keenan protestó imitando a una oveja, en referencia a la obediencia ciega a dogmas.
Ese mismo año participaron en el festival Lollapalooza, inicialmente en escenarios secundarios, pero gracias a la respuesta del público fueron trasladados al escenario principal. En el último show, Bill Hicks, comediante cercano a la banda, los presentó, marcando una amistad e influencia duradera.
El álbum fue un éxito comercial: certificado oro en 1993 y platino en 1995, a pesar de problemas con distribuidores que censuraron la portada. El sencillo Sober se convirtió en su primer gran éxito, acompañado por un videoclip de animación. Otro sencillo, Prison Sex, fue más polémico por tratar el tema del abuso infantil. El video dirigido por Adam Jones fue censurado en varios canales de música.
En 1995, la banda comenzó a trabajar en un nuevo álbum, pero D'Amour dejó el grupo. Fue reemplazado por Justin Chancellor, exintegrante de Peach, consolidando la formación que continúa hasta la actualidad.

En 1996 lanzaron Ænima, producido por David Bottrill. El disco alcanzó triple platino y su arte visual fue nominado a los Grammy. Chancellor debutó como bajista en esta etapa.

El álbum fue dedicado a Bill Hicks, fallecido en 1994, incorporando referencias directas a su obra y estilo de humor. El sencillo Stinkfist tuvo difusión limitada por censura en MTV y radio.
La gira mundial de Ænima comenzó en 1996, llegando a Estados Unidos, Europa, Australia y Nueva Zelanda. En 1997 encabezaron Lollapalooza, consolidando su estatus como una de las bandas más innovadoras del metal alternativo.

A nivel musical, Ænima se destacó por su enfoque progresivo y experimental, incluyendo el tema ganador del Grammy Ænema. La crítica lo colocó como uno de los mejores álbumes de 1996.
Sin embargo, Tool enfrentó problemas legales con su discográfica, Volcano Entertainment, que alegaba incumplimiento de contrato. Tras una disputa judicial, en 1998 llegaron a un acuerdo y firmaron un nuevo contrato de tres discos.
Durante esta pausa, los miembros trabajaron en proyectos paralelos: Keenan con A Perfect Circle, Jones con Buzz Osborne y Carey con Jello Biafra. En 2000 publicaron el box set Salival, que incluía material inédito y versiones en vivo.

En 2001, tras rumores y bromas sobre títulos falsos, Tool lanzó Lateralus, que los consolidó dentro del rock progresivo. El álbum fue un éxito inmediato, debutando en el número uno del Billboard 200 y expandiendo su propuesta artística hacia composiciones largas y complejas.
La canción Schism ganó un Grammy en 2001, y su videoclip reflejaba el interés visual de la banda. Otro de los videos más notables fue Parabola, de más de diez minutos de duración.
La gira incluyó una colaboración con King Crimson, lo que reforzó la asociación de Tool con el progresivo clásico. La crítica elogió la ambición del disco, destacando su estructura conceptual y la exploración de temas filosóficos.

En 2002 la banda entró en pausa, mientras Keenan se centraba en A Perfect Circle. No obstante, los demás miembros continuaron preparando material. En 2005, tras rumores y bromas en su página oficial, confirmaron que estaban trabajando en un nuevo álbum. Ese mismo año lanzaron ediciones especiales de Lateralus en vinilo y DVD con sencillos y videos comentados.

En 2006 apareció 10,000 Days, con un estilo cercano a Lateralus pero con menor recepción crítica. El sencillo inicial, Vicarious, se estrenó poco antes del lanzamiento del disco, que debutó en el número uno del Billboard 200 y vendió más de medio millón de copias en su primera semana.
El álbum fue recibido con división: aunque exitoso en ventas, no alcanzó el mismo nivel de innovación que su predecesor. Aun así, ganó el Grammy a Mejor Paquete de Grabación y recibió una nominación por Vicarious.
La gira mundial incluyó presentaciones en Coachella, Bonnaroo y apariciones con bandas como Mastodon e Isis. En una de las actuaciones, Tom Morello participó como invitado en Lateralus.
En medio de la gira, Carey sufrió una lesión que obligó a posponer conciertos, pero la banda retomó la actividad tras su recuperación.

Tras la gira, la banda decidió tomarse un descanso. Chancellor mencionó que ya tenían material para un nuevo disco, pero que querían explorar también la posibilidad de un proyecto audiovisual. Aunque se habló de realizar una película, nunca pasó de la etapa de ideas.
Entre 2009 y 2014, Tool participó en giras por Norteamérica, Japón y festivales como Lollapalooza y Ozzfest. Mientras tanto, los miembros continuaron con proyectos personales: Keenan con Puscifer, Chancellor con M.T. Void, y Jones junto a Carey componiendo nuevas piezas.

En 2013 confirmaron que gran parte del material instrumental ya estaba escrito, y Keenan se incorporó al proceso creativo. Sin embargo, declaraciones contradictorias de los propios integrantes y rumores sobre supuestas fechas de lanzamiento alimentaron la incertidumbre.
En 2014, problemas legales con una aseguradora retrasaron aún más el proceso creativo. La banda explicó que las demandas habían consumido tiempo, dinero y energía, dificultando la concentración en el nuevo disco. Jones añadió que Tool no publicaría música hasta estar completamente satisfechos con el resultado.

En 2019, Tool finalmente lanzó Fear Inoculum, su quinto álbum de estudio, después de 13 años sin sacar disco nuevo. Se grabó entre marzo de 2018 y enero de 2019. Justo antes del lanzamiento decidieron subir todo su catálogo previo a las plataformas de streaming (Spotify, Apple Music, etc.), algo que muchos fans estaban esperando.
Fear Inoculum debutó en el puesto Nº 1 del Billboard 200, vendiendo unas 270.000 "unidades equivalentes" en su semana de apertura, de las cuales unas 248.000 fueron ventas reales. El sencillo "Fear Inoculum" fue noticia también por tener más de 10 minutos de duración y romper récords al cargarse en listas como la Billboard Hot 100.
Apenas salió el álbum, Tool anunció una gira norteamericana para el otoño de 2019, con la banda Killing Joke como telonera. Durante el festival Aftershock de octubre de ese año hicieron la primera presentación en vivo de algunas canciones nuevas como Pneuma y Fear Inoculum. En la gira mostraron una mezcla de material nuevo (del álbum Fear Inoculum) y canciones clásicas del catálogo anterior.
En febrero de 2025, Justin Chancellor dijo que luego de una gira por México y Sudamérica, la banda dedicaría tres meses en el estudio para organizar ideas para su próximo álbum. Ya tenían compartidas muchas ideas, algunas grabadas, pero aún no había fecha firme de lanzamiento.