En 1990, Daniel O'Connor (Danny Boy O'Connor) se unió al rapero Erik Schrody (Everlast), quien acababa de lanzar un álbum de rap titulado Forever Everlasting (1990), que no tuvo mucho éxito. O'Connor conocía a Schrody de cuando asistió a la preparatoria William Howard Taft en Woodland Hills, California (1984–1986), y de varios eventos de hip hop a los que asistieron en su adolescencia. Ambos de ascendencia irlandesa-estadounidense, decidieron formar un grupo de hip hop con esta identidad. Mientras pasaban el rato en la casa de O'Connor, Schrody vio un casete con el título House of Pain, que era una demo de un grupo punk que O'Connor había intentado formar. A Schrody le gustó mucho el nombre y pensó que deberían reutilizarlo como el nombre de su grupo. Schrody trajo a su antiguo DJ, Leor Diamant (DJ Lethal), quien en realidad era de ascendencia letona, y así se formó House of Pain. Schrody se convertiría en el rapero principal, mientras que O'Connor se desempeñó como animador, segundo MC, director de arte y diseñador gráfico del grupo. Después de grabar una demo, cuya portada diseñó O'Connor, se desató una guerra de ofertas entre las discográficas. La discográfica que eligieron fue Tommy Boy Records, que reconoce que el trabajo artístico de O'Connor fue lo que inicialmente llamó su atención.

En 1992, lanzaron su álbum debut, House of Pain, subtitulado Fine Malt Lyrics. Su primer sencillo, «Jump Around», fue un gran éxito. En Estados Unidos, alcanzó el puesto número 3 en el Billboard Hot 100, mientras que llegó al número 5 en el Hot Rap Songs, al 13 en el Rhythmic Top 40, al 1 en el Hot Dance Music/Maxi-Singles Sales, al número 17 en el Billboard Dance Club Songs, y fue certificado como disco de platino. La canción fue producida por Lawrence Muggerud (DJ Muggs) e interpretada por Schrody. Su segundo sencillo, «Shamrocks and Shenanigans (Boom Shalock Lock Boom)», alcanzó el puesto 65 en el Billboard Hot 100, el 75 en el Hot R&B/Hip-Hop Songs, el 14 en el Dance Club Songs y el 74 en el Radio Songs. [cita requerida] El álbum alcanzó el puesto 14 en el Billboard 200, el 14 en el Top Current Albums de Billboard de EE. UU., el 16 en el Top R&B/Hip-Hop Albums de Billboard de EE. UU., el 14 en el Top Album Sales de Billboard de EE. UU., y cuenta con certificación de platino.

En 1993, formaron parte del grupo de artistas de rap que tuvieron cameos en la película de Ted Demme Who's the Man?. Para este proyecto, compusieron una canción principal del mismo nombre, que también se utilizó como sencillo para la banda sonora y su álbum posterior. Alcanzó el puesto 97 en el Billboard Hot 100, el 77 en el Hot R&B/Hip-Hop Singles & Tracks y el 10 en el US Billboard Hot Dance Music/Maxi-Singles Sales. También ese año, participaron junto a Helmet, así como con varios otros artistas de rap, en la banda sonora colaborativa de rap rock de la película Judgment Night de 1993.

En 1994, lanzaron Same as It Ever Was. El álbum alcanzó el puesto número 12 tanto en el Billboard 200 como en el Top Current Albums de EE. UU., el Top R&B/Hip-Hop Albums de EE. UU. y el Top Album Sales de EE. UU., y recibió la certificación de disco de oro. AllMusic le otorgó cuatro de cinco estrellas. Matt Carlson, de The Michigan Daily, consideró que el álbum era bastante bueno y señaló que «la música es relajada, con algunas fuerzas impulsoras potentes que la sustentan y la fortalecen». A J.D. Constantine, de The Baltimore Sun, no le gustó el álbum y lo encontró monótono y poco creativo. Roger Catlin, del Hartford Courant, dijo que, aunque la continuidad le parecía monótona, era «contundente y cautivador», además de un «trabajo sólido». Andrew Love, de The Ocala Star-Banner, le otorgó cuatro estrellas y dijo: «Esta es una banda que definitivamente ha progresado a lo largo de un álbum». El crítico musical Robert Christgau, a quien no le gustaron ni su álbum anterior ni el posterior, le otorgó una A- y lo describió como «el hip hop más duro del año».

En 1996, lanzaron Truth Crushed to Earth Shall Rise Again. El álbum alcanzó el puesto 47 en el Billboard 200, el 47 en el Top Current Albums de Billboard de EE. UU., el 31 en el Top R&B/Hip-Hop Albums de Billboard de EE. UU. y el 47 en el Top Album Sales de Billboard de EE. UU. En la fiesta de lanzamiento, Schrody decidió disolver el grupo. [cita requerida] Sputnikmusic escribió que «el LP más completo, consistente y memorable del trío está muy subestimado». Dave Ferman, del Fort Worth Star-Telegram, le otorgó una estrella y media, calificándolo de «desastre lamentable». Steve Juon, de RapReviews, le dio un siete sobre diez. AllMusic le otorgó dos estrellas y media de cinco.

A partir de entonces, los miembros continuaron con sus carreras por separado. Schrody alcanzó la fama como solista con un disco multiplatino en 1998 gracias a su álbum Whitey Ford Sings the Blues, en el que desarrolló un estilo que combinaba el rap con la guitarra acústica y el canto. Diamant se convirtió en el DJ de la banda de nu metal multiplatino Limp Bizkit. O’Connor realizó algunos trabajos independientes como diseñador de ropa y participó en varios proyectos musicales.

A finales de 2004, la creación del supergrupo de rap La Coka Nostra comenzó cuando O'Connor se dedicaba a orientar a artistas jóvenes. Se fijó en dos promesas, entre las que se encontraba George Carroll (Slaine), y los llevó a conocer a su ex-DJ de House of Pain, Leor Diamant, quien en ese momento estaba trabajando en un álbum recopilatorio y también apoyando a un nuevo artista. Decidieron formar un grupo y le pidieron a O'Connor que se uniera como animador y director artístico. Tras aceptar, O'Connor sintió que faltaba algo y le pidió al experimentado rapero William Braunstein (Ill Bill) que se uniera. El nombre del grupo surgió cuando O'Connor bromeó con Carroll y Braunstein llamándolos así, después de que ambos hubieran salido de fiesta una noche. El grupo comenzó a publicar música en MySpace y se volvió viral. Con el tiempo, O'Connor recibió una carta de su excompañero de House of Pain, Erik Schrody, quien le preguntó si podía unirse al grupo. Para 2006, el grupo estaba formado por O'Connor, Carroll, Diamant, Braunstein y Schrody.[cita requerida]

En 2009, La Coka Nostra lanzó A Brand You Can Trust el 14 de julio de 2009, con el sello Suburban Noize Records. Vendió más de 500 000 copias. AllMusic le otorgó cuatro de cinco estrellas. Andrew Kameka, de HipHopDX, escribió que «el álbum es, en su mayor parte, un trabajo sólido y exactamente lo que uno esperaría de un supergrupo de miembros con ideas afines, conocidos por su música llena de energía». Adam Kennedy, de la BBC, al elogiar algunos momentos del álbum, dijo: «Es una tentadora muestra de su potencial, pero hasta que mejoren la tasa de satisfacción del público, que apenas alcanza una de cada tres canciones aquí». Steve Juon, de RapReviews, le otorgó un siete de diez. Sputnikmusic lo describió como «un trabajo desarticulado, pero aún así bastante decente en sí mismo» y le otorgó tres punto cinco de cinco. Thomas Quinlan, de Exclaim!, dijo: «La Coka Nostra es un interesante grupo de colaboradores que está a la altura de las expectativas».

El 2 de marzo de 2012, se anunció que Schrody dejaría La Coka Nostra debido a problemas de salud de su hija, mientras que O’Connor y Diamant continuaron con dos proyectos más con el grupo: Masters of the Dark Arts (2012) y To Thine Own Self Be True (2016).

House of Pain se reunió en un evento privado organizado por el presidente de la UFC, Dana White, en Boston el Día de San Patricio de 2009. El 10 de agosto de 2010 se anunció oficialmente que House of Pain se había reunido y dio su primer concierto «oficial» en una década en la segunda edición del festival de música Epicenter, en Fontana, California, el 25 de septiembre de 2010. Aunque Diamant sigue siendo miembro del grupo, no se unió a ellos en su gira de reunión de 2011 debido a compromisos previos con Limp Bizkit. Entre abril y mayo de 2011, House of Pain participó en el festival itinerante Groovin’ the Moo en Australia, y también se presentó en el festival T in the Park de Escocia el 9 de julio de 2011, así como en el Sonisphere UK Festival el 12 de julio del mismo año.

House of Pain se reunió en 2017 para una gira de 25.º aniversario. La gira incluyó conciertos en Washington D. C., Ohio, Pensilvania, Nueva York, Massachusetts y California.