Donnie Van Zant es el hermano menor del cofundador y vocalista de Lynyrd Skynyrd, Ronnie Van Zant. Comenzó a tocar música durante su adolescencia y formó su primera banda, the Other Side, en 1965; más tarde Sons of Satan, que en 1968 cambió su nombre a Standard Production. En 1969 creó su primer grupo profesional, Sweet Rooster, junto a los guitarristas Jeff Carlisi y Kevin Elson, el baterista Bill Pelkey y el bajista Ken Lyons. Tras la salida de Carlisi para estudiar arquitectura en Georgia Tech, fue reemplazado por Don Barnes en 1970. Sweet Rooster evolucionó a Alice Marr, con Van Zant, Barnes, Elson, Pelkey, Larry Steele y el tecladista Billy Powell, quien pronto pasó a ser roadie de Lynyrd Skynyrd antes de unírseles como pianista.

Mientras continuaban con sus trabajos diurnos, Van Zant, Barnes y Lyons empezaron a componer canciones originales. Para 1974 decidieron formar "la banda definitiva", su "último intento" de éxito. Van Zant consideró brevemente un puesto mejor pagado en el ferrocarril, pero su hermano Ronnie lo convenció de seguir con la música, ya que estaba "en su sangre".

El nuevo grupo lo formaron Van Zant, Barnes, Steele (reemplazado casi de inmediato por Lyons), los bateristas Steve Brookins y Jack Grondin, y un Carlisi que regresaba. El nombre surgió de un incidente en el que, mientras practicaban en un almacén remoto, la policía llegó por una queja de ruido y, al no poder salir por un candado, un oficial dijo: "Dejaremos que este .38 Special hable", y disparó el candado. Carlisi insiste en que esta historia es falsa y fue creada para el mercadeo temprano.

Ya con su nombre, el grupo pasó 1975 y 1976 en una gira constante de conciertos de una sola noche, principalmente en el Sur y el Medio Oeste. Ronnie los conectó con la agencia Paragon de Phil Walden, quienes los vincularon con el mánager de Skynyrd, Peter Rudge, quien también manejaba a the Who y era gerente de gira de los Rolling Stones. Rudge organizó que abrieran shows de Peter Frampton, Foghat y Kiss, y los hizo firmar con A&M Records, que asignó a Dan Hartman para producir su primer álbum, 38 Special (mayo de 1977).

Durante la grabación, Ken Lyons dejó la banda por problemas domésticos y fue reemplazado por Larry Junstrom, miembro original de Lynyrd Skynyrd. También en 1977 se añadieron las coristas Carol Bristow y Dale Krantz, luego reemplazadas sucesivamente por Nancy Henderson, Lu Moss y Lynn Hineman, antes de que las coristas fueran prescindidas en 1987.

En octubre de 1977, Ronnie Van Zant murió en el accidente aéreo de Skynyrd. Donnie escribió "Take Me Back" como tributo, incluida en el segundo álbum, Special Delivery (marzo de 1978). Los dos primeros discos tuvieron fuerte influencia de rock sureño, pero a principios de los ochenta la banda cambió a un estilo de arena rock más accesible, impulsado por la guitarra, sin abandonar del todo sus raíces. El cambio implicó que Don Barnes asumiera muchas voces principales en lugar de Donnie. El ingeniero Rodney Mills asumió la producción y Jim Peterik se volvió colaborador frecuente desde 1979.

"Rockin' into the Night" se convirtió en su primera canción con difusión nacional, alcanzando el No. 43 del Billboard Hot 100 a principios de 1980. Eso allanó el camino para Wild-Eyed Southern Boys (1981) y su gran éxito "Hold On Loosely" (No. 27). Special Forces (1982) incluyó el Top 10 "Caught Up in You", que llegó al No. 1 en la lista Billboard Rock Tracks, igual que "If I'd Been the One" (1983) de Tour de Force.

En el otoño de 1984 tuvieron otro éxito con "Teacher, Teacher", de la banda sonora de Teachers. En 1984 giraron con Huey Lewis and the News y en 1986 compartieron cartel con Bon Jovi.

Para 1987, Don Barnes dejó la banda para una carrera solista; su álbum Ride the Storm quedó archivado hasta 2017. El grupo incorporó al guitarrista Danny Chauncey y al cantante y tecladista Max Carl. Rock & Roll Strategy (1988) mostró un sonido más pop con teclados, y "Second Chance" fue un No. 1 en adult contemporary en 1989. Carl también cantó "The Sound of Your Voice" (1991) de Bone Against Steel, con el paso de A&M a Charisma Records. Ese año llegaron Bobby Capps y el baterista Scott Meeder. La banda quedó sin sello tras la quiebra de Charisma en 1992.

Tras una gira en 1992, Max Carl se marchó y regresó Don Barnes. A principios de 1997, el cofundador Jeff Carlisi se fue, dando origen al supergrupo Big People, que fracasó tras la muerte de Benjamin Orr en 2000. Vía Razor & Tie lanzaron "Fade to Blue" de Resolution (1997). En 2007 abrieron la gira Rowdy Frynds de Lynyrd Skynyrd y Hank Williams Jr., y en 2009 telonearon a REO Speedwagon y Styx. Van Zant se perdió varios shows en 2011 y en 2012 se anunció que no haría giras por daño en el nervio del oído interno. En 2013 dejó oficialmente 38 Special tras 39 años y se retiró de la música.

En 2012 murió el bajista original Ken Lyons, a los 59 años. En 2014, Larry Junstrom fue reemplazado por Barry Dunaway. Desde 2019 la formación ha sido Don Barnes, Bobby Capps, el baterista Gary Moffatt, Dunaway y el guitarrista Jerry Riggs. Larry Junstrom murió el 6 de octubre de 2019, a los 70 años. En 2022, Paul Drennan sustituyó a Dunaway. El 11 de julio de 2025 la banda anunció su primer álbum en 21 años, Milestone, junto al sencillo "All I Haven't Said".