Collins nació en Seattle, Washington, donde pasó los primeros diez años de su vida, siendo la mayor de cinco hermanos. Su papá, un cantante ciego y locutor de radio, aceptó un trabajo en Denver, Colorado, en 1949, y la familia se mudó allí. Collins estudió piano clásico con Antonia Brico y debutó en público a los 13 años, interpretando el Concierto para dos pianos de Mozart. Brico veía con malos ojos, tanto en ese momento como más tarde, el creciente interés de Collins por la música folclórica, lo que la llevó a tomar la difícil decisión de dejar sus clases de piano. Años más tarde, después de que se hiciera famosa a nivel internacional, invitó a Brico a uno de sus conciertos en Denver. Cuando se encontraron después de la presentación, Brico tomó ambas manos de Collins entre las suyas, miró con nostalgia sus dedos y le dijo: «Pequeña Judy, realmente podrías haber llegado muy lejos». Más tarde aún, Collins descubrió que la propia Brico se había ganado la vida cuando era más joven tocando jazz y ragtime al piano (Singing Lessons, págs. 71–72). En su juventud, Collins tuvo la suerte de conocer a muchos músicos profesionales a través de su padre.

Sin embargo, fue la música de Woody Guthrie y Pete Seeger, así como las canciones tradicionales del renacimiento del folk de principios de la década de 1960, lo que despertó el interés de Collins y le hizo descubrir su amor por las letras. Tres años después de su debut como prodigio del piano, ya tocaba la guitarra. Sus primeras presentaciones públicas como artista folk, tras graduarse de la East High School de Denver, fueron en el Michael’s Pub de Boulder, Colorado, y en el club folk Exodus de Denver. Su música se hizo popular en la Universidad de Connecticut, donde su esposo impartía clases. Actuaba en fiestas y para la estación de radio del campus junto con David Grisman y Tom Azarian. Con el tiempo se trasladó a Greenwich Village, en la ciudad de Nueva York, donde tocó en clubes como Gerde’s Folk City hasta que firmó con Elektra Records, un sello con el que estuvo vinculada durante 35 años. En 1961, a los 22 años, Collins lanzó su primer álbum, A Maid of Constant Sorrow.

Al principio cantaba canciones folclóricas tradicionales o composiciones de otros autores —en particular, de los cantautores de protesta de la época, como Tom Paxton, Phil Ochs y Bob Dylan—. Grabó sus propias versiones de canciones importantes de ese período, como «Mr. Tambourine Man» de Dylan y «Turn, Turn, Turn» de Pete Seeger. Collins también desempeñó un papel fundamental en dar a conocer a músicos poco conocidos ante un público más amplio. Por ejemplo, grabó canciones del poeta canadiense Leonard Cohen, quien se convirtió en un amigo cercano con el paso de los años. También grabó canciones de cantautores como Eric Andersen, Ian Tyson, Joni Mitchell, Randy Newman, Robin Williamson y Richard Fariña mucho antes de que alcanzaran reconocimiento a nivel nacional.

Si bien los primeros álbumes de Collins consistían en canciones folk sencillas acompañadas de guitarra, con In My Life (1966) comenzó a diversificarse e incluir obras de fuentes tan diversas como los Beatles, Leonard Cohen, Jacques Brel y Kurt Weill. Mark Abramson produjo el álbum y Joshua Rifkin se encargó de los arreglos, agregando una orquestación exuberante a muchos de los temas. El álbum supuso un cambio radical para una artista de folk y marcó el rumbo de la obra posterior de Collins durante la década siguiente.

Con su álbum de 1967, Wildflowers, también producido por Abramson y con arreglos de Rifkin, Collins comenzó a grabar sus propias composiciones, empezando por «Since You’ve Asked». El álbum también le proporcionó a Collins un gran éxito y un premio Grammy con «Both Sides, Now» de Mitchell, que alcanzó el puesto número 8 en el Billboard Hot 100.

El álbum de Collins de 1968, Who Knows Where the Time Goes, fue producido por David Anderle y contó con la guitarra de acompañamiento de Stephen Stills (de Crosby, Stills & Nash), con quien mantenía una relación sentimental en ese momento. (Ella fue la inspiración para el clásico de CSN de Stills, «Suite: Judy Blue Eyes»). Time Goes tenía un sonido country suave e incluía «Someday Soon», de Ian Tyson, y la canción que da título al álbum, escrita por la cantautora británica Sandy Denny. El álbum también incluía la composición de Collins «My Father» y una de las primeras versiones de «Bird on the Wire», de Leonard Cohen.

Para la década de 1970, Collins ya contaba con una sólida reputación como intérprete de canciones artísticas y de folclore, y había comenzado a destacar por sus propias composiciones. También era conocida por su amplio repertorio: entre sus canciones de esta época se encuentran el himno cristiano tradicional «Amazing Grace», la balada de Broadway de Stephen Sondheim «Send in the Clowns» (ambas fueron éxitos que llegaron al top 20 como sencillos), una grabación de «A Song for David» de Joan Baez y sus propias composiciones, como «Born to the Breed».

En la década de 1970, Collins apareció como invitada en The Muppet Show, donde cantó «Leather-Winged Bat», «I Know An Old Lady who Swallowed a Fly», «Do Re Mi» y «Send in the Clowns». También apareció varias veces en Sesame Street, donde interpretó «Fishermen’s Song» con un coro de pescadores Anything Muppet, cantó un trío con Biff y Sully usando la palabra «yes», e incluso protagonizó un sketch de cuento de hadas musical moderno llamado «The Sad Princess». Cantó el tema principal de la película para televisión de Rankin-Bass El viento en los sauces. El álbum de Collins de 1979, Hard Times for Lovers, ganó algo de publicidad adicional gracias a la fotografía de la portada, en la que aparecía desnuda.

En los últimos años, Collins se ha dedicado a la escritura, produciendo una autobiografía, Trust Your Heart, en 1987, y una novela, Shameless. Un libro de memorias más reciente, Sanity and Grace, narra la muerte de su hijo Clark en enero de 1992. Con la ayuda de su representante, Katherine DePaul, fundó Wildflower Records. Aunque sus ventas discográficas ya no son lo que eran, sigue grabando y realizando giras en Estados Unidos, Europa, Australia y Nueva Zelanda. Actuó en la primera toma de posesión del presidente Bill Clinton en 1993, interpretando «Amazing Grace» y «Chelsea Morning». (Los Clinton han declarado que le pusieron a su hija, Chelsea, ese nombre en honor a la grabación que hizo Collins de la canción.) En 2006, cantó «This Little Light of Mine» en un comercial para Eliot Spitzer.

En 2008 supervisó un álbum en el que artistas que iban desde Dolly Parton y Joan Baez hasta Rufus Wainwright y Chrissie Hynde interpretaban versiones de sus composiciones; también lanzó una colección de versiones de los Beatles y recibió un doctorado honoris causa del Pratt Institute el 18 de mayo de ese año. En 2010, Collins cantó «The Weight of the World» en el Festival Folk de Newport, una canción de Amy Speace.

Collins se unió al jurado de la 7ª, 9ª, 10ª, 11ª, 12ª, 13ª y 14ª edición de los Premios Anuales de Música Independiente, y con ello contribuyó enormemente a las carreras de los músicos independientes. En julio de 2012, Collins apareció como artista invitada en el programa de televisión australiano RocKwiz, de la cadena SBS.