Cohen nació el 21 de septiembre de 1934 en un suburbio de Montreal, Canadá. Procedente de una familia judía intelectual de clase media, sus padres lo alentaron a desarrollar su interés por la poesía y la música, y además se sumergió de lleno en la teología judía y en las historias del Antiguo Testamento. En muchos sentidos, estos primeros intereses e influencias sentaron las bases de gran parte de su obra posterior, que abarca los mundos de la literatura, la mitología, la poesía y la canción con un lirismo magistral que es una de sus características definitorias.

Otro de los principales intereses de toda la vida de Cohen —las mujeres— lo llevó a aprender a tocar la guitarra a los 13 años, y pronto se encontró tocando música country en los cafés de Montreal, hasta formar finalmente un grupo llamado los Buckskin Boys. Sus presentaciones consistían, por lo general, en interpretar temas tradicionales en bailes populares. Sin embargo, en esa etapa temprana, lo que más absorbía a Cohen seguía siendo la poesía, impulsado por su afinidad con autores como Federico García Lorca y Jack Kerouac, y cuando ingresó a la Universidad McGill para estudiar inglés a partir de 1951, su escritura solía tener prioridad sobre sus otros estudios. Cohen se graduó en 1955 y, al año siguiente, la universidad publicó su primera colección, Let Us Compare Mythologies, que recibió buenas críticas pero no se vendió particularmente bien, lo que sentó otro precedente más para la futura carrera de Cohen.

Por esa época, Cohen asistió brevemente a la Universidad de Columbia antes de regresar a Montreal, donde tuvo diversos empleos mientras seguía escribiendo poesía. Sin embargo, cuando se publicó su siguiente libro, The Spice-Box of the Earth, en 1961, marcó el inicio de lo que sería uno de los períodos más fructíferos de Cohen. Éxito tanto de crítica como de ventas, Spice-Box consolidó a Cohen como una voz literaria importante y además le reportó suficientes regalías que, sumadas a los ingresos de una beca de escritura canadiense y a una pequeña herencia familiar, le permitieron comprar una casa modesta en la isla griega de Hidra, donde viviría de manera intermitente durante gran parte de los siguientes siete años y «escribiría, nadaría y navegaría».

La producción de Cohen de esta época incluye los libros de poesía Flowers for Hitler (1964) y Parasites of Heaven (1966), así como las novelas The Favorite Game (1963) y Beautiful Losers (1966); esta última le valió a Cohen comparaciones con James Joyce, así como la indignación pública en Canadá por el contenido abiertamente sexual del libro. A pesar de toda la atención, Cohen comenzaba a sentir que no podría ganarse la vida solo como escritor, por lo que volvió a explorar la música, viéndola no solo como un vehículo natural para su poesía, sino también como uno potencialmente más lucrativo. No se equivocaría en ninguno de los dos aspectos.

Al regresar a Estados Unidos, Cohen se estableció en Nueva York y comenzó a explorar la escena musical de la ciudad. Para entonces, ya bien entrado en sus treinta, Cohen era considerablemente mayor que sus contemporáneos y, en más de una ocasión, los agentes lo desanimaron a intentar una carrera como intérprete. Sin embargo, su colega, la cantante de folk Judy Collins, ya había reconocido el gran talento de Cohen, al interpretar versiones de sus canciones «Suzanne» y «Dress Rehearsal Rag» en su popular álbum de 1966, In My Life. Con su apoyo, Cohen hizo su debut en el Festival Folk de Newport de 1967, donde entre el público se encontraba el representante de A&R John Hammond, quien rápidamente incorporó a Cohen a su impresionante lista de artistas —que ya incluía a superestrellas como Aretha Franklin y Bob Dylan— al firmarlo con Columbia Records.

Lanzado más tarde ese mismo año, el álbum debut de Cohen, Songs of Leonard Cohen, se encuentra entre sus mejores trabajos, ya que combina arreglos suaves y minimalistas con su distintiva voz de barítono sin formación para ofrecer letras magistrales y melancólicas sobre la sexualidad, el amor, la espiritualidad y la desesperación en canciones que, de alguna manera, logran ser a la vez sencillas y complejas. Gracias al éxito de temas como «Suzanne», «So Long, Marianne» y «Hey, That's No Way to Say Goodbye» —por nombrar solo algunas—, el álbum apenas logró entrar al Top 100, pero le valió a Cohen un público fiel.

Tras publicar una nueva colección de poesía en 1968, Cohen lanzó Songs from a Room, que, aunque en general no fue tan sólido como su trabajo debut, lo superó en las listas al alcanzar el puesto n.º 63. Contiene los clásicos de Cohen «The Partisan», «Lady Midnight» y «Bird on a Wire», que ha sido versionada por innumerables artistas a lo largo de los años, entre los que destacan Johnny Cash y Willie Nelson. También sería una de las canciones que Cohen interpretó al año siguiente en el Festival de la Isla de Wight en Inglaterra, donde se presentó junto a artistas de renombre como Jimi Hendrix, The Doors, Miles Davis y muchos otros.

Otra de las canciones que interpretó durante su presentación en la Isla de Wight fue «Famous Blue Raincoat». Se trata de una canción sobre un esposo engañado que le escribe al amante de su esposa; es una de las mejores de Cohen y uno de los temas más destacados —junto con «Avalanche» y «Joan of Arc»— de su tercer álbum, Songs of Love and Hate, de 1971. Ese mismo año, la música de Cohen llegó a un público aún más amplio cuando tres de sus canciones aparecieron en la banda sonora del western de Robert Altman McCabe & Mrs. Miller, protagonizado por Warren Beatty y Julie Christie, pero pasarían otros tres años antes de que regresara al estudio.

Sin embargo, Cohen estuvo lejos de permanecer inactivo durante este período: publicó un nuevo libro de poesía, The Energy of Slaves, en 1972, el mismo año en que su novia, la artista de Los Ángeles Suzanne Elrod, dio a luz a su primer hijo, Adam, a quien siguió, dos años más tarde, su hija, Lorca. Cohen también siguió de gira, lanzó un álbum en vivo y sus canciones formaron parte de un musical de 1973 llamado The Sisters of Mercy.

En 1974, Cohen regresó a las grabaciones de estudio con New Skin for the Old Ceremony, que, si bien mantenía el característico tono melancólico de Cohen, también presentaba arreglos más completos que sus álbumes anteriores. Entre las canciones más destacadas de este trabajo se encuentran «Who by Fire», «Take This Longing» y «Chelsea Hotel No. 2», sobre un encuentro romántico que Cohen tuvo en una ocasión con la cantante Janis Joplin. Cohen realizó una gira para promocionar New Skin antes de lanzar un álbum recopilatorio en 1975 y volver a salir de gira, disfrutando de la adoración de un grupo fiel de seguidores, aunque no del éxito comercial que su discográfica podría haber esperado.

Pero si Columbia esperaba resultados diferentes con su siguiente álbum, se llevaría una decepción, al igual que sus seguidores y, de hecho, el propio Cohen. Al trabajar con el legendario y notoriamente problemático productor Phil Spector, Death of a Ladies' Man de Cohen fue problemático desde el principio, y el comportamiento errático de Spector culminó cuando le apuntó con un arma a la cabeza. Spector también mezcló la grabación sin la participación de Cohen, lo que dio como resultado un producto final exagerado que el propio Cohen ha descrito como «grotesco» y ha identificado como su álbum menos favorito. Quizás con la esperanza de enderezar el rumbo, al año siguiente Cohen lanzó la colección de poesía y prosa de título similar Death of a Lady's Man, seguida en 1979 por Recent Songs, que, aunque marcó el regreso de Cohen a los arreglos más sencillos de su obra anterior, no tuvo un buen desempeño comercial.

Tras un paréntesis de cinco años, durante el cual Cohen no lanzó material nuevo, recuperó el tiempo perdido en 1984 con la publicación de la colección de poesía Book of Mercy y el álbum Various Positions, ambos centrados más específicamente en temas de espiritualidad, sobre todo en la canción «Hallelujah». Considerada una de las canciones más conocidas, queridas e interpretadas de todos los tiempos, «Hallelujah» ha sido versionada desde entonces por cientos de artistas, entre ellos Jeff Buckley y Rufus Wainwright. El álbum, sin embargo, no logró gran reconocimiento, y pasarían otros cinco años antes de que Cohen lanzara algo nuevo.

Al reaparecer en 1988, Cohen lanzó I'm Your Man, un álbum con un marcado uso de sintetizadores que, aunque no logró entrar en las listas de éxitos de Estados Unidos, fue un éxito rotundo en Canadá y Europa, y que incluye temas destacados como «Everybody Knows» y «First We Take Manhattan», así como la memorable canción que da título al álbum. El álbum, que presentó a Cohen a una nueva generación de fans, fue seguido en 1992 por The Future, del cual varias canciones se incluyeron en la película de Oliver Stone Natural Born Killers, lo que también ayudó a consolidar su posición entre el público más joven.

La relevancia de Cohen se vería aún más resaltada por los álbumes tributo I'm Your Fan (1992) —que incluía versiones de sus canciones a cargo de grupos alternativos como los Pixies, R.E.M. y Nick Cave— y Tower of Song (1995), en el que participaron grandes figuras del mundo del rock and roll, entre ellas Billy Joel, Elton John y Peter Gabriel. Pero en lugar de disfrutar de la fama, en 1994 Cohen se volcó en su interior y se retiró al Centro Zen de Mount Baldy, donde hizo un voto de silencio y estudió bajo la guía de un maestro zen durante los siguientes cinco años.

Cohen reapareció en 1999 y, dos años más tarde, lanzó su primer álbum en casi una década, titulado simplemente Ten New Songs, así como la grabación en vivo Field Commander Cohen, que documentaba las presentaciones de una gira de 1979. Luego vino Dear Heather, algo así como un cambio de rumbo para Cohen, ya que incluía canciones para las que él no había escrito la letra, seguido por el álbum tributo y la película de 2005 Leonard Cohen: I'm Your Man, que contó con interpretaciones de Cave, Wainwright, U2, Antony, Beth Orton y muchos otros.

Desafortunadamente para Cohen, mientras lo celebraban, también descubrió que lo estaban estafando, por lo que presentó una demanda contra su exrepresentante Kelley Lynch, quien le había malversado millones de dólares a lo largo de los años. Aunque Cohen ganó una indemnización de 7.9 millones de dólares en 2006, nunca pudo recuperar el dinero, y el cantautor, quien ahora tiene 72 años, se quedó sin sus fondos de jubilación.

En 2006, Cohen también publicó una nueva colección de poesía, Book of Longing, y en 2008, tras ser incluido en el Salón de la Fama del Rock and Roll, se embarcó en una gira mundial de dos años para recuperar su situación financiera, la cual quedó plasmada en los álbumes Live in London (2009) y Songs from the Road (2010). En medio de la gira, Cohen recibió un Premio Grammy a la Trayectoria y fue incluido en el Salón de la Fama de los Compositores; al año siguiente, Columbia Records lanzó The Complete Studio Albums Collection, que reunía toda la obra de estudio de Cohen en una caja recopilatoria.

Para entonces, ya abuelo y a punto de cumplir los 80 años, Cohen no era, sin embargo, una mera reliquia del pasado, y a principios de 2012 lanzó un nuevo álbum de canciones titulado Old Ideas, en el que regresó a los arreglos folk de su obra temprana y, posiblemente, la mejor de su carrera. Al alcanzar el puesto n.º 3 en Estados Unidos y el n.º 1 en Canadá y varios países europeos, fue el álbum que alcanzó la posición más alta en las listas de toda la carrera de Cohen, solo rivalizado por su álbum de 2014, Popular Problems. Prolífico hasta el final, tres semanas antes de su muerte, Cohen lanzó You Want It Darker, grabado en su casa mientras su salud se deterioraba rápidamente. Su hijo Adam produjo el álbum y le dijo a la revista Rolling Stone: «A veces estaba muy preocupado por su salud, y lo único que le levantaba el ánimo era el trabajo en sí».

Cohen falleció el 7 de noviembre de 2016, a los 82 años. Al momento del anuncio público de su fallecimiento, el 10 de noviembre, se revelaron pocos detalles sobre las circunstancias. Una semana después, su representante, Robert B. Kory, declaró que el cantautor se había caído la noche del 7 de noviembre y había fallecido mientras dormía esa misma noche. «La muerte fue repentina, inesperada y pacífica», dijo Kory.