Comenzó su carrera musical a la temprana edad de 15 años con su propia banda, The Method. Esto se supo gracias a una entrevista reciente con Jim Diamond. Diamond, a los 16 años, también era el vocalista de una banda de Glasgow llamada Jade. Esa formación incluía al bajista Chris Glen, quien más tarde tocó con The Sensational Alex Harvey Band, y a Jim Lacey en la guitarra solista, quien posteriormente se unió a The Alan Bown!. Jade dio numerosos conciertos en pubs, clubes y universidades de Londres en 1969, tocando en la Universidad de Brunel, el West London College en Cricklewood, The Pied Bull en Islington, el West Hampstead Country Club, otra universidad en Virginia Water y muchos otros lugares ese mismo año. También fueron teloneros de The Move en su gira por Escocia junto a The Stoics ese mismo año.

Más tarde realizó una gira por Europa con Gully Foyle. Recientemente se descubrieron en Internet grabaciones poco comunes de sus presentaciones con Gully Foyle.

Diamond fue descubierto por Alexis Korner. Pasó los siguientes dos años como parte de la banda de Korner. Aportó coros y voces de acompañamiento en muchas de las canciones de Korner, la mayoría de las cuales aparecerían en The Lost Album.

En 1976, Diamond dejó a Korner para formar Bandit. La formación incluía a Cliff Williams, miembro de la banda AC/DC. Pronto firmaron con Arista Records y lanzaron su álbum debut, Bandit. No lograron entrar en las listas de éxitos. En 1979, Diamond fue el vocalista principal de una banda japonesa llamada BACCO. Su álbum debut fue Cha Cha Me.

Diamond se mudó a Los Ángeles, California, para formar Slick Diamond junto a Earl Slick. Pasó un tiempo de gira y grabando, y compuso la música para la banda sonora de una película.

En 1978, Jim se casó con Christine Bailey (nacida en 1951 en Wellington, Nueva Zelanda). La pareja tuvo una hija, Sara Rosaline Diamond (nacida en 1978 en Hammersmith y Fulham, Londres), y un hijo, Lawrence James Diamond (nacido en 1984 en Hammersmith y Fulham, Londres).

El año 1981 marcaría el gran salto de Diamond al centro de la atención pública cuando formó el grupo PhD (Phillips, Hymas y Diamond), junto con el pianista y teclista Tony Hymas y el baterista Simon Phillips. Firmaron contrato con WEA Records y tuvieron un sencillo exitoso con «I Won’t Let You Down», que vendió varios millones de copias.

Diamond contrajo hepatitis y, más tarde, la banda decidió separarse. En 1984, decidió lanzarse como solista y firmó con A&M Records. Alcanzó el número uno con «I Should Have Known Better» y también fue número uno en Latinoamérica. Poco después logró otro éxito con el tema principal de la serie Boon, «Hi Ho Silver». Llegó al puesto n.º 5 en la lista de sencillos del Reino Unido en mayo de 1986. Diamond también es conocido por sus colaboraciones vocales en los proyectos solistas de dos miembros de la banda Genesis, entre ellos:

A finales de la década de 1990, Diamond se asoció con el saxofonista Chris «Snake» Davis, conocido por su trabajo con el grupo de soul M People. La dupla se conocía como The Blue Shoes, pero más tarde pasó a presentarse como Jim Diamond y Snake Davis.

En 2005, Diamond lanzó su primer álbum de estudio en once años. Souled and Healed también le dio a Diamond los sencillos «When You Turn» y «Blue Shoes».

El hijo de Diamond, Lawrence, ha seguido los pasos musicales de su padre. Es el teclista del grupo británico de indie pop Citizens! y exbajista de Official Secrets Act.

El último álbum de Jim Diamond, City of Soul, lanzado por Camino Records en 2011, contó con la participación, entre otros, del baterista de Wet Wet Wet, Tommy Cunningham, y de Greg Kane, de Hue & Cry. Todas las ganancias de este álbum de versiones de música soul se destinaron a la organización benéfica infantil Radio Clyde Cash for Kids.

Diamond era amigo de Dermot Morgan, estrella de Father Ted, y estuvo presente en la pequeña cena en la que Morgan falleció repentinamente en 1998.

El 10 de octubre de 2015, el sitio web de BBC News anunció la muerte de Jim Diamond a los 64 años. Según la hija de Jim, Sara, la causa de la muerte fue un edema pulmonar. Su familia dijo que «falleció repentinamente, pero en paz, mientras dormía». Le sobreviven su esposa Christine y sus dos hijos.