Nacido en Alemania un 3 de noviembre de 1901 bajo el nombre de Joseph Bohr Elzer, el pequeño José Bohr llegó con su familia a colonizar el sur de Chile en 1904. Fue en la ciudad de Punta Arenas donde comenzó su precoz carrera cinematográfica y musical, componiendo canciones entre las cuales figura el himno "Punta Arenas", tocando el piano para películas mudas y realizando sus primeros trabajos fílmicos antes de cumplir la veintena.

Luego de emigrar a Santiago en 1921, partió a Brasil, Uruguay y Argentina, contratado por el Ministerio de Relaciones Exteriores de Chile para realizar un documental. Más tarde se radicó en Buenos Aires, donde compuso buena parte de los 200 temas que abultaron el cancionero popular de la época, tales como "Y tenía un lunar", "Cascabelito" y "Pero hay una melena", además de tangos publicitarios para casas de música. Actuó por primera vez en Estados Unidos en 1925, protagonizando en el teatro Paramount de Brodway el espectáculo musical Gaucho. En este país se codeó con las estrellas de la pantalla grande, disfrutando de la bohemia y el éxito. Poco después estelarizó la primera película en español producida en Hollywood, Sombras de gloria, por la que recibió un Oscar simbólico, pues aún no existía la categoría de mejor película extranjera.

En México, país al que se trasladó en 1932 y donde entabló amistad con connotados artistas como Luis Buñuel, Cantinflas y Jorge Negrete, se convirtió en uno de los pioneros del cine llegando a rodar más de treinta películas. Fue allí cuando, en 1936, Claudio Arrau protagonizó e interpretó la música de su película , que trataba sobre la vida de Liszt.

A su regreso a Chile, en 1940, se desempeñó como director general de Chile Films y rodó 16 películas. Compuso la música para todas ellas, como fue habitual en los sesenta films que realizó durante su vida. Recordadas son Uno que ha sido marino, Si mis campos hablaran y El gran circo Chamorro.

Además de ser nombrado Hijo Ilustre de la ciudad de Punta Arenas en 1976, el Gobierno lo condecoró con la orden al mérito Bernardo O'Higgins.

En la década de 1980 se radicó en Dinamarca junto a sus hijos Daniel y Eduardo, también dedicados al cine y la música.

Murió el 29 de mayo de 1994 en la ciudad de Oslo, Noruega.