Promettente e polivalente sin dall'infanzia, si laureò nel 1879 e nel 1885 fu nominato professore di fisica teorica all'Università di Kiel e in seguito a quella di Berlino, ove rimase sin quasi alla fine dei suoi giorni. Fu "socio straniero" dell'Accademia Nazionale dei Lincei.

Fu il primo ad accogliere, senza riserve, le conseguenze della teoria della relatività di Einstein.

Agli inizi di questo secolo introdusse il concetto che gli effetti della radiazione elettromagnetica potevano essere trattati come quanti di energia, spiegando così la forma dello spettro del "corpo nero". Grazie a questi risultati, che aprirono le porte alla "teoria dei quanti" e quindi alla fisica moderna, fu insignito del premio Nobel per la fisica nel 1918.

Cresciuto in un ambiente colto ed austero, i suoi svaghi principali furono l'alpinismo e la musica; un suo figlio fu vittima della barbara repressione nazista a seguito dell'attentato ad Hitler del 20 luglio 1944.
Cercò di evitare la persecuzione dei suoi colleghi di origine ebraica, intervenendo coraggiosamente presso Hitler, ma senza esito.