A híres fizikus, Heinrich Hertz unokaöccse volt. Göttingen, München és Berlin egyetemén tanult. 1913-ban nevezték ki tanársegédnek a berlini egyetem fizikai tanszékére, itt dolgozott együtt James Franckkal. 1925-ben a hallei, 1928-ban a berlini egyetem fizikaprofesszora lett. 1932-ben módszert dolgozott ki a neonizotópok szétválasztására. 1945-54 között a Szovjetunióban kutatott, majd a berlini Siemens kutatólaboratórium igazgatója, 1961-ig a lipcsei Fizikai Intézet professzora és igazgatója volt. A Magyar Tudományos Akadémia tiszteletbeli tagjává választotta. Franckkal közösen végzett kísérleteik során igazolták, hogy az atomok a velük ütköző elektronoktól csak pontosan meghatározott energiaértékeket képesek átvenni. Ez az energia az ionizációs potenciál, értéke elemenként más és más. Ezzel megdöntötték azt a korábbi tapasztalatot, hogy az atomok állandó képződmények, mert kísérletük az atom kvantált energiaállapotaira utalt. Méréseik azt is kimutatták - amit Niels Bohr előre látott - hogy az egyes elemek által kisugárzott fény az adott anyag lehetséges atomi energiaállapotainak felel meg. Az elektronok és atomok közötti ütközés törvényeinek felfedezéséért megosztva elnyerték az 1925-ös fizikai Nobel-díjat. Berlinben halt meg.