Szülővárosában, Berlinben kezdte, Königsbergben folytatta természettudományi tanulmányait. 1828-ban földkörüli útra indult, amelyen a Föld mágnességét kutatta. Carl Friedrich Gauss német fizikus és matematikus az ő eredményeire alapozta első földmágnességi elméletét. 1845-48 között saját mérései alapján kiszámította a Föld mágneses állandóit. Több utazást tett Ázsiában, amelyek során leírta a kamcsatkai vulkánokat. Munkái: A Gauss-i elmélet alapjai; A földmágnesség jelenségei az 1829-es évben. Berlinben hunyt el 1877. július 12-én. Fia Johann Peter Adolf Erman egyiptológus volt.