A lipcsei születésű pártvezető már 1908-ban bekapcsolódott a szocialista ifjúsági mozgalomba, 1912-ben a szociáldemokrata párt tagja lett. 1919-ben Lipcsében egyik szervezője volt a kommunista pártnak. 1923-24 között, majd 1927-től a felső pártvezetésnek, 1932-33-ban a legszűkebb testületnek is tagja volt. Hitler hatalomra jutása után külföldre távozott, és onnan irányította a párt németországi illegális munkáját. 1945 áprilisában hazatért. A munkáspártok egyesülése után, 1946-50-ig a Német Szocialista Egységpárt elnökhelyettesi, 1950-71-ig a pártelnöki, 1949-60-ig a miniszterelnök első helyettesi, 1960-tól 1973. augusztus 1-jén bekövetkezett haláláig az államtanács elnöki tisztét töltötte be.