Csehimindszenten született Pehm József néven. Tanulmányait Szombathelyen végezte, majd Zalaegerszegre került. Itt megmutatkozott kiváló szervezőképessége, sokat tett a város egyházi intézményeiért. Nevét 1942-ben magyarosította. 1944-től veszprémi püspök volt. A nyilasok 1944. november végén Sopronkőhidán bebörtönözték. XII. Pius pápa 1945 szeptemberében esztergomi érsekké, Magyarország hercegprímásává, 1946-ban bíborossá nevezte ki. Főpásztori jelmondata: `Pannonia Sacra`. Rendíthetetlen bátorsággal és következetességgel szembeszállt a kommunista totalitarizmussal. Felemelte szavát a vallásszabadság, az emberi jogok, a nemzeti önrendelkezés és a nemzeti identitás védelmében. A kommunista hatalom 1949 februárjában nagyszabású kirakatperben életfogytiglani fegyházra ítélte. Az 1956-os forradalom szabadította ki rabságából, s ezután az események egyik központi személyiségévé vált. 1956. november 4-én, a szovjet támadás következtében, az Amerikai Egyesült Államok budapesti nagykövetségén kért és kapott menedékjogot, s ott élt 15 éven át. 1971. szeptember 28-án, VI. Pál pápa kívánságára - élete nagy áldozataként - a Kádár-rendszer és a Szentszék megállapodása alapján elhagyta Magyarországot. 1974-ben jelentek meg emlékiratai. 1974. február 5-én VI. Pál pápa felmentette érseki és prímási méltósága alól. Számkivetettségében haláláig látogatta az öt világrészben szétszóródott magyarságot, hogy hitben és magyarságtudatban erősítse őket. A rendszerváltozás során, 1990. május 18-án semmissé nyilvánították az ellene 1949-ben hozott népbírósági ítéletet. Mariazellben eltemetett hamvait 1991. május 4-én Esztergomban, az érseki székesegyház prímási sírkápolnájában, ünnepélyes gyászmise keretében helyezték végső nyughelyére. Sírjára a következő jelmondatot írták: `Az élet megalázta - a halál felmagasztalja`. 1994-ben hivatalosan is elindították a boldoggá avatási eljárását. Az egyházmegyei eljárás befejezése után 1997-ben az előírások szerinti anyagot átvette a Szentté avatási Kongregáció. 2000-ben Lakiteleken szobrot avattak a tiszteletére.