Koldusszegény arkansasi farmercsaládban született. Háromévesen már vízhordó volt, s egész gyerekkorát végigdolgozta szorgalmas apjával. Mindössze tizenkét éves volt, amikor első dalait komponálta, attól kezdve elválaszthatatlan volt hangszerétől és általában a pódiumtól. Húszévesen a légierőnél szolgált Németországban, ahol a katonai rádió műsorvezetője volt. Első ismert dala, a Cry, Cry, Cry 1955-ben a helyi lista élére került Memphisben, országosan pedig a 14. helyre futott be. Nem sokkal később a Walk The Line a countrylistán a 2., a Folsom Prison Blues pedig 5. helyezett volt. A mély hangú, mindig fekete ruhában fellépő énekes az 1960-as évek elejétől már sztár volt. Öt évtizedes pályafutása során több mint 50 millió lemezt adott el, több Grammy-díjjal kitüntették, és ő az egyetlen, akit egyaránt beiktattak a rock'n'roll, a countryzene és a dalszerzők hírességeinek csarnokába is. 1997-ben elnyerte az Egyesült Államok leghivatalosabb kulturális elismerését, a Kennedy-díjat. 1997-től betegségei miatt nem turnézott, csak egy estés fellépéseket vállalt. 1985-ben feleségével és alkotótársával, June Carterrel Magyarországon is fellépett. 2003. szeptember 12-én hunyt el Nashville-ben.