A virginiai Port Conway-ban született. Apja tehetős Orange megyei földesúr volt. 1769-től a New Jersey College-ban (a Princetoni Egyetem elődjében) tanult történelmet és államigazgatást. Két év alatt elsajátította a négyéves tananyagot, s közben még arra is maradt ideje, hogy Anglia elleni tüntetéseken vegyen részt. Már 1774-ben a függetlenség ügye mellé állt. 1776-ban beválasztották Virginia forradalmi konventjébe, ahol ő készítette el a vallásszabadság garanciájának tervezetét. Miután két évet töltött a kormányzói tanácsban, 1780 márciusában a Kontinentális Kongresszusba delegálták. Hamarosan élére állt azoknak, akik ellenezték az egyes államok szuverenitását, és pártolták a francia-amerikai együttműködést a britekkel folytatott béketárgyalásokon. 1784-ben újra Virginia törvényhozó testületének tagja lett, és befolyásának nagy része volt az 1787-ben összeülő Alkotmányozó Konvenció előkészítésében. Az alkotmányhoz az általa kidolgozott `virginiai tervezet` szolgáltatta az alapstruktúrát és a vezérelveket. Munkájával kiérdemelte `az alkotmány atyja` elnevezést, ami ellen ő erősen tiltakozott. Miután beválasztották az új Képviselőházba, támogatta az első tíz alkotmánykiegészítés elfogadását. A vitákban nagy fontosságot tulajdonított a vallás-, a szólás- és a sajtószabadságnak. 1797-ben otthagyta a Kongresszust, mert felháborította az angolokkal kötött szerződés. Thomas Jefferson elnöksége alatt 1801-től külügyminiszterként dolgozott, és így sokszor kellett tiltakoznia Franciaországnál és Angliánál az amerikai kereskedelmi hajók elfogása miatt. 1808-ban elnyerte az elnöki hivatalt, s csaknem azonnal megtiltotta, hogy Amerika Franciaországgal és Angliával kereskedjen. Anglia továbbra sem tartotta tiszteletben az amerikai hajók jogait, ezért az 1812-ben újraválasztott Madison engedett a nyomásnak, s az Egyesült Államok hadat üzent. Az 1814-ig tartó háború kezdetben brit sikereket hozott - még a fővárost, Washington is megtámadták -, de aztán az amerikai katonai fölény megpecsételte a háború sorsát. A háborút ellenző és addig vezető szerepet játszó Föderalista Párt végleg eltűnt az amerikai politikai színtérről. Az elnök népszerűségének csúcsára ért. Mandátumának lejárta után, 1817-ben visszavonult virginiai birtokára, s hátralevő 19 évét ott töltötte. Montpelier-ben érte a halál 1836. június 26-án.