Az új-zélandi Nelson-ban látta meg a napvilágot, szülei, akiknek tizenkét gyermeke közül a negyedik volt, skót és angol származásúak. Már gyermekkorában érdeklődött a fizika iránt, és kitűnt tehetségével. Ezért ösztöndíjat kapott az új-zélandi egyetemre, a Canterbury College-ba, ahol 1894-ben matematikából és fizikából doktorált. A következő éven újabb ösztöndíjjal az angliai Cambridge-be utazott, s a Cavendish Institute-ban folytatta kutatásait. 1898-ban megkapta a montreali McGill egyetem fizikaprofesszori katedráját. 1907-ig maradt Kanadában, ekkor elfogadta a manchesteri egyetem meghívását a fizika tanszék élére. 1906-ban megalkotta a róla elnevezett atommodellt, amelyet még ma is a valóság jó megközelítésének tekintenek. 1908-ban kémiai Nobel-díjat kapott `az elemek bomlásának vizsgálataiért és a radioaktív anyagok kémiájában elért eredményeiért`. 1919-ben a cambridge-i Cavendish Institute-ban a kísérleti fizika professzora lett. Ugyanebben az évben először neki sikerült mesterséges kémiai elemátalakítást végeznie: nitrogénmagot bombázott alfarészecskékkel, s ahol ezek a nitrogénmagba ütköztek, több ágra bomlottak. E reakció terméke volt az oxigén-17 és a proton. Nem tartotta valószínűnek azt, hogy a magenergia a gyakorlatban hasznosítható lesz. 1914-ben lovagi, 1931-ben főnemesi címet kapott. 1933-tól az angol akadémiai segélybizottság elnökeként sokat fáradozott a Németországból emigrált tudósok megsegítésén. Cambridge-ben hunyt el 1937. október 19-én.