Egy nyugat-indiai érinthetetlen mahar családból származott, apja katonatiszt volt. Az iskolában sok megaláztatást szenvedett el magasabb kaszthoz tartozó társaitól. Ösztöndíjat kapott a barodai fejedelemtől, s az Egyesült Államokban, Angliában és Németországban járt egyetemre. Ezután köztisztviselő lett Barodában (ma Vadodara, Gujarat), de itt is sokan lekezelően bántak vele, ezért jogi, majd pedagógus pályára ment. Hamarosan a haridzsánok, a legalsó, érinthetetlen kaszt tagjainak vezetője lett, lapokat alapított, melyek érdekeiket védték, és a kormány törvényhozó testületeiben külön képviseletet biztosított számukra. 1945-ben tette közzé Ezt tette a Kongresszus és Gandhi az érinthetetlenekkel című írását, amelyben vitatta, hogy Gandhinak joga van az érinthetetlenek szószólójaként fellépni. 1947-51 között igazságügy-miniszter volt India központi kormányában. Az alkotmány megszövegezésében vezető szerepet játszott, és sokat tett azért, hogy azt a parlament elfogadta. Az alkotmány törvényen kívül helyezte az érinthetetlenek megkülönböztetését, de amikor Ambedkar látta, hogy ez az elv kiirthatatlan a hinduizmus tanai közül, 1956-ban kétszázezer társával Nagpurban áttért a buddhista hitre.