Szülővárosában Nyizsnyij Novgorodban Karl Eisrich tanítványa volt, 1852-ben átvette a Ulibisev műkedvelő zenekarának irányítását. 1853-ban a kazanyi egyetemen matematikát tanult, de félbeszakította tanulmányait. 1855-ben utazott Szentpétervárra, s ott ismerkedett meg Glinkával. 1857-től az ő vezetése alatt dolgozott Kjui, Muszorgszkij, Rimszkij-Korszakov, Borogyin. Ez volt az Ötök csoportja, amely 1867-ben `Hatalmasok kis csapata` névre változott. Glinka törekvéseit folytatva egy új, az orosz népzene sajátosságait kiaknázó nemzeti nyelvet akartak teremteni. Műveikbe emellett előszeretettel építették be a keleties és spanyol-mór zenei elemeket is. Balakirev 1860-ban a Volga mentén, majd több alkalommal a Kaukázusban gyűjtött népzenét. Ennek nyomán született a `Tűzmadár` opera terve és legismertebb kompozíciója, az Iszlamej zongorafantázia. 1862-ben Szentpétervárott megalapította az Ingyenes Zeneiskolát, majd 1868-tól annak igazgatója volt. 1867-től két évadon át a szentpétervári Orosz Zenei Társaság karmestereként működött. 1870-től súlyos lelki válságba került, visszavonult a közszerepléstől. Anyagi problémái miatt egy ideig vasúti hivatalnokként dolgozott. 1881-től újra visszatért a zenei életbe, újra átvette az Ingyenes Zeneiskola irányítását, az intézmény koncertjeinek dirigense volt. 1883-1894 között vezette az udvari énekkart is. Szentpétervárott hunyt el 1910. május 29-én.