Kecskeméten született, apja Galántán volt MÁV-állomásfőnök, ahol megszerette a nép dalait. Budapesten a bölcsészkar magyar-német szakán, illetve a Zeneakadémián tanult és szerzett diplomát. 1905-ben kezdte el népdalgyűjtő munkásságát és ismerkedett meg Bartók Bélával. Külföldi tanulmányútja és újabb népdalgyűjtő körút után a Zeneakadémia tanárává nevezték ki, ahol zeneelméletet, majd zeneszerzést tanított. 1910-ben lépett saját műveivel a nyilvánosság elé. A modern zene népszerűsítésére és népdalgyűjtésre irányuló törekvéseik Bartókkal rendre elakadtak a közönség közönyén és a hivatalos körök ellenállásán. 1917-19 között a Nyugatban számos cikkében a népzene jelentőségét hirdette, és lefektette a Bartók-esztétika alapjait. Az 1918-as polgári forradalom idején a Zeneakadémia aligazgatójává nevezték ki. 1919-ben részt vett a zenei direktórium munkájában, ezért később fegyelmi eljárás indult ellene, kinevezését érvénytelenítették és hét évig nem taníthatott. Elszigeteltségéből a Psalmus Hungaricus nemzetközi sikere emelte ki 1923-ban. 1926-ban Háry János című daljátéka is világsikert aratott. Nevelő tevékenysége egyre szélesedett, műveivel is segítette a magyar kórusmozgalmat. 1932-ben mutatták be a Székelyfonót. További művei: Marosszéki táncok (1927-30), Nyári este (1927), Galántai táncok (1933), Budavári Te Deum - Buda felszabadulásának 250. évfordulójára (1936), Fölszállott a páva (1939), Concerto (1940).
Zeneelméleti tevékenysége is jelentős, A magyar népzene című monográfiája 1937-ben jelent meg. A II. világháború alatt mentette az üldözötteket, majd neki is bujkálnia kellett. 1945-ben mutatták be a Missa brevis-t. Részt vett a demokratikus megújulásban, ő lett a Zeneakadémia igazgató-tanácsának elnöke, 1946-49 között pedig az MTA elnöke. 1948-ban mutatták be a Czinka Pannát, 1951-ben a Kállai kettőst. 1951-67 közt megjelent a Magyar Népzene Tára első kötete, és a zeneoktatásban is érvényesültek elképzelései. Zeneszerzői pályáján a népdalgyűjtésnek és rendszerezésnek, valamint Debussy hatásának volt nagy szerepe. Életműve csúcsai a Psalmus és a Te deum, mindkettőben sok a nyugat-európai műzenei elem, gregorián és reneszánsz harmónia, s érezhető rajtuk Palestrina és Bach hatása. Nem volt forradalmi újító, inkább megőrző-összegző művész. Zenéje, amely az egyszólamú keleti pentatóniából és a gazdagon harmonizált nyugat-erurópai műzenéből épült, homogén és eredeti. A népzenekutatás mellett jelentős volt munkássága a néprajz, zenetörténet, zeneesztétika, zenekritika, irodalomtörténet, a nyelvészet és nyelvművelés területén. A magyar zene érdekében tudományszervezéssel és ismeretterjesztéssel is foglalkozott. Meggyőződése volt, hogy csak az emberi hang, a közös ének lehet a széles körű zenekultúra alapja. Felismerte az ifjúság zenei nevelésének fontosságát, és egész életén át ezért az ügyért harcolt, ideértve az iskolai énekoktatást, a zenei írás-olvasás (szolfézs) alapvető funkcióját a tantervben, valamint a kóruskultúra hazai elemekre építő ápolását. A Kodály-módszer ma már világszerte ismert és követett példa a zenepedagógiában. Budapesten hunyt el 1967. március 6-án. Halála nemzeti gyász volt.