A modern architektúra egyik legnagyobb hatású képviselője Aachen-ben született. Apja kőfaragó volt. Ő sokat segített neki, de nem végzett építészeti tanulmányokat. Szülővárosában segédként dolgozott, s vázlatai alapján készítették az épületek stukkódíszeit. Így alakult ki rajzkészsége. 1905-ben Berlinben dolgozott, Bruno Paul bútortervező segédje lett. Két év múlva kapta első megbízatását egy külvárosi ház tervezésére. Ez annyira megtetszett Peter Behrensnek, a kor nagy modern német építészének, hogy állást ajánlott neki irodájában, itt dolgozott Gropius és Le Corbusier is. Miesre (anyja van der Rohe nevét csak később vette fel) hatott Karl Schinkel klasszicizmusa, s Hendrik Berlage modern holland építész is. Mies az I. világháborúban a Balkánon épített utakat és hidakat, majd a Weimari Köztársaság idején több modernista csoporthoz csatlakozott. Berlinben 1921-ben El Liszickijjel megalapította a G. (Gestaltung = építészeti kialakítás) csoportot. Már ekkori terveit is az acél és az üveg uralta. 1927-ben a Werkbund weissenhofi kiállításán Európa 16 építésze mutatta be épületterveit, itt született meg a nemzetközi stílus. Ennek nyomán a modern alkotók számos megbízást kaptak, Mies 1930-ban a Tugendhat-házat tervezte Brnoban, s új típusú lakóházakat Stuttgartban. Ekkori legismertebb műve az 1929-es barcelonai világkiállítás német pavilonja volt, ennek szerkezete krómozott acélból készült. A berendezéshez tartozó csővázas székeit Barcelona-székként ismerik. 1930-ban ő lett a Bauhaus igazgatója Dessauban. A náci támadások miatt állandósult a nyugtalanság, 1933-ban bezáratták az iskolát, Mies megpróbálta az oktatást Berlinben folytatni, majd maga jelentette be annak megszűnését. 1937-ben az Egyesült Államokba települt át, s a chicagói Armour Építészeti Főiskola igazgatója lett. Az intézmény épületeit is ő tervezte, fő elemei a szabadon álló acélvázak, a nagy üvegfelületek és a téglafalak voltak, a belső tereket könnyen át lehetett alakítani. Chicagóban több magasházat épített, New Yorkban pedig Philip Johnsonnal együtt megtervezte a Seagram Buildinget. Az 1960-as években tervezte a mexikóvárosi Bacardi-házat, a baltimore-i One Charles Centert, a chicagói Federal Centert, a washingtoni Nyilvános Könyvtárat és egyik legszebb épületét, a berlini Új Nemzeti Galériát. Óriási hatása volt tanítványaira és másokra is, ő volt az egyetlen olyan építész, aki mindenütt alkalmazható modern építészeti szemléletet hozott létre. Művészetét erős racionalizmus, a szerkezetek logikája, a funkciók elválasztása jellemzi. Chicago-ban hunyt el 1969. augusztus 17-én.