Régi presbiteriánus manhattani családból származott, apja könyvkiadó, anyja tanár volt. Tizennégy évesen olvasott Marconiról, s ő is rádióval kezdett kísérletezni. A középiskola után a Columbia Egyetem mérnök karára iratkozott be. A Lee De Forest által feltalált háromtagú vákuumcsőhöz olyan visszacsatolásos áramkört tervezett, amely a jeleket ezerszeresére erősítette fel, így ezeket az egész szobában lehetett hallani. Azt is felfedezte, hogy maximális erősítés mellett a cső áramköre vevőből a rádióhullámok primer generátorává alakul át. A szabadalom kérdésében 14 évig pereskedett De Foresttel, a bíróságok végül az utóbbi elsőbbségét is merték el, de a tudományos közvélemény ezt sosem fogadta el, s a Rádiótechnikai Intézet sem volt hajlandó visszavonni az Armstrongnak ítélt aranyérmet. Később a Franklin-érmet is megkapta. Armstrong egy ideig a Columbia Egyetemen tanított, az I. világháború alatt az amerikai hadsereg párizsi híradástechnikai laboratóriumában dolgozott. Itt találta fel a szuperheterodin kapcsolást, amely igen szelektív eszköz a nagyfrekvenciájú, gyenge elektromágneses hullámok vételéhez és erősítéséhez - ma ez majdnem minden rádió- és tévé-vétel alapja. A háború után visszatért a Columbiára, majd eladta szabadalmi jogait az Amerikai Rádiózási Társaságnak. 1933-ban szabadalmaztatta találmányait, melyek a rádiózást új elvek szerint valósították meg: az amplitúdó vagy áramerősség váltakozása helyett a frekvenciákat változtatta. Ezt a vivőhullámot a természetes statikus zörejek, az elektromos viharok nem zavarják. A frekvencia-moduláció (FM) tette lehetővé a torzításmentes rádiózást. A változásokat az ipar a költségek miatt nem üdvözölte, Armstrong maga építette meg 1939-ben az első FM-állomást 300 ezer dollárért, majd tovább is fejlesztette, s fenntartotta a II. világháború alatt. Küszködött a későbbi szabályozási próbálkozásokkal, és újabb szabadalmi perekbe bonyolódott. Vagyonát és erejét felemésztette e harc, 1954-ben öngyilkos lett. Ma az FM a televízió, a rádió, a mikrohullámú és műholdas kommunikáció közege. A Nemzetközi Távközlési Unió Armstrongot halála (1954. február 1.) után beválasztotta az elektromosság nagyjainak panteonjába, Ampére, Bell, Faraday és Marconi mellé.