Az ukrajnai Kremenetszben látta meg a napvilágot 1920. június 21-én. Egyéves volt, amikor szülei Ukrajnából San Franciscóba vándoroltak ki. Itt végezte zenei tanulmányait és itt is debütált a San Franciscó-i szimfonikusokkal. 1937-ben lépett fel először önálló koncerten New Yorkban. Európában 1948-ban adott elso ízben koncertet. Vendégszerepelt híres fesztiválokon (Prades, Edinburgh), 1956 óta pedig a Szovjetunióban is. Amerikában éppen úgy népszerű, mint Izraelben. Annak önvédelmi háborúi alatt - nagy összegu kötbér fizetését is vállalva - egy sor hangversenyt is lemondott, hogy izraeli katonák elott játszhasson. Németországban azonban nem lépett fel, mert mint zsidó ember, nem tudta volna elviselni, hogy a holokauszt hazájában taps köszöntse őt. 1979-es kínai meghívása alkalmából dokumentumfilm készült hangversenykörútjáról Maótól Mozartig címmel. A film világsikert aratott és 1981-ben Oscar-díjjal tüntették ki. A Sony Classical (korábban CBS Masterworks) 75. születésnapjára CD korongon közzétett gyakorlatilag mindent, amit Stern pályafutásának kezdete óta eljátszott. Különösen híresek Csajkovszkij hegedűversenyének 1949-bol, 1958-ból és 1973-ból származó interpretációi.