Szepesbélán született, Pesten szerzett mérnöki oklevelet 1828-ban, ezután a fővárosnál dolgozott, illetve az Institutum Geometricumban a matematika és a mechanika előadója, majd a felsőbb mennyiségtan egyetemi tanára volt. 1837 és 1878 között a bécsi Műszaki Egyetem matematikaprofesszora; a differenciálegyenletekkel foglalkozó bécsi iskola megalapítója. Nevét elsősorban az 1840-ben szerkesztett, nagy fényerejű akromatikus kettős fényképészeti objektívjei tették ismertté, amelyekkel a megvilágítási idő a másodperc töredékére csökkent, és kiküszöbölődött a kép kontúrozottsága. Ő a korszerű anasztigmát lencserendszer feltalálója is. 1847-ben felfedezte a fényszórót; tudományosan igazolták azt a megállapítását, miszerint az izzó szilárd testek több fényt bocsátanak ki, mint a lánggal égő gázok. Bécsben hunyt el 1891. szeptember 17-én. Tiszteletére 1962-ben az Optikai, Akusztikai és Filmtechnikai Egyesület Petzval József-emlékérmet alapított.