Kirekesztő, rasszista és szexista lett a levéltári anyagokon betanított mesterséges intelligencia
2026. július 14. 15:36 Múlt-kor
Súlyos módszertani és történelmi torzításokat tartalmaz a kizárólag 1931 előtti archív dokumentumokon betanított, "talkie" nevű új mesterséges intelligencia - derül ki Jacob Polay, Chloë Farr és Jessica Jack kutatók legfrissebb elemzéséből. A fejlesztők eredetileg az események előrejelzésének képességét vizsgálták a modellel, azonban a szűrt, angol nyelvű forrásbázis miatt a szoftver történelmi tényként kezeli és reprodukálja a múlt század eleji kirekesztő társadalmi nézeteket. A szakemberek arra figyelmeztetnek, hogy a digitalizált levéltári adatok kritika nélküli felhasználása alapjaiban hamisítja meg a múlt értelmezését.
Ahogy arról korábban mi is beszámoltunk, a talkie nevű nyelvi modellt egy technológiai szakemberekből álló csoport - köztük David Duvenaud, a Torontói Egyetem docense, valamint Alec Radford és Nick Levine - hozta létre. A fejlesztők deklarált célja annak tesztelése volt, hogy egy múltbeli, kizárólag 1931 előtti adatokon kiképzett rendszer képes-e történelmi események előrejelzésére.
A kutatók elemzése szerint azonban a nyilvánosan elérhető verzió nem rendelkezik bizonyítható prediktív képességekkel. Ehelyett a felület egy 1930-ból származó chatbotként funkcionál, amely a laikus felhasználók számára a történelmi múlt hiteles lenyomatának tűnhet, holott működése súlyos adatbázis-problémákon alapul.
A modell legnagyobb hiányossága a betanításhoz használt adatbázis egyoldalúságában rejlik. A fejlesztők a szerzői jogi korlátozások elkerülése érdekében könnyen hozzáférhető, digitalizált angol nyelvű nyomtatott forrásokat - könyveket, újságokat, tudományos folyóiratokat és jogi dokumentumokat - használtak fel, többek között a Harvard Egyetem és az Internet Archive repozitóriumaiból.
A történettudományi elemzés rávilágít, hogy ez a forrásbázis szinte kizárólag a korabeli fehér, férfi elit nézőpontját tükrözi. A kéziratos, többnyelvű vagy a marginalizált csoportoktól származó szóbeli hagyományok hiányoznak a géppel olvasható adathalmazból, így a modell egy szűk társadalmi réteg véleményét jeleníti meg általános történelmi valóságként.
Ennek következtében a talkie kritika nélkül, elfogadott tényként reprodukálja az 1930-as évekre jellemző kirekesztő, rasszista vagy szexista nézeteket. Bár Chloë Farr kutató hónapokkal a megjelenés előtt figyelmeztette a fejlesztőket az archívumok egyoldalúságából fakadó veszélyekre, a javaslatokat figyelmen kívül hagyták. A modell kiadása után mindössze egy utólagos tartalomszűrőt (Qwen3Guard) építettek be, amely csupán figyelmezteti a felhasználót a potenciálisan nem megfelelő tartalomra, de nem ad kontextust ahhoz, hogy a kapott válasz a múlt egy rendkívül torz, hiányos szelete.
A kutatók megállapítása rámutat a digitális bölcsészet és a mesterséges intelligencia találkozásának egyik legkritikusabb problémájára: a levéltárak és archívumok nem objektív időkapszulák. A fennmaradt dokumentumok zöme azt a narratívát őrzi, amelyet a hatalmon lévők megőrzésre érdemesnek ítéltek, miközben a források hiánya önmagában is történelmi bizonyíték. A modern nyelvi modellek statisztikai alapokon működnek, és képtelenek a betanított adathalmazon túli perspektívák megjelenítésére.
A szakemberek hangsúlyozzák, hogy a történelmi forrásokon alapuló technológiák történész-levéltáros szakértők bevonása nélküli fejlesztése nemcsak a múlt megértését hamisítja meg, hanem az ezekre épülő jövőbeli predikciók hitelességét is aláássa.
Támogasd a 
szerkesztőségét!
