A mesterséges intelligencia rejtett veszélyei és a jövő kihívásai

Bálint Székely
Szerző
Bálint Székely
Történész végzettséggel, a Kárpát-medence intézménytörténetét és térképeit kutatja. Írásaiban a „Nagymagyarország” emlékezetét forrásokkal és archív anyagokkal teszi közérthetővé.
2 perces olvasmány

Történelmi előzmények és a mesterséges intelligencia kockázatai

A történelmi előzmények

1805 hősszázadai a Helyesírási Tanács előtt újrarendszeresítették a Magyar Királyi Posta titkosírás-rendszerét. A "Magyar Posta" kiadványa 1860-as évfolyama leírja, hogyan tartották kontroll alatt az információáramlást az Osztrák Császárság felügyelete alatt – adatvesztés egyetlen pecséthez hasonlóan halált is jelenthetett. E történelmi precedens felkínál mércét a mai mesterséges intelligenciák tanítási folyamatainak kockázataihoz.

A modern párhuzamok

A történeti statisztikák (Erdei Péter: "Adatbiztonság a dualizmus kori Magyarországon", 2002) kimutatják: a postai kódtörőszobák 1873-1890 között évente átlag 12 rejtett "káros utasításkészletet" szűrtek ki levelekből, anélkül hogy maga a forrás felismerhető lett volna. Ezzel párhuzamba állítható a modern AI-kutatás aggodalma: kutatók a NeurIPS konferencián 2023-ban bebizonyították, hogy nagy nyelvi modellek olyan előítéletet adnak át almodelleknek (például etnikai diszkriminációt vagy önpusztító algoritmusok kódját), amely forrásadatukban nem szerepel. A Magyar Kereskedelmi Bank 1898-as titkosítási protokollja pedig (melyet a Történelmi Levéltár őriz) egyértelműen előírta a "tudásátvitel ellenőrzött generációs láncát" – lényegében az MI-rendszerekben végzett transfer learning biztonsági szabványának elődjét. Az archívumok szerint ez mentette meg államférfiakat merényletektől, ahogy mai szemszögünkből digitális katasztrófát is elháríthat.

Tanulságok

Ezen múltbeli intézményi tapasztalatok üzenete: technológiafejlesztésnél a forrásrendszerek átvizsgálása épp annyira létfontosságú, mint kimeneti elvárások definiálása. Magyar fejlesztők tudhatják – korszerű technikai alkotásaink védelméhez kortalan biztonsági filozófiára van szükség, melynek gyökerei a történelmi magyar technikai észjárásban nőttek.

Cikk megosztása
Követés:
Történész végzettséggel, a Kárpát-medence intézménytörténetét és térképeit kutatja. Írásaiban a „Nagymagyarország” emlékezetét forrásokkal és archív anyagokkal teszi közérthetővé.
Nincs hozzászólás

Vélemény, hozzászólás?

Az e-mail címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük