XIV. Leó szerint az AI veszélyeit komolyan kell venni

XIV. Leó pápa szerint komolyan kell venni azokat a szakértői figyelmeztetéseket, amelyek a mesterséges intelligencia legsúlyosabb kockázataira hívják fel a figyelmet. A Franciaországból Rómába tartó pápai repülőgépen hétfő este tartott sajtótájékoztatón az egyházfő közvetlenül reagált Donald Trump amerikai elnök álláspontjára, aki az ENSZ-közgyűlésen túlzónak, sőt „hoaxnak” nevezte az emberiséget fenyegető AI-veszélyekről szóló félelmeket.

A pápa úgy fogalmazott, hogy az AI-val foglalkozó szakértők és kutatók aggodalmait komolyan kell venni, és szerinte ezek nem tekinthetők álhírnek. A megjegyzés különösen figyelemre méltó, mert XIV. Leó az első amerikai pápa, és ritkán bírálja ennyire közvetlenül az Egyesült Államok elnökének egy konkrét kijelentését. Az AI szabályozása azonban pápaságának kezdete óta visszatérő témája.

Leó a technológiai vállalatok vezetőit is kritizálta, ha egyszerre beszélnek biztonsági korlátokról és ellenzik a kormányzati szabályozást. Külön megemlítette az Nvidia vezetőjét, Jensen Huangot. A pápa arra utalt, hogy ellentmondásosnak tartja, amikor az iparág saját technikai védőkorlátokat ígér, közben viszont azt állítja, hogy az államnak nem kellene érdemi korlátozásokat előírnia.

A vita időzítése különösen érdekes. Trump kedden a Fehér Házban technológiai vezetőkkel találkozik az AI jövőjéről. A résztvevők között várhatóan ott lesz Mark Zuckerberg, Dario Amodei, Greg Brockman, és más nagy technológiai cégek vezetői is. A megbeszélés központi témája az lesz, miként lehet úgy fenntartani az amerikai innovációs előnyt, hogy közben kezeljék a technológia biztonsági kockázatait.

Az amerikai kormány attól tart, hogy a túl szigorú szabályozás Kínának kedvezne. A republikánus politikusok jelentős része ezért inkább az iparági önszabályozást és a gyors fejlesztést támogatja. Érvelésük szerint az Egyesült Államok nem engedheti meg magának, hogy jogi korlátok miatt lemaradjon a katonai, gazdasági és tudományos versenyben.

A pápa más kiindulópontból közelít. Számára az AI elsősorban emberi méltósággal, munkával, felelősséggel és hatalommal kapcsolatos kérdés. Korábbi megszólalásaiban arra figyelmeztetett, hogy a technológia nem válhat önálló erkölcsi szereplővé, és a döntésekért mindig embereknek kell felelősséget viselniük. Különösen érzékeny területnek tekinti a fegyverrendszereket, a munkahelyek automatizálását, az oktatást és a személyes adatok felhasználását.

XIV. Leó most ennél tovább ment azzal, hogy az emberiségre leselkedő szélsőséges kockázatokat sem söpörte félre. Nem állította, hogy a mesterséges intelligencia szükségszerűen katasztrófához vezet, azt viszont hangsúlyozta, hogy a lehetőséget vizsgálni kell. Szerinte párbeszédre, kutatásra és olyan megoldásokra van szükség, amelyek megakadályozzák, hogy a technológia ellenőrizhetetlenné váljon.

Ez a megközelítés közel áll több AI-biztonsági kutató álláspontjához. Az iparágon belül is vita folyik arról, milyen valószínűséggel okozhatnak a jövő fejlett rendszerei súlyos társadalmi vagy akár civilizációs károkat. Egyes kutatók a dezinformációt, a kibertámadásokat és a biológiai fegyverek fejlesztésének megkönnyítését tekintik a közelebbi veszélynek. Mások attól tartanak, hogy a későbbi, az emberi képességeket sok területen meghaladó rendszerek irányítása válhat problémává.

Trump ezzel szemben az amerikai technológiai versenyképességet helyezi előtérbe. Az ENSZ-ben elhangzott beszédében a súlyos AI-félelmeket túlzásnak minősítette, és azt hangsúlyozta, hogy az Egyesült Államoknak vezető szerepet kell megőriznie. A Fehér Ház szerint a túlzott óvatosság gazdasági és nemzetbiztonsági hátrányt okozhat Kínával szemben.

A két álláspont között azonban vannak közös pontok is. Sem a pápa, sem az amerikai kormány nem akarja leállítani a technológiai fejlődést. A vita inkább arról szól, ki határozza meg a biztonsági korlátokat, mennyire legyenek kötelezőek, és mekkora kockázatot fogadhat el a társadalom a gyors innováció érdekében.

Európában a szabályozási megközelítés hagyományosan szigorúbb. Az Európai Unió AI Actje kockázati kategóriák alapján állapít meg kötelezettségeket, és bizonyos alkalmazásokat tilt vagy szigorúan korlátoz. Brüsszel azt szeretné, hogy az alapjogok és a biztonság védelme már a fejlesztés során beépüljön a rendszerekbe. Az amerikai technológiai cégek gyakran azzal érvelnek, hogy ez lassíthatja az innovációt és növelheti a megfelelési költségeket.

A Vatikán az elmúlt években aktívan bekapcsolódott ebbe a nemzetközi vitába. A katolikus társadalmi tanítás alapján az emberközpontú technológia elvét hangsúlyozza. A Szentszék képviselői több fórumon sürgették az autonóm fegyverek korlátozását, az algoritmikus diszkrimináció elleni fellépést és a digitális gazdaság társadalmi következményeinek vizsgálatát.

Leó pápasága alatt az AI kérdése még hangsúlyosabbá vált. Már névválasztását is részben az ipari forradalom társadalmi kihívásaival hozta kapcsolatba: XIII. Leó a 19. század végén a munkáskérdésre és a modern gazdaság átalakulására adott katolikus választ, XIV. Leó pedig a digitális korszak hasonló léptékű változásairól beszél. Az analógia szerint az egyháznak most is az emberi méltóság és a társadalmi igazságosság szempontjait kell képviselnie.

A mesterséges intelligencia munkaerőpiaci hatása különösen fontos számára. A generatív rendszerek egyre több irodai, kreatív és elemző feladatot képesek részben automatizálni. A pápa korábban arra figyelmeztetett, hogy a termelékenység növekedése önmagában nem igazolja a dolgozók kiszorítását vagy a társadalmi különbségek növelését. A technológiai haszon elosztását erkölcsi és politikai kérdésnek tekinti.

Az oktatásban hasonló problémát lát. Az AI segítheti a személyre szabott tanulást és hozzáférhetőbbé teheti a tudást, ugyanakkor gyengítheti az önálló gondolkodást, ha a diákok a megértés helyett kész válaszokat kapnak. A Vatikán ezért az emberi kapcsolat, a tanári felelősség és a kritikai gondolkodás megőrzését hangsúlyozza.

A pápai repülőgépen elhangzott kijelentés így egy tágabb politikai vita része. Kedden Trump és a technológiai vezetők Washingtonban az amerikai szabályozás jövőjéről beszélnek, Európa a saját szigorúbb modelljét építi, a Vatikán pedig erkölcsi keretet próbál adni a technológiai versenyhez. A következő években eldőlhet, hogy a világ nagy gazdasági térségei mennyire eltérő szabályokat alkalmaznak majd.

XIV. Leó üzenete ebben a vitában világos: a legsúlyosabb kockázatokról szóló figyelmeztetéseket nem szabad politikai jelszóval félresöpörni. A technológia lehetőségeit ki kell használni, de a biztonsági kérdéseket előre kell vizsgálni. A pápa szerint az emberiségnek akkor van esélye kézben tartani az AI fejlődését, ha a kutatók, kormányok, vállalatok és társadalmi intézmények még a súlyos problémák bekövetkezése előtt közös korlátokat alakítanak ki.