Az algoritmusok hatalmát korlátozná a Szentszék

A mesterséges intelligencia terjedésének jogi és társadalmi következményeiről beszélt Pietro Parolin bíboros a római Pápai Gergely Egyetemen. A vatikáni államtitkár az egyházjogi kar fennállásának százötvenedik évfordulójára rendezett tanácskozáson arra figyelmeztetett, hogy az automatizált rendszerek növekvő befolyása a meglévő társadalmi különbségeket is felerősítheti. A katolikus egyház álláspontja szerint a technológiai fejlődéshez olyan szabályozásra van szükség, amely az emberi méltóságot és a közjót helyezi előtérbe.

Parolin felszólalása XIV. Leó pápa májusban közzétett, Magnifica humanitas című enciklikájához kapcsolódott. A pápai dokumentum a mesterséges intelligencia lehetőségeit és kockázatait a katolikus társadalmi tanítás fogalmaival értelmezi. A Szentszék szerint a technika jelentős előnyöket hozhat az egészségügyben, az oktatásban és a kutatásban, de a fejlesztések irányát a gazdasági érdekek önmagukban nem határozhatják meg. Az algoritmusok által támogatott döntések mögött azonosítható emberi felelősségnek kell maradnia.

A vatikáni államtitkár külön kitért a nagy technológiai vállalatok és az államok közötti erőviszonyokra. A nemzetközi platformok jelentős adatvagyonnal, számítási kapacitással és pénzügyi erőforrásokkal rendelkeznek. Egyes szolgáltatások a munkaerőpiac, a kereskedelem és a nyilvános tájékozódás alapvető infrastruktúrájává váltak. A nemzeti szabályozók ezzel szemben gyakran eltérő jogrendszerekben, korlátozott szakértői kapacitással próbálnak fellépni. A helyzet különösen nehéz a kisebb államok számára, amelyeknek önállóan kevés eszközük van egy globális platform ellenőrzésére.

Az egyház társadalmi tanítása több olyan alapelvet kínál, amelyet a digitális gazdaságra is alkalmazni lehet. A szolidaritás az érintettek közötti felelősséget hangsúlyozza, a szubszidiaritás a döntések megfelelő szintjét, az egyetemes rendeltetés elve pedig arra emlékeztet, hogy a javak használatának a társadalom egészét kell szolgálnia. Ezek az elvek önmagukban nem helyettesítik a jogszabályokat, de segíthetnek annak mérlegelésében, hogy egy technológiai megoldás kinek kedvez, ki viseli a kockázatát, és ki fér hozzá az előnyeihez.

Az algoritmikus döntéshozatal a mindennapokban már sok területen jelen van. Bankok automatizált rendszerekkel vizsgálhatják a hitelkérelmeket, munkáltatók szoftverekkel rangsorolhatják a jelentkezőket, biztosítók kockázati modelleket alkalmazhatnak. Ezek a módszerek gyorsíthatják az ügyintézést, ugyanakkor hibás vagy torzított adatok alapján hátrányosan érinthetnek bizonyos társadalmi csoportokat. Ha az érintett nem tudja megismerni a döntés indokait, a jogorvoslat is nehezebbé válhat. Parolin ezért hangsúlyozta az ellenőrizhető garanciák jelentőségét.

A mesterséges intelligencia fejlesztéséhez kapcsolódó munka jelentős része a felhasználók számára láthatatlan. Az adatok előkészítését, a tartalmak címkézését, a rendszerek tesztelését és a káros anyagok kiszűrését gyakran alacsonyabb bérű munkavállalók végzik. A feladatok egy része kiszervezett, határokon átnyúló munkaszervezésben zajlik. A vatikáni államtitkár arra is figyelmeztetett, hogy a technológiai fejlődés igazságosságáról szóló vitában ezeknek az embereknek a munkakörülményeit is számításba kell venni. A látványos új alkalmazások mögött hagyományos munkajogi kérdések húzódnak meg.

A digitális oktatásban hasonló különbségek jelenhetnek meg. A jó minőségű eszközökhöz, gyors internethez és képzett tanárokhoz hozzáférő diákok könnyebben használják a mesterséges intelligenciát tanulási segédeszközként. Mások számára ugyanaz a technológia fizetős szolgáltatás marad, vagy ellenőrizhetetlen válaszokat adó ingyenes alkalmazások formájában jelenik meg. A katolikus iskolák és egyetemek ezért kettős feladattal szembesülnek: tanítaniuk kell az új eszközök felelős használatát, és figyelniük kell arra, hogy a technológia ne növelje a tanulók közötti különbségeket.

Az adatvédelem különösen érzékeny terület az egészségügyben és a szociális ellátásban. A személyes adatok elemzése segítheti a betegségek korábbi felismerését és az ellátások tervezését, de a hibás hozzáférési szabályok vagy a túlzott adatgyűjtés súlyos jogsérelmekhez vezethetnek. A rendszer működésének átláthatósága ezért nem pusztán technikai követelmény. Az érintetteknek tudniuk kell, hogy ki kezeli az adataikat, milyen célból, meddig és milyen ellenőrzés mellett. A vatikáni megközelítés ezt az emberi méltóság tiszteletének részeként értelmezi.

A szabályozási vitában az Európai Unió is meghatározó szereplő. Az uniós intézmények az elmúlt években kockázatalapú mesterségesintelligencia-szabályozást alakítottak ki, amely egyes alkalmazásokra szigorúbb követelményeket ír elő. A végrehajtás ugyanakkor folyamatos szakmai és politikai egyeztetést igényel. Az egyház nem törvényhozó szereplő az európai piacon, de társadalmi intézményein, oktatási hálózatán és nemzetközi diplomáciáján keresztül részt vehet az etikai szempontok megfogalmazásában. A különböző álláspontok közötti párbeszédhez ellenőrizhető tényekre és világos fogalmakra van szükség.

Parolin a technológiai szabályozást a nemzetközi jog szélesebb válságával is összekapcsolta. Arra figyelmeztetett, hogy a hatalom és az erő alkalmazása egyre gyakrabban szorítja háttérbe a közösen elfogadott szabályokat. A mesterséges intelligencia katonai felhasználása, a megfigyelési rendszerek terjedése és az információs környezet manipulálása növeli ennek a folyamatnak a kockázatát. A Szentszék a jog és az intézmények megerősítését tekinti fontosnak, mert a technológiai döntések következményei gyakran több országban egyszerre jelentkeznek.

A katolikus egyház számára mindez saját működésében is feladatokat jelent. A plébániák, iskolák és segélyszervezetek egyre több digitális szolgáltatást használnak, az adománygyűjtéstől az oktatáson át a közösségi kommunikációig. A fejlesztések beszerzésénél mérlegelni kell az adatbiztonságot, az alkalmazottak képzését és a kiszolgáltatott csoportok hozzáférését. Az etikai állásfoglalások hitelességét erősítheti, ha az egyházi intézmények saját gyakorlatukban is átlátható döntéseket hoznak.

A Gregoriana jubileumi tanácskozásán elhangzott figyelmeztetés tehát konkrét jogi és intézményi problémákra irányítja a figyelmet. A technológia társadalmi hatásait nem lehet kizárólag a fejlesztők szándékaiból megítélni; számítanak a használat körülményei, az ellenőrzés lehetőségei és a hibák következményei is. A Szentszék olyan szabályrendszert sürget, amelyben az emberi döntés, a felelősség és a jogorvoslat a legösszetettebb automatizált rendszerek mellett is megmarad.