Mesterséges intelligencia hoz hivatali döntéseket

Ausztriában a szövetségi kormány olyan átfogó törvénymódosításra készül, amely közvetlenül felhatalmazná a közigazgatási hatóságokat arra, hogy generatív nyelvi modellek segítségével írassanak ki hivatalos közigazgatási határozatokat. Az osztrák nemzeti tanács alkotmányügyi bizottsága elé kerülő tervezet az általános közigazgatási eljárási törvény reformját célozza, amelynek központi eleme a 18a paragrafus bevezetése. Ez az új szakasz teremti meg a jogi alapját annak, hogy az államigazgatásban a tömeges határozathozatalt algoritmusokra bízzák. A bécsi döntéshozók szándékai szerint a GovGPT elnevezésű, szövetségi szolgálatba állított nagy nyelvi modell veszi át az ügyintézők feladatainak jelentős részét. A lépést az osztrák államigazgatás előtt álló súlyos demográfiai kihívással indokolják, hiszen a mintegy 250 ezer fős köztisztviselői kar számottevő hányada éri el a nyugdíjkorhatárt a következő években, az így keletkező munkaerőhiányt pedig az állam digitális rendszerekkel kívánja áthidalni.

A törvénytervezet szövege alapján az automatizáltan generált határozatok esetében megszűnik a kötelező és teljes körű emberi felülvizsgálat. Az elképzelések szerint a mesterséges intelligencia által előállított hivatalos dokumentumokat és elutasításokat csupán szúrópróbaszerűen ellenőrzik majd a hivatali dolgozók. Ez a gyakorlatban azt jelenti, hogy tömegével kerülhetnek ki a postafiókokba és a lakossági tárhelyekre olyan jogi kötőerővel bíró iratok, amelyeket emberi szem egyáltalán nem látott a kibocsátás előtt. A civil szervezetek és jogi szakértők rámutatnak arra, hogy a generatív nyelvi modellek működési sajátosságaiból adódóan ez a módszer rendkívül magas hibalehetőséget hordoz. A szakmailag specializált jogi feladatokra fejlesztett algoritmusok esetében elvégzett mérések szerint a hibaarány eléri a 17–33 százalékot, ami a mindennapi közigazgatási gyakorlatban felmérések szerint óriási számú hibás döntést eredményezhet.

A digitális jogokkal foglalkozó Epicenter.works elnevezésű szervezet nyílt levélben fordult a törvényalkotókhoz, sürgetve a tervezet átfogó átdolgozását. A jogvédő egyesület szakértői kiemelik, hogy a mesterséges intelligencia szerkezetéből adódóan átláthatatlanul működik, továbbá hajlamos az adatokban rejlő torzítások felhangosítására, valamint a hallucinációnak nevezett jelenségre. Ez utóbbi során az algoritmus teljesen kitalált tényeket és jogi hivatkozásokat mutat be tényként, mégpedig rendkívül meggyőző megfogalmazásban. A laikus állampolgárok számára az ilyen típusú, első ránézésre szakszerűnek tűnő tévedések felismerése egy komplex jogi ügyben szinte lehetetlen feladatot jelent.

Különösen éles kritikát váltott ki a korábbi egyeztetési változathoz képest végrehajtott szigorítás, amellyel a kormány teljesen eltörölte az állampolgárok előzetes tiltakozási jogát. A tervezet előző verziója még biztosította volna a lehetőséget arra, hogy az érintettek kérhessék ügyük kizárólagosan emberi elbírálását, az új jogszabályi szövegből viszont ez a garanciális elem kikerült. Így az állampolgár csak utólag, a már megszületett hibás határozat megtámadásával védekezhet. Ezzel párhuzamosan az eljárási határidők terén is jelentős eltolódás látható az állam javára: az ügyfélnek mindössze két hét áll rendelkezésére a kifogásolásra, miközben az eljáró hatóság két hónapos határidőt biztosít saját magának a korrekció elvégzésére.

A jogi aggályokat fokozza az a tény, hogy az osztrák államigazgatásban jelenleg sem áll rendelkezésre a mesterséges intelligenciáról szóló uniós rendelet, az AI Act által előírt független felügyeleti hatóság. Ennek hiányában a döntési és ellenőrzési felelősséget a helyi hatóságok vezetőire, így a járási elöljárókra, polgármesterekre és a magistratusi vezetőkre delegálják. Az ő feladatuk lenne annak megállapítása és nyomon követése, hogy az egyes alosztályokon pontosan milyen folyamatokban és milyen mértékben alkalmaznak algoritmusokat. A szakértők szerint az ellenőrzési jogkörök ilyen széttöredezettsége megnehezíti a rendszerszintű hibák kiszűrését.

Az algoritmusok közigazgatási felkészületlenségét jól illusztrálja az a közelmúltbeli eset, amikor az ida elnevezésű osztrák állami tanácsadó chatbot hibás információkat adott meg a kormány összetételéről. A rendszer az alkancellárt tévesen volt kormánytagnak minősítette, valamint egy teljesen kitalált miniszteri tisztséget és személyt is megnevezett a válaszában. Bár abban az esetben az adatbázis bizonyos mértékű szándékos manipulációja is szerepet játszott az eredményben, a szakértők rámutatnak arra, hogy ami egy tájékoztató jellegű felületen csupán kellemetlen hiba, az egy hatósági határozatban közvetlen jogvédelmi elvonást és anyagi kárt okoz az érintetteknek.

Az átfogó automatizálás kockázatait nemzetközi példák is mutatják. Hollandiában a gyermeknevelési támogatások elosztásánál alkalmazott automatizált kockázatelemző rendszer szisztematikus hibákat vétett, amikor családok tízezreit vádolta meg alaptalanul csalással. Az ügy következtében számtalan háztartás került súlyos anyagi és eljárási válságba, a kibontakozó politikai botrány pedig végül az akkori holland kormány lemondásához vezetett. Az osztrák szabályozási terv semmilyen korlátozást nem tartalmaz arra vonatkozóan, hogy mely jogterületeken tilos az algoritmusok használata, így a teljesen automatizált döntéshozatal a legérzékenyebb területeken, mint a szociális támogatások vagy a menekültügyi eljárások, szintén megjelenhet.

A jogalkotás történetét tekintve az osztrák közigazgatási jog az 1980-as évek óta megköveteli, hogy a hatóságnak meghatározó befolyással kell rendelkeznie az alkalmazott technikai rendszerek felett. A nagyméretű nyelvi modellek belső matematikai működése és valószínűségi alapon történő szövegalkotása miatt ez a meghatározó befolyás a gyakorlatban nem biztosítható. A versenyszféra szereplőire szigorú kockázatkezelési és átláthatósági szabályok vonatkoznak a mesterséges intelligencia használata során, miközben az államigazgatási törvénytervezet mentesíteni kívánja az állami szerveket a szigorú és folyamatos emberi kontroll kötelezettsége alól.