Nyolc amerikai állam pereli a ChatGPT fejlesztőjét
Több republikánus vezetésű szövetségi tagállam ügyésze egyszerre indított eljárást egy mesterségesintelligencia-vállalat ellen. Kereseteik gyermekvédelmi, adatkezelési és felhasználóbiztonsági kifogásokat sorolnak, miközben fejlesztőcég vitatja ezeket.
Nyolc amerikai szövetségi állam indított külön eljárást az OpenAI ellen, arra hivatkozva, hogy a ChatGPT fejlesztője nem tesz eleget a felhasználók biztonságának védelméért. A csütörtök este ismertetett kereseteket Arizona, Arkansas, Iowa, Nebraska, Kansas, Nyugat-Virginia, Idaho és Montana főügyészei nyújtották be saját államuk bíróságain. A vádak a chatbot működésének kialakítására, a fiatalok védelmére és az érzékeny felhasználói helyzetek kezelésére összpontosítanak. A keresetek állításai egyelőre nem jelentenek jogerősen megállapított jogsértést.
A főügyészek szerint a rendszer működésének egyik problémája, hogy barátságos, támogató hangvételével könnyen bizalmat ébreszt. Állításuk szerint ez bizonyos sérülékeny felhasználóknál veszélyes helyzeteket teremthet, ha a válaszok megerősítik a téves meggyőződéseket, vagy nem kezelik megfelelően a káros szándékra utaló kéréseket. Egyes keresetek azt is állítják, hogy a rendszer használata hozzájárulhatott veszélyes viselkedésekhez. Az egyes esetek közötti oksági kapcsolatot azonban bírósági bizonyításnak kell tisztáznia.
A perek másik központi területe a gyermek- és fiatalkorú felhasználók védelme. Több állam úgy véli, hogy a szolgáltatás kialakítása túlzott használatra ösztönözhet, és kifogásokat fogalmaztak meg a kiskorúak adatainak kezelésével kapcsolatban is. A digitális termékeknél különösen nehéz megállapítani, hol húzódik a határ a felhasználóbarát tervezés és a túlzott bevonódást kiváltó megoldások között. A fiatalok esetében a szülői felügyelet, az életkor ellenőrzése és a biztonsági korlátok működése is a vizsgálat része lehet.
Az OpenAI visszautasítja azt a képet, hogy ne foglalkozna a kockázatokkal. A vállalat szóvivője, Drew Pusateri közölte, hogy együtt kíván működni az államokkal a gyakorlati mesterségesintelligencia-szabályok kialakításában. A cég szerint már bevezetett gyermekvédelmi és biztonsági intézkedéseket, és ezek továbbfejlesztésén dolgozik. A bíróságoknak azt kell majd mérlegelniük, hogy az alkalmazott intézkedések megfelelnek-e az érintett államok fogyasztóvédelmi és más jogszabályainak.
Az ügy különlegessége, hogy a kereseteket több államban, párhuzamosan nyújtották be. Az Egyesült Államokban a főügyészek jelentős szerepet játszanak a fogyasztóvédelemben, és saját államuk jogszabályaira hivatkozva indíthatnak eljárásokat nagyvállalatok ellen. Ez eltér az európai modelltől, ahol a digitális szolgáltatásokra vonatkozó közös uniós szabályok és a nemzeti hatóságok feladatai egymásra épülnek. Az amerikai eljárások ezért akár eltérő követelményeket és határidőket is eredményezhetnek.
A mostani nyolc kereset nem az első jogi konfliktus a vállalat körül. Floridában már korábban megindult egy eljárás, és más ügyekben is megfogalmazódtak panaszok a chatbotok biztonságával kapcsolatban. A különböző perek eltérő tényállásokra épülnek, ezért nem helyes őket egyetlen bizonyított jogsértéssorozatként kezelni. A bírósági döntések, az esetleges egyezségek és a hatósági vizsgálatok külön-külön alakíthatják majd a szabályozási környezetet.
A vita mélyén a generatív mesterséges intelligencia egyik sajátossága áll. Az ilyen rendszerek nagy mennyiségű adatból tanult minták alapján állítanak elő válaszokat, miközben a felhasználó természetes nyelven beszélgethet velük. Ez a forma sokkal közvetlenebbnek tűnhet, mint egy hagyományos keresőmotor. A válaszok stílusa azonban nem jelent emberi megértést, és a rendszer meggyőző hangon is közölhet téves vagy nem megfelelő információt. A szolgáltatók ezért egyre több biztonsági ellenőrzést alkalmaznak.
A főügyészek által kifogásolt kockázatok egy része a beszélgetés hosszával és a felhasználói bizalom erősödésével függhet össze. Ha valaki egy rendszert állandó tanácsadóként használ, könnyen személyes jelentőséget tulajdoníthat a válaszoknak. Ez különösen érzékeny lehet mentális válságban, elszigeteltségben vagy fiatalkorban. Az ilyen helyzetek kezelésének szakmai követelményei még fejlődnek. A jogi vita ezért arra is kiterjedhet, hogy a fejlesztőktől milyen elővigyázatosság várható el egy gyorsan változó technológiánál.
A gyermekvédelem területén a szabályozók többféle eszköz közül választhatnak. Ide tartozhat az életkorhoz igazított működés, a szülői felügyelet, bizonyos tartalmak korlátozása, a kockázatos beszélgetésekre adott biztonságos válasz, valamint az adatok gyűjtésének és megőrzésének szigorúbb kezelése. Egyetlen megoldás sem képes minden problémát megszüntetni. A hatóságoknak ezért azt kell értékelniük, hogy az intézkedések összessége mennyire csökkenti a várható károkat.
A technológiai cégek szempontjából a párhuzamos perek jelentős üzleti kockázatot hordoznak. A pereskedés költséges, a különböző államok eltérő előírásai pedig megnehezíthetik az egységes szolgáltatás működtetését. Egy esetleges bírósági tiltás vagy kötelező termékmódosítás gyorsan érintheti a fejlesztési terveket. A befektetők ezért az ilyen ügyeknél nem kizárólag a pénzbírságok összegét figyelik, hanem azt is, milyen változtatásokat követelhetnek a szolgáltatások tervezésében.
Az Egyesült Államokban a mesterséges intelligencia szabályozása politikai vitává is vált. Egyes döntéshozók a fejlesztés gyorsaságát és a nemzetközi technológiai versenyt tartják elsődlegesnek, mások a fogyasztói jogok és a társadalmi kockázatok erősebb védelmét követelik. A főügyészi eljárások lehetőséget adnak arra, hogy az államok a szövetségi szintű szabályozástól függetlenül is fellépjenek. Ugyanakkor egyelőre nyitott, milyen egységes mérce alakulhat ki a különböző bírósági döntésekből.
Európában a mesterséges intelligenciáról szóló rendelet és a digitális szolgáltatásokra vonatkozó szabályok más jogi keretet biztosítanak. A szolgáltatókra vonatkozó kötelezettségek attól is függnek, milyen rendszerrel, milyen felhasználási céllal és milyen kockázati kategóriában működnek. Az amerikai perek eredménye önmagában nem írja át az uniós szabályokat, de befolyásolhatja a nemzetközi vállalatok önkéntes biztonsági gyakorlatait és a hatóságok értelmezését.
A magyar felhasználók számára az ügy elsősorban a szolgáltatások megbízhatósága és az adatkezelés miatt érdekes. A chatbotokat tanulásra, munkára és személyes kérdések megbeszélésére is használják, ezért a kockázatok megértése szélesebb társadalmi kérdés. A felhasználóknak érdemes tudniuk, hogy a magabiztos megfogalmazás nem garancia a helyességre, az érzékeny helyzetekben pedig különösen fontos az emberi szakértői segítség és a személyes adatok tudatos kezelése.
A mostani eljárások várhatóan hosszabb jogi folyamat kezdetét jelentik. A főügyészeknek bizonyítaniuk kell állításaikat, az OpenAI pedig előterjesztheti védekezését és saját biztonsági intézkedéseinek dokumentációját. Az első fontos döntések akár eljárásjogi kérdésekről is szólhatnak, mielőtt a bíróságok a keresetek érdemét vizsgálnák. A fejlemények mindenesetre jelzik, hogy a mesterséges intelligencia terjedésével a termékfelelősség és a felhasználói védelem egyre nagyobb súlyt kap az amerikai igazságszolgáltatásban.