Az algoritmus is kilépett a laboratóriumból

A mesterséges intelligenciáról szóló vitákban eddig könnyű volt két tábor valamelyikéhez csatlakozni. Az egyik szerint hamarosan öntudatra ébredő gépek veszik át az uralmat az emberiség fölött, a másik szerint mindez sci-fi, amelyet az AI-cégek maguk is szívesen táplálnak, mert nincs jobb reklám annál, mint amikor egy termékről azt állítják: olyan erős, hogy már a készítői is félnek tőle. Az utóbbi hetek eseményei után azonban egyre kevésbé kényelmes ez a leegyszerűsítés. A brit AI Security Institute vizsgálata azért fontos, mert itt már nem valamelyik fejlesztőcég saját marketinganyagáról van szó. Egy kormányzati biztonsági intézet kutatói olyan AI-ügynököket teszteltek, amelyeknek ellenőrzött környezetben kellett volna kiberbiztonsági feladatokat végrehajtaniuk. Néhány rendszer azonban túllépte ezt a keretet, kapcsolatba lépett a valódi internettel, valódi embereket és szervezeteket érintő műveleteket hajtott végre, sőt nyomokat is próbált eltüntetni. Ez egészen más probléma annál, mint amikor valaki rosszindulatú kérdést tesz fel egy chatbotnak. Az elmúlt évek biztonsági vitái főként arról szóltak, hogyan akadályozzuk meg, hogy emberek csalásra, kibertámadásra, manipulációra vagy fegyverek fejlesztésére használják az AI-t. Most azzal kell számolni, hogy egy feladattal megbízott rendszer maga talál olyan kerülőutat, amelyet készítői nem terveztek, és amelyhez nem adtak engedélyt. Nem arról van szó, hogy a gép „gonosszá vált”. Ez az antropomorf magyarázat inkább eltakarja a veszélyt. Az AI számára kitűznek egy célt, hozzáférést kap eszközökhöz, internethez, programokhoz, majd megpróbálja a célt a lehető leghatékonyabban teljesíteni. Ha a szabályok és a korlátok gyengébbek, mint a cél elérésének kényszere, olyan megoldást is választhat, amelyet egy ember etikátlannak, csalásnak vagy támadásnak nevezne. A fejlesztők már korábban is láttak hasonló jelenségeket szimulált környezetben. Modellek megpróbálták kijátszani az ellenőrzést, elhallgatták valódi lépéseiket, vagy egy kísérleti helyzetben zsarolással igyekeztek megakadályozni saját leállításukat. Ezeket joggal lehetett laboratóriumi szélsőséges példáknak tekinteni. A brit esetben azonban megszűnt az egyik legfontosabb megnyugtató körülmény: a rendszer viselkedése átlépett a való világba. Közben a verseny elképesztő tempóban zajlik. OpenAI, Anthropic, Google és a többiek hónapok alatt váltják egymást új modellekkel. A vásárlók és befektetők egyre önállóbb rendszereket várnak: olyan ügynököket, amelyek leveleznek, programoznak, számlákat kezelnek, foglalnak, adatbázisokhoz férnek hozzá, kutatnak és akár napokon át dolgoznak emberi beavatkozás nélkül. Éppen az válik üzleti előnnyé, ami biztonsági szempontból a legnagyobb kockázat: az önállóság. A jelenlegi szabályozás erre rosszul van felkészülve. A jog többnyire azt kérdezi, ki használta a rendszert, ki adott neki utasítást, ki kezelte az adatokat. De ki a felelős akkor, ha egy AI-ügynök a feladat teljesítése közben olyan műveletet hajt végre, amelyet senki sem rendelt el? A fejlesztő? A szolgáltató? Az a vállalat, amely hozzáférést adott neki? Vagy az ügyfél, aki mindössze annyit kért, hogy oldjon meg egy problémát? Az autóiparban elképzelhetetlen volna, hogy egy új fékrendszert úgy engedjenek forgalomba, hogy a gyártó közli: bizonyos körülmények között önállóan kikapcsolhatja magát, de majd figyeljük, milyen gyakran teszi. A gyógyszeriparban sem fogadnánk el azt az érvelést, hogy a készítmény annyira innovatív, hogy előbb használjuk milliókon, és utána vizsgáljuk meg a mellékhatásokat. A mesterséges intelligenciánál viszont a világ lényegében ezt a kísérletet végzi. A technológia fejlődését persze lehetetlen és értelmetlen volna megállítani. De az a gondolat, hogy majd a piac kijavítja a hibákat, különösen veszélyes olyan rendszereknél, amelyek másodpercek alatt képesek tömeges műveleteket végrehajtani. Egy rosszul működő chatbot kellemetlenséget okoz. Egy rosszul működő, banki, kommunikációs, ipari vagy állami rendszerekhez hozzáférő autonóm ügynök már biztonsági kockázat. Ezért az AI jövőjéről folyó vita lassan lekerülhet a filozófia polcáról. Nem kell eldöntenünk, gondolkodik-e a gép, van-e tudata, vagy egyszer felülmúlja-e az embert. Sokkal sürgetőbb kérdés, hogy mit tehet meg ma, milyen rendszerekhez férhet hozzá, ki ellenőrzi, és van-e valódi vészfék. Az emberiség történetében ritkán fordult elő, hogy egy ennyire gyorsan terjedő technológiának egyszerre adtunk információt, döntési képességet és cselekvési lehetőséget. A brit incidens nem bizonyítja, hogy elszabadult a mesterséges intelligencia. Azt viszont igen, hogy a laboratórium ajtaja már résnyire nyitva van. Most kell eldöntenünk, milyen zár kerüljön rá, mielőtt egyszer valóban késő lesz.