Profi pakisztáni hálózat kaszál a német álhíreken
Pakisztáni digitális műhelyek mesterséges intelligenciával gyártott kattintásvadász propagandával és hamisított videókkal keresnek vagyont a német közösségi médiában.
Friedrich Merz a politikai megsemmisülés szélén áll, miközben Alice Weidel ünnepel, a Német Szövetségi Köztársaság pedig az összeomlás jeleit mutatja a közösségi platformok kijelzőin. A Facebook és a YouTube meghatározott szegleteiben böngészve egy totálisan széthulló állam képe rajzolódik ki, ahol a kormányszövetség tehetetlen, az Európai Unió darabjaira hullik, az országot pedig elárasztják a bevándorlók. Ebben a lefestett világban a mindennapi megélhetés elviselhetetlenül drágává válik, miközben a berlini vezetés milliárdos összegeket utal át Ukrajna támogatására. Ezen képek és videók jelentős része mesterséges intelligencia segítségével készült vagy utólagosan manipulált tartalom. Sok poszt megtévesztően úgy néz ki, mintha független újságírói munka lenne, hiszen a Facebook-oldalak ismert német hírmédiumok nevét és arculatát bitorolják. A közelmúltban törölt felületek között akadt olyan, amely a Frankfurter Allgemeine Zeitung logóját használta törvénytelenül, de a Süddeutsche Zeitung is jelezte, hogy a nevében terjesztettek hamisított tartalmakat.
A jelenség messze túllép Németország határain, és világméretű iparággá nőtte ki magát. A Reset Tech nonprofit szervezet nyolchónapos kutatása során 6601 olyan fiókot vizsgált meg a Facebookon, a YouTube-on és a TikTokon, amelyek generatív algoritmusokkal előállított tartalmakkal és politikai kattintásvadászattal működnek. Ezek a profilok együttesen több mint 100 millió követőt gyűjtöttek össze, 962 ezer bejegyzést és videót tettek közzé, miközben elérték a négymilliárdos megtekintést. A kutatók egy kiterjedt nemzetközi üzleti modellt tártak fel, amely a mesterségesen gerjesztett politikai feszültségre épül. Az orosz befolyásolási kísérlet feltételezése kézenfekvőnek tűnik, hiszen a közzétett bejegyzések nagyrészt a Kreml narratíváját erősítik az ukrajnai fegyverszállítások, a szankciók, a német kormány és az Európai Unió bírálatával. A háttérben futó szálak feltárása során azonban kiderült, hogy sok esetben egy sokkal megszokottabb motiváció áll a gépezet mögött: a profitorientált üzlet.
A jelentés részletesen bemutat egy 257 egymással összekapcsolt Facebook-oldalból és 21 csoportból álló hálózatot, amely a német nyelvű felhasználókat látja el folyamatosan politikai tartalommal. A művelet irányítói túlnyomórészt Pakisztánban és az Egyesült Államokban működnek. Egy pakisztáni bejegyzésű vállalkozás közvetlenül összekapcsolható az oldalak egy részével, a fennmaradó profilokat pedig független digitális szerencsevadászok hálózata üzemelteti. Ezeknek az üzemeltetőknek egyáltalán nem kell ismerniük a német belpolitika finomságait, mivel a munka oroszlánrészét az elterjedt nyelvi modellek végzik el helyettük. A Reset Tech szakértői 520 olyan bejegyzést azonosítottak, ahol a másolási folyamatba hiba csúszott, így a német nyelvű szöveg mellett véletlenül ott maradtak az urdu nyelvű utasítások és válaszok. Egyik esetben a megadott parancs arra utasította a rendszert, hogy írjon lenyűgöző és nem unalmas szöveget, míg egy másik bejegyzésben a nyelvi modell felajánlotta a tartalom érzelmesebb vagy újságíróibb megfogalmazását.
A kikerülő végeredmény egy rendkívül egyszerű receptet követ a közösségi terekben. A hálózat által közzétett több mint 61 ezer bejegyzés vizsgálata azt mutatta, hogy a posztok 22 százaléka a bevándorlókkal és a muszlim közösséggel foglalkozott, döntően negatív megvilágításban. A tartalom 11 százaléka az ukrajnai háborút érintette, szinte kivétel nélkül a német pénzügyi és katonai segítségnyújtást bírálva. A leggyakrabban említett párt az Alternatíva Németországért volt, amelyet a kisemberek egyetlen hiteles képviselőjeként mutattak be a politikai elittel szemben. A német kancellár és pártja ezzel szemben folyamatos és éles támadások célpontjává vált a generált bejegyzésekben.
Ezeknek a közzétett anyagoknak elsősorban nem a meggyőzés a feladatuk, hanem az azonnali reakciók és érzelmi kitörések kikényszerítése. A felhasználóknak feltett kérdések – mint például Merz lemondásának szükségessége vagy Weidel kancellári alkalmassága – a mesterségesen előállított képek és videók alatt gyors érzelmi visszajelzésre ösztönöznek. A kutatók ezt a módszert reakciócsalinak nevezik. A vizsgált több tízezer bejegyzés összesen 27,2 millió interakciót generált, ami 23 millió reakcióból, 3,5 millió hozzászólásból és 640 ezer megosztásból tevődött össze. Ezzel párhuzamosan a hálózat folyamatosan növelte a kapacitását, az áprilisban előállított 25 ezer poszt már a nyolcvanszorosa volt a januári kibocsátásnak. A folyamat leglényegesebb eleme, hogy az oldalak több mint felénél sikerült bizonyítani a Meta pénzügyi ösztönző programjaiban való részvételt.
Ez a tény alapjaiban változtatja meg a megosztott tartalmak megítélését és hátterét. A Pakisztánban dolgozó tartalomgyártók számára a német fegyverszállítások bírálata pusztán jövedelemforrást jelent, anélkül, hogy azonosulnának a nézetekkel vagy az orosz állam megbízásából cselekednének. A rendszer működésének egyetlen feltétele a figyelem felkeltése és fenntartása, amit a közösségi platformok infrastruktúrája közvetlenül készpénzre vált. A nagy technológiai vállalatok által kiépített monetizációs hálózat fizet a sikeres tartalmakért, a YouTube pedig a reklámbevételekből részesíti a gyártókat. Az elérhető bevételek nagysága a megtekintésektől és az interakcióktól függ, ami folyamatos kísérletezésre ösztönzi az üzemeltetőket a leghatékonyabb felháborodáskeltő témák megtalálása érdekében.
Hasonló működési mintázatok figyelhetők meg a népszerű videómegosztó felületeken is. A szakértők által elemzett közel 62 ezer német nyelvű videó 43 százaléka már a címben megnevezett legalább egy aktív politikust vagy pártot. Friedrich Merz neve több mint 11 ezer címben szerepelt, míg az ellenzéki jobboldali párt és annak vezetője is sok ezres nagyságrendben tűnt fel. A videók jelentős része Merz és Weidel közvetlen párharcaként ábrázolta a politikai eseményeket. A felhasznált nyelvezet feltűnően szegényes és ismétlődő: a kancellárjelölt nevéhez szinte kivétel nélkül a veszít, összeomlik, lemondás, szakadék és pánik kifejezések társultak.
A működőképes üzleti modell elengedhetetlen kelléke a folyamatos konfliktus, a vereség és a pusztulás vizuális megjelenítése. Az Európai Uniót és Brüsszelt érintő videók túlnyomó többsége a széthullás, a megaláztatás és a kontrollvesztés képeivel dolgozik, mivel a túlzó megfogalmazások garantálják a magas átkattintási arányt. A generatív algoritmusok terjedése tovább csökkenti az előállítási költségeket, még a meglévő szigorúbb szabályozási kísérletek ellenére is. A biztonsági szűrők megkerülése technológiailag egyszerű, hiszen míg az európai unióból indított kérésekre a rendszerek megtagadják a politikusok manipulált képeinek elkészítését, az amerikai vagy pakisztáni IP-címekről indított folyamatok akadálytalanul legyártják a hamisítványokat. Így áll össze a teljes infrastruktúra, ahol a mesterséges intelligencia eszközei legyártják a kívánt szövegeket, a közösségi hálózatok terjesztik azokat, a hirdetési programok pedig kifizetik a sikeres gyártókat.