Gyermekbarát mesterséges intelligenciáért fogtak össze
Német katolikus és protestáns szervezetek közösen dolgoznak a fiatal felhasználókat védő digitális szabályokon. A kezdeményezés a megtévesztő tartalmak, az adatgyűjtés és az online zaklatás veszélyeire keres választ, a gyerekek bevonásával.
Közös kezdeményezést indítottak a német katolikus és protestáns egyház képviselői, valamint a gyermekeknek szóló internetes tartalmakat összefogó Seitenstark szervezet. A „KI kindgerecht!” elnevezésű együttműködés célja, hogy a mesterséges intelligenciát használó gyerekek számára biztonságosabb és érthetőbb digitális környezet jöjjön létre. A résztvevők magatartási kódexet és minőségi követelményeket szeretnének kidolgozni, miközben kötelező szolgáltatói szabályokat és a médiaműveltség fejlesztését is sürgetik. A program különlegessége, hogy a két nagy egyházi közösség világnézeti különbségeit félretéve gyermekvédelmi kérdésben lép fel együtt.
A mesterséges intelligencia egyre több olyan eszközben jelenik meg, amelyet kiskorúak is rendszeresen használnak. A tanulást segítő alkalmazások, a keresők, a játékok, a beszélgetőrobotok és a közösségi oldalak ajánlórendszerei gyakran észrevétlenül befolyásolják a felhasználói élményt. Egy gyerek számára különösen nehéz lehet felismerni, mikor beszél valós személlyel, mikor egy automatizált rendszerrel, és milyen céllal kap egy adott választ. Az életkori sajátosságokat figyelembe vevő tervezés ezért nem pusztán kényelmi szempont, hanem alapvető biztonsági követelmény.
A német kezdeményezés hátterében a dezinformáció, a mesterségesen előállított képek és hangok, az online behálózás, valamint az adatvédelem problémái állnak. A szervezők szerint a hagyományos szűrők és tiltások sokszor már nem elegendők az új típusú kockázatok kezelésére. Egy beszélgetőrobot képes személyre szabottnak tűnő választ adni, ami erősítheti a felhasználó bizalmát. A gyermekek esetében ez különösen érzékeny helyzetet teremt, mert a rendszer tévedéseit vagy manipulatív megoldásait nehezebben tudják ellenőrizni.
A programban a Német Püspöki Konferencia titkárságának egyházi és társadalmi területe, a Németországi Protestáns Egyház, valamint a Seitenstark vesz részt. A gyermekmédia-szervezet mintegy hatvan ellenőrzött gyermekweboldal hálózatát fogja össze. Ez a tapasztalat azért fontos, mert a biztonságos digitális szolgáltatás kialakításához pedagógiai, technológiai és gyermekjogi tudás egyaránt szükséges. A szervezők kutatókat, oktatókat, médiaszakembereket és fejlesztőket is be kívánnak vonni a munkába.
Az egyik legfontosabb elv a gyerekek részvétele. A felnőttek gyakran a fiatalok megkérdezése nélkül döntenek arról, milyen internetes tartalom megfelelő számukra. A kezdeményezés ezzel szemben azt hangsúlyozza, hogy a gyermekeknek lehetőséget kell adni saját tapasztalataik és kérdéseik megfogalmazására. Ez nem jelenti a felelősség áthárítását rájuk: a termékek biztonságáért továbbra is a fejlesztők, az üzemeltetők és a szabályozók felelnek. A részvétel arra szolgál, hogy a védelmi megoldások a tényleges használati helyzetekhez igazodjanak.
A Seitenstark már korábban is kísérletezett gyermekeknek szóló MI-eszközökkel. A KIBOMO elnevezésű projektet a hét és 13 év közötti korosztálynak szánják, és olyan chatbotot terveznek, amely a mesterséges intelligenciával kapcsolatos kérdésekre ellenőrzött, közérthető válaszokat ad. A fejlesztők reklámmentes környezetet, szerkesztőségileg ellenőrzött tudásbázist és beépített védelmi mechanizmusokat ígérnek. A nyáron ismertetett tervek szerint az eszköz 2026 telén válhat elérhetővé, ám a bevezetés időpontját a fejlesztés előrehaladása határozza meg.
A kezdeményezés különbséget tesz a teljes tiltás és a biztonságos hozzáférés között. A mesterséges intelligenciát a gyerekek a felnőttek világában is egyre gyakrabban látják, ezért a kizárás könnyen azzal járhat, hogy felügyelet nélküli, kevésbé ellenőrizhető megoldások felé fordulnak. A megfelelő alternatíva életkornak megfelelő tájékoztatást, adatminimalizálást, átlátható működést és könnyen elérhető emberi segítséget igényel. A szabályoknak azt is rögzíteniük kell, milyen témákban szükséges fokozott óvatosság vagy felnőtt bevonása.
Az egyházak részvétele a digitális gyermekvédelemben nem előzmények nélküli. Németországban a felekezeti intézmények jelentős szerepet játszanak az oktatásban, a családsegítésben és az ifjúsági munkában. Ezeken a területeken a digitális eszközök használata már mindennapos. A hitoktatásban, az egyházi iskolákban és a közösségi programokban is felmerül, milyen alkalmazásokat szabad ajánlani, hogyan kezelhetők a tanulók adatai, és miként lehet a technológiát úgy használni, hogy a személyes kapcsolatok ne szoruljanak háttérbe.
A katolikus társadalmi tanításban a személy méltósága, a közjó és a gyengébbek védelme olyan alapelvek, amelyek a digitális világra is alkalmazhatók. A mesterséges intelligencia körüli egyházi vita ezért gyakran az emberi döntési felelősségről szól. A technológia segítséget adhat a tanulásban és az információk rendszerezésében, de nem helyettesítheti a pedagógus, a szülő vagy a segítő szakember felelősségét. Különösen fontos ez olyan helyzetekben, amikor a gyerek személyes problémát, félelmet vagy bántalmazással kapcsolatos tapasztalatot oszt meg egy alkalmazással.
A szabályozási vita európai dimenziója is jelentős. Az uniós digitális jogszabályok a platformok felelősségét, a személyes adatok kezelését és az MI-rendszerek kockázatait különböző eszközökkel szabályozzák. A gyermekek védelme azonban a jogszabályok betartatásán, a nemzeti hatóságok munkáján és az iskolai gyakorlaton is múlik. Egy önkéntes kódex akkor lehet hasznos, ha világos követelményeket tartalmaz, függetlenül ellenőrizhető, és nem szolgál a kötelező jogi garanciák helyettesítésére.
A családok szempontjából a legnehezebb kérdések gyakorlatiak. Hogyan lehet megtudni, hogy egy alkalmazás tárolja-e a gyermek beszélgetéseit? Mit tehet a szülő, ha egy rendszer hamis vagy ijesztő választ ad? Kihez fordulhat a tanár, ha egy tanuló mesterségesen készített, megalázó képpel találkozik? A kezdeményezés sikerét az is mérheti majd, hogy a kidolgozott ajánlások mennyire segítenek ezekre a helyzetekre gyors, érthető és jogilag megalapozott választ találni.
A két német nagyegyház együttműködése arra is felhívja a figyelmet, hogy a digitális gyermekvédelemben széles társadalmi összefogásra van szükség. A fejlesztőknek technikai korlátokat, az oktatóknak használható módszereket, a szülőknek tájékoztatást, a hatóságoknak pedig számonkérhető követelményeket kell biztosítaniuk. A most elindított munka eredményei később más országok számára is tanulságosak lehetnek. A döntő próba az lesz, hogy az általános elvek valóban megjelennek-e a gyermekek által naponta használt alkalmazásokban.