Az emberi hangok és arcok megőrzése

Kedves Testvéreim!

Az arc és a hang minden személy egyedi, megkülönböztető jegyei. Kifejezik megismételhetetlen identitását, és minden találkozás alkotóelemei. Ezt az ókoriak jól tudták. Ezért az emberi személy meghatározására az ókori görögök az arc (proszópon) szót használták, amely eredetét tekintve azt jelenti: ’ami a tekintet előtt áll’, ’a jelenlét és a kapcsolat helye’. A személyt jelentő latin persona kifejezés (a per-sono igéből) ezzel szemben a hangot foglalja magában: nem akármilyen hangot, hanem valakinek az összetéveszthetetlen hangját.

Az arc és a hang szent. Istentől kaptuk őket, aki saját képére és hasonlatosságára teremtett bennünket, és azzal az Igével hívott életre, amelyet ő maga intézett hozzánk. Ez az Ige először a próféták hangján szólalt meg az évszázadok során, majd az idők teljességében testté lett. Ezt az Igét – Istennek ezt az önközlését – közvetlenül is hallhattuk és láthattuk (vö. 1Jn 1,1–3), mert megismertette magát Jézusnak, Isten Fiának a hangjában és arcában.

Isten az embert teremtésének pillanatától fogva saját beszélgetőtársának akarta, és – amint Nüsszai Szent Gergely mondja[1] – arcára véste az isteni szeretet visszfényét, hogy a szeretet által teljesen megélhesse saját emberségét. Az emberi arcok és hangok megőrzése ezért ennek a pecsétnek, Isten szeretete eme eltörölhetetlen visszfényének a megőrzését jelenti. Nem előre meghatározott biokémiai algoritmusokból álló faj vagyunk. Mindegyikünknek pótolhatatlan és utánozhatatlan hivatása van, amely az élet során bontakozik ki, s éppen a másokkal való kommunikációban nyilvánul meg.

Ha elmulasztjuk ezt az őrzést, fennáll a veszélye, hogy a digitális technológia gyökeresen megváltoztatja az emberi civilizáció néhány alappillérét, melyeket olykor magától értődőnek veszünk. Az emberi hangok és arcok, bölcsesség és tudás, tudatosság és felelősség, empátia és barátság szimulálásával a mesterséges intelligenciaként ismert rendszerek nemcsak az információs ökoszisztémákba avatkoznak be, hanem a kommunikáció legmélyebb szintjét, az emberi személyek közötti kapcsolat szintjét is birtokba veszik.

A kihívás tehát nem technológiai, hanem antropológiai. Az arcok és a hangok megőrzése végső soron önmagunk megőrzését jelenti. A digitális technológia és a mesterséges intelligencia által kínált lehetőségek bátor, eltökélt és megkülönböztető elfogadása nem jelenti azt, hogy ne vennénk tudomást a kritikus pontokról, a homályos területekről és a kockázatokról.

Ne mondjunk le saját gondolkodásunkról

Régóta számos bizonyíték van arra, hogy a közösségi médiába történő bevonás – a platformok számára jövedelmező – maximalizálására tervezett algoritmusok a gyors érzelmeknek kedveznek, míg háttérbe szorítják azokat az emberi megnyilvánulásokat, amelyek több időt igényelnek, mint például a megértésre irányuló erőfeszítést és az elmélyült gondolkodást. Ezek az algoritmusok azáltal, hogy a könnyű egyetértés és a könnyű felháborodás buborékaiba zárnak embercsoportokat, gyengítik a meghallgatás és a kritikai gondolkodás képességét, és fokozzák a társadalmi polarizációt.

Ehhez társult a naiv és kritikátlan bizalom a mesterséges intelligenciában mint mindentudó „barátban”, minden információ osztogatójában, minden emlék tárolójában és minden tanács „orákulumában”. Mindez tovább gyengítheti azt a képességünket, hogy elemző és kreatív módon gondolkodjunk, hogy megértsük a jelentéseket, hogy különbséget tegyünk szintaxis és szemantika között.

Noha a mesterséges intelligencia támogatást és segítséget nyújthat kommunikációs feladatok megoldásában, ha kivonjuk magunkat saját gondolkodásunk erőfeszítése alól, és megelégszünk egy mesterséges statisztikai összeállítással, az hosszú távon kognitív, érzelmi és kommunikációs képességeink fokozatos leépüléséhez vezethet.

Az utóbbi években a mesterséges intelligencia rendszerei egyre inkább átveszik a szövegek, a zene és a videók előállításának irányítását is. Így fennáll a veszélye annak, hogy az emberi alkotótevékenységhez kötődő iparágak nagy részét leépítik, és „Powered by AI” [Készült a MI segítségével] megjelöléssel váltják fel, az embereket pedig nem gondolt gondolatok, névtelen, szerzőség és szeretet nélküli tartalmak merőben passzív fogyasztóivá teszik. Így az emberi szellem remekművei a zene, a művészet és az irodalom területén pusztán a gépek betanításának terepévé silányulnak.

A minket foglalkoztató kérdés mindazonáltal nem az, hogy mire képes vagy mire lesz képes a gép, hanem az, mire vagyunk és mire leszünk képesek mi – emberségben és tudásban növekedve – az ilyen nagy erejű, bennünket szolgáló eszközök bölcs használata révén.

Az embert kezdettől fogva kísérti a vágy, hogy a tudás gyümölcséhez anélkül jusson hozzá, hogy vállalná a belefektetett munka, a keresés és a személyes felelősség terhét. Ha azonban lemondunk az alkotófolyamatról, és átengedjük a gépeknek saját értelmi funkcióinkat és képzeletünket, azzal elássuk talentumainkat, melyeket arra kaptunk, hogy személyként növekedjünk az Istenhez és másokhoz fűződő kapcsolatunkban. Azt jelenti, hogy elrejtjük arcunkat, és elnémítjuk hangunkat.

Lenni vagy színlelni: a kapcsolatok és a valóság szimulációja

Ahogy hírfolyamainkat (feedjeinket) görgetjük, egyre nehezebb eldönteni, hogy valódi emberekkel lépünk-e kapcsolatba, vagy inkább „botokkal” és „virtuális influenszerekkel”. Ezeknek az automatizált szereplőknek a nem átlátható beavatkozásai befolyásolják a közéleti vitákat és az emberek döntéseit. Különösen a nagy nyelvi modelleken (Large Language Model) alapuló chatbotok bizonyulnak meglepően hatékonynak a rejtett befolyásolásban, a személyre szabott interakció folyamatos optimalizálása révén. E nyelvi modellek párbeszédes, alkalmazkodó és mimetikus szerkezete képes utánozni az emberi érzelmeket, és így kapcsolatot szimulálni. Ugyanakkor ez az antropomorfizálás, mely akár szórakoztatónak is tűnhet, megtévesztő, különösen a sebezhetőbb személyek számára, mert a túlzottan „szeretetteljesre” formált chatbotok – azon túl, hogy mindig jelen vannak és rendelkezésre állnak – érzelmi állapotaink rejtett alakítóivá válhatnak, s így behatolhatnak az ember intimszférájába, és elfoglalhatják azt.

A kapcsolat iránti szükségletünket kihasználó technológia nemcsak az egyének sorsára nézve járhat fájdalmas következményekkel, hanem a társadalmak társadalmi, kulturális és politikai szövetét is megbontja. Ez akkor történik, amikor a más emberekkel való kapcsolatokat a mesterséges intelligenciával kialakított kapcsolatokkal helyettesítjük, melyeket gondolataink feltérképezésére képeztek ki, és amelyek így egy olyan tükörvilágot építenek körénk, ahol minden „a képünkre és hasonlatosságunkra” készül. Ily módon megfosztjuk magunkat annak lehetőségétől, hogy találkozzunk a másikkal, aki mindig különbözik tőlünk, és akivel szembenézhetünk és akivel meg is kell tanulnunk szembenézni. A másság elfogadása nélkül nem létezhet sem kapcsolat, sem barátság.

Ezeknek az újonnan megjelenő rendszereknek egy másik nagy kihívása a torzítás (angolul bias), mely a valóság torz észleléséhez és közvetítéséhez vezet. A mesterséges intelligencia modelljei alkotóik világnézetét tükrözik, s ezért gondolkodásmódokat kényszeríthetnek ránk azáltal, hogy megismétlik azokat a sztereotípiákat és előítéleteket, amelyek az általuk felhasznált adatokban jelen vannak. Az algoritmusok tervezésének átláthatatlansága, valamint az adatok nem megfelelő társadalmi reprezentativitása könnyen oda vezethet, hogy olyan hálózatok csapdájába esünk, amelyek manipulálják gondolatainkat, és fenntartják, sőt tovább erősítik a társadalmi egyenlőtlenségeket és igazságtalanságokat.

A kockázat nagy. A szimuláció ereje olyan nagy, hogy a mesterséges intelligencia párhuzamos „valóságok” előállításával meg is téveszthet bennünket, kisajátítva arcunkat és hangunkat. Egy olyan többdimenziós világban élünk, ahol egyre nehezebb különbséget tenni valóság és fikció között.

Ehhez társul a pontatlanság problémája. A statisztikai valószínűséget tudásként feltüntető rendszerek valójában legfeljebb az igazság megközelítéseit kínálják számunkra, melyek olykor valódi „hallucinációk”. A források ellenőrzésének hiánya, együtt a helyszíni újságírás válságával – amely az események helyszínén végzett folyamatos információgyűjtő és -ellenőrző munkát igényel –, még inkább kedvez a dezinformációnak, valamint fokozza a bizalmatlanságot, a tanácstalanságot és a bizonytalanságot.

Egy lehetséges szövetség

E mögött a hatalmas, láthatatlan erő mögött, mely mindnyájunk életére hatással van, csupán néhány vállalat áll: azok, amelyeknek alapítóit nemrégiben úgy mutatták be, mint „az év embere 2025-ben” – a mesterséges intelligencia megalkotói. Ez komoly aggodalomra ad okot, mert az algoritmusokon és mesterséges intelligencián alapuló rendszerek feletti ellenőrzés egy szűk kör kezében van, miközben ezek képesek észrevétlenül irányítani az emberi viselkedést, sőt képesek az emberiség – és az Egyház – történelmét is újraírni, gyakran anélkül, hogy ennek valóban tudatában lennénk.

Az előttünk álló kihívás nem a digitális innováció megállítása, hanem annak irányítása, ambivalens jellegének tudatosítása. Mindannyiunknak fel kell emelnünk szavunkat az emberi személy védelmében, hogy ezek az eszközök valóban szövetségeseinkké válhassanak.

Ez a szövetség lehetséges, de három pilléren kell nyugodnia: a felelősségen, az együttműködésen és a nevelésen.

Mindenekelőtt a felelősségen. Ez attól függően, hogy ki milyen szerepet tölt be, megjelenhet becsületességben, átláthatóságban, bátorságban, jövőbe tekintő gondolkodásban, a tudás megosztásának kötelességében vagy éppen a hiteles tájékoztatáshoz való jogban. Végső soron senki sem bújhat ki a közösen alakított jövőért viselt felelősség alól.

Az online platformok irányítói számára ez annak biztosítását jelenti, hogy üzleti stratégiáikat ne kizárólag a profit maximalizálásának szempontja vezérelje, hanem egy olyan előrelátó szemlélet is, amely tekintettel van a közjóra, ugyanúgy, ahogyan mindegyikük szívén viseli saját gyermekei javát.

A mesterséges intelligencia modelljeinek alkotóitól és fejlesztőitől a társadalom átláthatóságot és társadalmi felelősséget vár el a tervezési elveik, illetve az algoritmusaik és fejlesztett modelljeik alapját képező moderációs rendszerek tekintetében, hogy ez elősegítse a felhasználók tájékozott beleegyezését.

Ugyanez a felelősség hárul az egyes országok törvényhozóira és a nemzetek feletti szabályozó szervekre, melyeknek őrködniük kell az emberi méltóság tiszteletben tartása felett. A megfelelő szabályozás megvédheti az embereket a chatbotokhoz való érzelmi kötődéstől, és visszaszoríthatja a hamis, manipulatív vagy félrevezető tartalmak terjedését, megőrizve az információ épségét annak megtévesztő szimulációjával szemben.

A média- és kommunikációs vállalatok sem engedhetik meg maguknak, hogy a néhány másodperccel több figyelemért folytatott harcban mindenáron győzni akaró algoritmusok felülkerekedjenek az igazság keresésére irányuló szakmai értékeikhez való hűségükön. A közönség bizalmát pontossággal és átláthatósággal lehet elnyerni, nem pedig az elköteleződés minden áron való hajszolásával. Világosan jelezni kell, ha egy tartalmat mesterséges intelligenciával készítettek vagy módosítottak, és világosan meg kell különböztetni az emberek által létrehozott tartalmaktól. Védelemben kell részesíteni az újságírók és más tartalomkészítők szellemi tulajdonjogát és alkotásaik feletti rendelkezési jogát. Az információ közjó. Az építő és valóban értékes közszolgálat nem a homályosságon, hanem a források átláthatóságán, az érintettek bevonásán és a magas szakmai színvonalon alapul.

Mindannyian az együttműködésre kaptunk meghívást. Egyetlen ágazat sem képes egyedül megbirkózni a digitális innováció és a mesterséges intelligencia irányításának kihívásával. Ezért védelmi mechanizmusokat kell létrehozni. Minden szereplőnek – a technológiai ipartól a törvényhozókig, a tartalomgyártó vállalkozásoktól a tudományos élet képviselőiig, a művészektől az újságírókig és az oktatókig – részt kell vennie egy tudatos és felelős digitális állampolgárság kialakításában és megerősítésében.

A nevelés célja éppen ez: hogy fejlessze személyes képességünket a kritikus gondolkodásra, a források hitelességének megítélésére, a hozzánk eljutó információk kiválasztása mögött álló lehetséges érdekek felismerésére, a működésbe lépő pszichés mechanizmusok megértésére, valamint arra, hogy családjaink, közösségeink és egyesületeink gyakorlati kritériumokat tudjanak kidolgozni egy egészségesebb és felelősebb kommunikációs kultúra érdekében.

Épp ezért egyre sürgetőbb, hogy az oktatás minden szintjén bevezessék a médiatudatosságra, az információkezelésre és a mesterséges intelligencia használatára való nevelést, melyet egyes civil intézmények már ma is támogatnak. Katolikusként hozzájárulhatunk és hozzá is kell járulnunk ahhoz, hogy az emberek – különösen a fiatalok – elsajátítsák a kritikus gondolkodás képességét, és növekedjenek a szellemi szabadságban. Továbbá ezt a tudatos használatra való nevelést szélesebb körű, élethosszig tartó nevelési kezdeményezésekbe kell integrálni, és el kell érni az időseket és a társadalom peremére szorultakat is, akik gyakran kirekesztettnek és tehetetlennek érzik magukat a gyors technológiai változásokkal szemben.

A médiatudatosságra, az információkezelésre és a mesterséges intelligencia használatára való nevelés segítsen mindenkinek abban, hogy ellenálljon e rendszerek antropomorfizáló sodrásának, és eszközként kezelje őket; hogy mindig külső források alapján is ellenőrizze a mesterséges intelligencia által nyújtott információkat, melyek pontatlanok vagy hibásak is lehetnek; és hogy a biztonsági paraméterek és a jogorvoslati lehetőségek ismeretében megvédje magánszféráját és személyes adatait. Fontos, hogy neveljünk és nevelődjünk a mesterséges intelligencia tudatos használatára, és ebben az összefüggésben óvjuk saját képünket (fotóinkat és hangfelvételeinket), saját arcunkat és saját hangunkat, hogy azokat ne használják fel káros tartalmak és magatartásformák – például digitális csalások, netes zaklatás vagy a magán- és intimszférát beleegyezés nélkül sértő deepfake-ek – létrehozására. Ahogyan az ipari forradalom alapműveltséget igényelt ahhoz, hogy az emberek alkalmazkodni tudjanak az új helyzetekhez, úgy a digitális forradalom digitális műveltséget igényel (humán és kulturális képzéssel együtt), hogy megértsük, miként alakítják az algoritmusok a valóságról alkotott képünket, hogyan működnek a mesterséges intelligencia előítéletei, milyen mechanizmusok határozzák meg bizonyos tartalmak megjelenését hírfolyamainkban (feedjeinkben), és milyen gazdasági előfeltevésekre és modellekre épül a mesterséges intelligencia gazdasága, illetve ezek hogyan változhatnak.

Szükségünk van arra, hogy az arc és a hang ismét a személyt fejezze ki. Szükségünk van arra, hogy őrizzük a kommunikáció ajándékát mint az ember legmélyebb igazságát, amelyhez minden technológiai innovációt is igazítanunk kell.

Ezeket a gondolatokat megosztva köszönetet mondok mindazoknak, akik az itt megfogalmazott célok elérése érdekében munkálkodnak, és szívből adom áldásomat mindazokra, akik a kommunikáció eszközeivel szolgálják a közjót.

Kelt a Vatikánban, 2026. január 24-én, Szalézi Szent Ferenc emléknapján.

XIV. Leó pápa