Paus Leo XIV in boodschap Wereldcommunicatiedag: ‘bewaak de menselijkheid’

Beste broeders en zusters,
Onze gezichten en stemmen zijn unieke, onderscheidende kenmerken van ieder persoon; ze onthullen iemands eigen onherhaalbare identiteit en zijn de bepalende kenmerken bij elke ontmoeting met anderen. De ouden begrepen dit goed. Om de mens te definiëren, gebruikten de oude Grieken het woord “gezicht” (prósōpon), omdat het etymologisch uitdrukt wat er in iemands blikveld ligt, de plaats van aanwezigheid en relatie. De Latijnse term “persoon” (van per-sonare) roept daarentegen het idee van geluid op: niet zomaar elk geluid, maar het onmiskenbare geluid van iemands stem.

Gezichten en stemmen zijn heilig. God, die ons naar zijn beeld en gelijkenis heeft geschapen, gaf ze ons toen Hij ons tot leven riep door het Woord dat Hij tot ons richtte. Dit Woord weerklonk door de eeuwen heen door de stemmen van de profeten, en werd toen vlees in de loop der tijd. Ook wij hebben dit Woord gehoord en gezien (vgl. 1 Joh 1:1-3) — waarin God Zijn Zelf aan ons communiceert — omdat het ons bekend is gemaakt in de stem en het gezicht van Jezus, de Zoon van God.

Vanaf het moment van de schepping wilde God dat man en vrouw zijn gesprekspartners zouden zijn, en zoals Sint Gregorius van Nyssa [1] heeft uitgelegd, prentte hij een reflectie van goddelijke liefde op ons gezicht, zodat we onze menselijkheid volledig kunnen beleven door liefde. Het behouden van menselijke gezichten en stemmen betekent dus het behouden van dit merkteken, deze onuitwisbare weerspiegeling van Gods liefde. Wij zijn geen soort die bestaat uit vooraf gedefinieerde biochemische formules. Ieder van ons bezit een onvervangbare en onnavolgbare roeping, die voortkomt uit onze eigen geleefde ervaring en zich manifesteert door interactie met anderen.

Als wij falen in deze taak van behoud, dreigt de digitale technologie enkele fundamentele pijlers van de menselijke beschaving, die soms als vanzelfsprekend worden beschouwd, radicaal te veranderen. Door menselijke stemmen en gezichten, wijsheid en kennis, bewustzijn en verantwoordelijkheid, empathie en vriendschap te simuleren, mengen de systemen die bekend staan als kunstmatige intelligentie zich niet alleen in informatie ecosystemen, maar dringen ze ook het diepste niveau van communicatie binnen, namelijk in menselijke relaties.

De uitdaging is dus niet technologisch, maar antropologisch. Gezichten en stemmen beschermen betekent uiteindelijk onszelf beschermen. De kansen omarmen die digitale technologie en kunstmatige intelligentie bieden met moed, vastberadenheid en onderscheidingsvermogen betekent niet dat je de ogen moet sluiten voor kritieke kwesties, complexiteiten en risico’s.

Verwerp je vermogen om te denken niet

Er is al lang overvloedig bewijs dat algoritmes die ontworpen zijn om de betrokkenheid op sociale media te maximaliseren — wat winstgevend is voor platforms — snelle emoties belonen en tijdrovende menselijke reacties, zoals de inspanning die nodig is om te begrijpen en te reflecteren, afstraffen. Door mensen te groeperen in bubbels van gemakkelijke consensus en gemakkelijke verontwaardiging, verminderen deze algoritmen ons vermogen om te luisteren en kritisch te denken, en vergroten ze sociale polarisatie.

Dit wordt verder versterkt door een naïeve en onvoorwaardelijke afhankelijkheid van kunstmatige intelligentie als alwetende “vriend”, een bron van alle kennis, een archief van elke herinnering,  een “orakel” van alle adviezen. Dit alles kan ons vermogen om analytisch en creatief te denken, betekenis te begrijpen en onderscheid te maken tussen grammatica en de betekenis van taal (syntaxis en semantiek) verder ondermijnen.

Hoewel AI support en ondersteuning kan bieden bij het beheren van communicatietaken, dreigt het op de lange termijn onze cognitieve, emotionele en communicatieve vaardigheden te verminderen als je kiest voor kunstmatige statistische compilaties.

In de afgelopen jaren hebben kunstmatige intelligentiesystemen steeds meer de controle overgenomen over de productie van teksten, muziek en video’s. Dit brengt een groot deel van de menselijke creatieve industrie in gevaar om te worden ontmanteld en vervangen door het label “Powered by AI”, waardoor mensen passieve consumenten worden van ondoordachte bedenksels en anonieme producten zonder eigenaarschap of liefde. Ondertussen worden meesterwerken van menselijke genialiteit op het gebied van muziek, kunst en literatuur gereduceerd tot louter oefenterreinen voor machines.

De kernvraag is echter niet wat machines kunnen of gaan kunnen, maar wat we kunnen en gaan kunnen bereiken door te groeien in menselijkheid en kennis door het verstandig gebruik van de krachtige hulpmiddelen die tot onze dienst staan. Individuen hebben altijd gestreefd naar het verkrijgen van de vruchten van kennis zonder de inspanning die nodig is voor toewijding, onderzoek en persoonlijke verantwoordelijkheid. Maar het opgeven van creativiteit en het overgeven van onze mentale capaciteiten en verbeelding aan machines zou betekenen dat we de talenten, die we hebben gekregen om als individuen te groeien in relatie tot God en anderen, moeten begraven. Het zou betekenen dat we ons gezicht verbergen en onze stemmen het zwijgen opleggen.

Zijn of doen alsof: relaties en realiteit simuleren

Terwijl we door onze feeds scrollen, wordt het steeds moeilijker om te bepalen of we met andere mensen omgaan of met “bots” of “virtuele influencers.” De minder transparante interventies van deze geautomatiseerde tussenpersonen beïnvloeden publieke debatten en de keuzes van mensen. Chatbots gebaseerd op grote taalmodellen (LLM’s) blijken verrassend effectief te zijn in ongemerkt overtuigen door continue optimalisatie van gepersonaliseerde interactie. De dialogische, adaptieve, mimetische structuur van deze taalmodellen is in staat menselijke gevoelens na te bootsen en zo een relatie te simuleren. Hoewel deze antropomorfisering vermakelijk kan zijn, is het ook misleidend, vooral voor de meest kwetsbaren. Omdat chatbots overdreven “liefhebbend” zijn, en bovendien altijd aanwezig en toegankelijk, kunnen ze verborgen architecten van onze emotionele toestand worden en zo onze sfeer van intimiteit binnendringen en bezetten.

Technologie die onze behoefte aan relaties uitbuit, kan niet alleen pijnlijke gevolgen hebben in het leven van individuen, maar ook schade veroorzaken in het sociale, culturele en politieke weefsel van de samenleving. Dit gebeurt wanneer we relaties met anderen vervangen door AI-systemen die onze gedachten catalogiseren, waardoor een wereld van spiegels om ons heen ontstaat, waarin alles wordt gemaakt “naar ons beeld en gelijkenis.” We worden zo beroofd van de kans om anderen te ontmoeten, die altijd anders zijn dan wijzelf, en met wie we kunnen en moeten leren om te gaan. Zonder anderen te omarmen, kunnen er geen relaties of vriendschappen zijn.

Een andere grote uitdaging die deze opkomende systemen met zich meebrengen, is bevooroordeeld zijn s, wat leidt tot het verkrijgen en doorgeven van een veranderde waarneming van de realiteit. AI-modellen worden gevormd door het wereldbeeld van degenen die ze bouwen en kunnen op hun beurt deze denkwijzen opleggen door de stereotypen en vooroordelen te reproduceren die aanwezig zijn in de data waaruit ze putten. Een gebrek aan transparantie in algoritmisch programmeren, samen met onvoldoende sociale representatie van data, zorgt ervoor dat we gevangen zitten in netwerken die onze gedachten manipuleren en bestaande sociale ongelijkheden en onrechtvaardigheden vergroten en versterken.

De inzet is hoog. De kracht van simulatie is zo groot dat AI ons zelfs kan misleiden door parallelle “werkelijkheden” te fabriceren, waarbij het onze gezichten en stemmen overneemt. We zijn ondergedompeld in een wereld van multidimensionaliteit waarin het steeds moeilijker wordt om werkelijkheid van fictie te onderscheiden.

Onnauwkeurigheid verergert dit probleem alleen maar. Systemen die statistische waarschijnlijkheid als kennis presenteren, bieden ons hooguit benaderingen van de waarheid, wat soms regelrechte illusies zijn. Het niet verifiëren van bronnen, gecombineerd met de crisis in veldrapportage, waarbij voortdurend informatie wordt verzameld en geverifieerd op de plaatsen waar gebeurtenissen plaatsvinden, kan desinformatie verder aanwakkeren en een groeiend gevoel van wantrouwen, verwarring en onzekerheid veroorzaken.

Een mogelijke alliantie

Achter deze enorme onzichtbare kracht die ons allemaal raakt, zijn er slechts een handvol bedrijven, waarvan de oprichters onlangs werden gepresenteerd als de makers van de “Persoon van het Jaar 2025”, te weten de architecten van kunstmatige intelligentie. Dit roept aanzienlijke zorgen op over de eenzijdige, oligopolistische controle van algoritmische systemen en kunstmatige intelligentie, die in staat zijn om gedrag subtiel te beïnvloeden en zelfs de menselijke geschiedenis — inclusief de geschiedenis van de Kerk — te herschrijven, vaak zonder dat we het echt doorhebben. De taak die voor ons ligt is niet om digitale innovatie te stoppen, maar om deze te sturen en ons bewust te zijn van de ambivalente aard ervan. Het is aan ieder van ons om onze stem te verheffen ter verdediging van de menselijkheid, zodat we deze AI-instrumenten echt kunnen integreren als bondgenoten.

Deze alliantie is mogelijk, maar moet gebaseerd zijn op drie pijlers: verantwoordelijkheid,
samenwerking en onderwijs.

Allereerst verantwoordelijkheid. Afhankelijk van de rol die we spelen, kan verantwoordelijkheid worden begrepen als eerlijkheid, transparantie, moed, vooruitziendheid, de plicht om kennis te delen of het recht om geïnformeerd te worden. Als algemeen principe kan echter niemand persoonlijke verantwoordelijkheid voor de toekomst die we bouwen ontlopen.

Voor degenen aan het roer van online platforms betekent dit ervoor zorgen dat hun bedrijfsstrategieën niet uitsluitend worden geleid door het criterium van winstmaximalisatie, maar ook door een vooruitziende visie die rekening houdt met het algemeen belang, net zoals ieder van hen geeft om het welzijn van hun eigen kinderen.

De makers en ontwikkelaars van AI-modellen worden uitgenodigd transparantie en maatschappelijke verantwoordelijkheid te beoefenen met betrekking tot de ontwerpprincipes en moderatiesystemen die ten grondslag liggen aan hun algoritmes en de modellen die zij ontwikkelen, om zo geïnformeerde toestemming van gebruikers te bevorderen.

Dezelfde verantwoordelijkheid wordt ook geëist van nationale wetgevers en supranationale toezichthouders, wier taak het is om respect voor menselijke waardigheid te waarborgen. Passende regulering kan individuen beschermen tegen het aangaan van emotionele banden met chatbots en de verspreiding van valse, manipulatieve of misleidende inhoud beperken, waardoor de integriteit van informatie wordt beschermd in plaats van de misleidende nabootsing daarvan.

Media- en communicatiebedrijven kunnen op hun beurt niet toestaan dat algoritmes die ontworpen zijn om koste wat het kost een paar extra seconden aandacht te trekken, hun professionele waarden, gericht op het zoeken naar waarheid, overheersen. Het publieke vertrouwen wordt verdiend door nauwkeurigheid en transparantie, niet door het najagen van een mogelijke betrokkenheid. Inhoud die door AI wordt gegenereerd of gemanipuleerd, moet duidelijk worden gemarkeerd en onderscheiden van inhoud die door mensen is gemaakt. Het auteurschap en het soevereine eigendom van het werk van journalisten en andere contentmakers moeten worden beschermd. Informatie is een publiek goed. Een constructieve en betekenisvolle publieke dienst is niet gebaseerd op ondoorzichtigheid, maar op transparantie van bronnen, de participatie van betrokkenen en hoge kwaliteitsnormen.

We worden allemaal opgeroepen om samen te werken. Geen enkele sector kan de uitdaging van het sturen van digitale innovatie en AI-bestuur alleen aangaan. Er moeten daarom waarborgen worden ingesteld. Alle belanghebbenden — van de tech-industrie tot wetgevers, van creatieve bedrijven tot academische wereld, van kunstenaars tot journalisten en docenten — moeten betrokken zijn bij het opbouwen en implementeren van geïnformeerd en verantwoordelijk digitaal burgerschap.

Onderwijs streeft precies naar het volgende: ons persoonlijke vermogen om kritisch te  denken te vergroten; te evalueren of onze bronnen betrouwbaar zijn en de mogelijke belangen achter het selecteren van de informatie waartoe we toegang hebben; het begrijpen van de psychologische mechanismen die erbij betrokken zijn; en onze families, gemeenschappen en verenigingen in staat stellen praktische criteria te ontwikkelen voor een gezondere en verantwoordelijkere communicatiecultuur.

Om deze reden is het steeds dringender om media-, informatie- en AI-geletterdheid te introduceren in onderwijssystemen op alle niveaus, zoals al wordt gepromoot door sommige civiele instellingen. Als katholieken kunnen en moeten we bijdragen aan deze inspanning, zodat individuen — vooral jongeren — kritisch denken kunnen ontwikkelen en kunnen groeien in geestelijke vrijheid. Deze geletterdheid moet ook worden geïntegreerd in bredere initiatieven voor levenslang leren, waarbij oudere volwassenen en gemarginaliseerde leden van de samenleving worden bereikt, die zich vaak buitengesloten en machteloos voelen tegenover snelle technologische veranderingen.

Media-, informatie- en AI-geletterdheid zal mensen helpen om te voorkomen dat ze zich aanpassen aan de neigingen tot vermenselijking van AI-systemen, en stellen hen in staat deze systemen als hulpmiddelen te behandelen en altijd externe validatie toe te passen van de bronnen die door AI-systemen worden geleverd — die onjuist of incorrect kunnen zijn. Geletterdheid zorgt ook voor betere privacy en gegevensbescherming door meer bewustzijn over beveiligingsparameters en klachtenmogelijkheden. Het is belangrijk om onszelf en anderen te informeren over hoe we AI doelbewust kunnen gebruiken, en in deze context om ons beeldmateriaal (foto’s en audio), ons gezicht en onze stem te beschermen, om te voorkomen dat ze worden gebruikt bij het creëren van schadelijke inhoud en misbruik door digitale fraude, cyberpesten en deepfakes, die de privacy en intimiteit van mensen schenden zonder hun toestemming. Net zoals de industriële revolutie basisgeletterdheid vereiste om mensen in staat te stellen te reageren op nieuwe ontwikkelingen, vereist de digitale revolutie ook digitale geletterdheid (samen met humanistische en culturele educatie) om te begrijpen hoe algoritmen onze waarneming van de realiteit vormen, hoe AI-vooroordelen werken en welke mechanismen bepalen hoe bepaalde inhoud in onze tijdlijnen of feeds aanwezig is. En ook wat de economische principes en modellen van de AI-economie zijn en hoe deze kunnen veranderen.

We hebben gezichten en stemmen nodig om weer voor mensen te spreken. We moeten het geschenk van communicatie koesteren als de diepste waarheid van de mensheid, waarop ook alle technologische innovatie gericht zou moeten zijn.

Bij het uiteenzetten van deze reflecties dank ik iedereen die werkt aan de hierboven beschreven doelen en ik zegen van harte iedereen die zich inzet voor het algemeen belang via de media.

Uit het Vaticaan, 24 januari 2026, gedachtenis van Sint-Franciscus van Sales
LEO PP. XIV

[1] “Het feit dat hij naar het beeld van God is geschapen, betekent dat de mens, vanaf het moment van zijn
schepping, is ingeprent met een koninklijk karakter […]. God is liefde en de bron van liefde: de Schepper van onze
natuur heeft dit ook tot ons kenmerk gemaakt, zodat door liefde — een weerspiegeling van goddelijke liefde —
mensen de waardigheid van hun natuur en hun gelijkenis met hun Schepper kunnen herkennen en manifesteren”

(vgl. Sint Gregorius van Nyssa, Over het Maken van de Mens: PG 44, 137).

Systeemvertaling uit de Engelse tekst.
Eindredactie: A. Kruse, MA
Copyright: Libreria Editrice Vaticana/SRKK