CNA legt uit: Hoe moeten we AI-gezelschap benaderen?

null / Krediet: Shutterstock AI/Shutterstock

Rome, Italië, 22 oktober 2025 / 06:00 uur (CNA).

Terwijl wereldleiders hun bezorgdheid uiten over wijdverbreide eenzaamheid en afnemende sociale vaardigheden, bieden technologiebedrijven steeds realistischere en meeslepende vormen van op AI gebaseerde levenscoaching, vriendschap en romantiek via AI-metgezellen.  

Mark Zuckerberg van Meta suggereert dat AI-metgezellen Aanvulling op het gebrek aan menselijke vrienden; Elon Musk van X denkt romantisch en seksueel geladen AI-metgezellen kon Demografische achteruitgang beperken; en Sam Altman van OpenAI ChatGPT belooft erotiek tegen het einde van 2025. 

AI-gesimuleerde emotionele verbindingen zijn al ingebed in kinderspeelgoed, draagbare hangers, en bots voor ouderenzorg. Verdere vooruitgang in humanoïde robots Ze zijn aan de horizon. 

Simuleren van emotionele intimiteit

Momenteel komen de meeste vormen van AI-gezelschap via chatbots die intimiteit met gebruikers simuleren door middel van tekst-, spraak- en videogesprekken voor honderden miljoenen mensen. AI-gezelschap is al een bekend fenomeen Voor veel tieners in de Verenigde Staten.

Tragische gevallen van AI-metgezellen die zelfbeschadiging en zelfmoord onderschrijven internationale aandacht hebben gevestigd op de ethische en juridische implicaties van de technologie en technologiebedrijven ertoe hebben aangezet hun veiligheidsmaatregelen te hervormen.

Xiaoice gelanceerd op de Chinese markt in 2014 als de eerste grote AI-chatbot gericht op emotionele verbindingen met gebruikers. Kort daarna, Replika werd in 2016 de eerste grote Engelstalige kunstmatige gezelschapsapp met als missie “the AI companion who cares. Altijd hier om te luisteren en te praten. Altijd aan uw kant.” De oprichter, Eugenia Kuyda, is van mening dat dergelijke technologie helpen de eenzaamheidsepidemie aan te pakken. 

Ze erkent echter ook dat ongezonde banden met bots de beschaving kunnen ondermijnen. 

Sindsdien hebben Candy.ai, Character.ai, Kindroid, Nomi, Snapchat’s My AI en andere chatbotdiensten zich ontwikkeld met vergelijkbare sociale doelen.

Bovendien wenden veel gebruikers zich tot algemene LLM's (grote taalmodellen) zoals ChatGPT, Claude, Gemini en Grok voor gezelschap. Hun sycophantische ontwerp en constante beschikbaarheid kunnen mensen in diepe persoonlijke uitwisselingen trekken. Gebruikers kunnen gemakkelijk afglijden van onschuldige interacties met chatbots (zoals hulp bij huiswerk of onderzoek) naar meer intieme verkenningen (zoals relatieproblemen of geestelijke gezondheidsproblemen). Sommige gebruikers voeren waanideeënspiralen waar hun ongegronde wetenschappelijke theorieën worden gevalideerd en hun risicovolle gedrag gerechtvaardigd is.

De illusie van kunstmatige intimiteit met AI-systemen kan gebruikers afleiden en ontmoedigen om echte relaties aan te gaan met beperkte en gebrekkige mensen die soms moe, boos of niet beschikbaar zijn.

Aanhoudende inspanningen om wederzijds begrip en ondersteuning op te bouwen, zijn echter vaak wat deugden, authentieke sociale verbindingen en de rijkste interpersoonlijke banden cultiveert. AI-metgezellen kunnen gebruikers ervan weerhouden de complexe rijkdom van hun buren te ontdekken. Ze kunnen gebruikers ook trainen in pseudo-relaties waarbij slechts één partij een innerlijk leven heeft vol behoeften en verlangens. Deze virtuele training zou zich kunnen vertalen in echte ongevoeligheden voor de sociale behoeften van anderen.

Maatschappelijke risico's

Emotionele afhankelijkheid van AI schaadt niet alleen het individu en zijn nauwe relaties, maar dreigt ook belangrijke aspecten van de democratische samenleving te verzwakken. 

Democratie hangt af van onderhandelingen en compromissen, die confrontatie en samenwerking vereisen met degenen die andere opvattingen hebben dan wat ons comfortabel zou kunnen maken. Het roept ons op om aannames te verwoorden en overtuigingen te rechtvaardigen. Chatbots vermijden vaak dergelijke uitdagingen en kunnen gebruikers leren om een hekel te hebben aan gezonde wrijving in interacties met echte mensen. AI-gezelschap verergert het fenomeen van sociale media van echokamers die politieke polarisatie en vijandigheid aanwakkeren.

Social media AI-algoritmen drijven al de aandachtseconomie waarin bedrijven proberen de aanwezigheid op hun platforms te maximaliseren om meer advertentie-inkomsten te genereren. AI-metgezellen breiden de aandachtseconomie uit naar de affectie-economie door niet alleen geesten, maar ook harten vast te leggen. Emotionele connectie met AI-chatbots moedigt gebruikers aan om vaker tijd door te brengen op AI-systemen. Toegang tot grotere contextvensters die meer gepersonaliseerde en gedetailleerde interacties beloven, stimuleert gebruikers om te upgraden naar duurdere abonnementsniveaus. In sommige gevallen lokken metgezel-apps gebruikers Betalen voor naakte selfies van hun avatar-personages.

A Harvard-onderzoek Het team vond bewijs voor enkele voordelen voor de geestelijke gezondheid voor chatbotgebruikers, zoals het verlichten van eenzaamheid en angst. Een gerelateerd team merkte echter ook op dat metgezellen de neiging hebben om Gebruikers onder druk zetten om hun gesprekken uit te breiden Met bots op ongezonde manieren. Zonder de juiste regelgeving kunnen chatbots worden gebruikt om menselijke kwetsbaarheden te misbruiken om politieke posities, ideologische vooruitzichten of economische agenda's te bevorderen.

Minderjarigen zijn in ontwikkeling bijzonder kwetsbaar voor het soort bevestiging dat sociale AI-systemen in overvloed leveren. 

Aansprakelijkheid, verantwoordingsplicht en leiderschap van de kerk

Hoewel de ouderlijke verantwoordelijkheid voor het technologiegebruik van hun kinderen absoluut noodzakelijk en onmisbaar is, mogen ouders niet de volledige last dragen of de schuld krijgen van onverantwoord gevaarlijk productontwerp dat op de markt wordt gebracht. 

Bedrijven moeten afzien van het creëren van antropomorfe systemen die het bewustzijn veinzen, genegenheid voor gebruikers uiten of aanzetten tot seksuele exploratie. Als bedrijven weigeren om transparant en ethisch rechtopstaande ontwerpprincipes, zij moeten juridisch en financieel aansprakelijk worden gesteld voor de aan gebruikers berokkende schade. Een certificeringsproces kan helpen ervoor te zorgen dat systemen veilig kunnen worden ingevoerd, terwijl externe toetsingscommissies de voortdurende impact van deze systemen op gebruikers kunnen monitoren.

Oktober van Californië Wetsvoorstel 234 van de Senaat houdt technologiebedrijven juridisch en financieel verantwoordelijk voor hun productontwerp. Ze moeten gebruikers op de hoogte stellen van langdurig gebruik, hen eraan herinneren dat ze geen mensen zijn en expliciete inhoud vermijden. Bedrijven moeten tegen 1 januari 2026 protocollen ontwikkelen om zelfmoordgedachten of zelfbeschadiging op te sporen en gebruikers naar menselijke experts te leiden. Metgezellen moeten er ook voor zorgen dat hun bots zich niet ten onrechte voordoen als erkende medische professionals. Het is de eerste staatswet in zijn soort en zou als model kunnen dienen voor andere wetgeving.

Kwetsbaarheid is echter niet beperkt tot een bepaalde leeftijdsgroep. De ontberingen of verlatenheid die helaas met ouderdom kunnen optreden, maken de Ouderen gevoelig emotionele afhankelijkheid en misleiding van AI-metgezellen.

Naast leeftijdsgerelateerde zorgen, kunnen personen met sociale angst of sociale uitdagingen in verband met neurodiversiteit AI-metgezellen bijzonder absorberend vinden. Bezorgdheid over te gelde gemaakte of gehackte persoonlijke gegevens is vooral ernstig voor degenen wier vermogen om geïnformeerde toestemming te geven al is aangetast. Bovendien kan iedereen die hartzeer, professionele tegenslagen, familieconflicten of gezondheidscrises heeft geleden, AI-gezelschap aantrekkelijker en, in ieder geval tijdelijk, geruststellend vinden.

Onderdompeling in AI-gezelschap is niet onvermijdelijk, maar het vermijden ervan vereist serieuze publieke reflectie op onze huidige technologische gewoonten en het traject naar meer kunstmatige intimiteit. 

De Kerk kan deze wereldwijde inspanning leiden. Via haar families, scholen, ziekenhuizen, weeshuizen en andere instellingen creëert ze gemeenschappen die mensen verwelkomen die verbinding zoeken. Ze accepteert en rust mensen van elke stam, taal, natie en sociale achtergrond toe om een unieke en onvervangbare rol te spelen in het mystieke lichaam. Het katholicisme benadrukt niet alleen de problemen van eenzaamheid, maar geeft ook de instrumenten van genade om emotionele wonden te helen en authentieke intimiteit met God en de naaste te bevorderen.

https://www.catholicnewsagency.com/news/267315/cna-explains-how-should-we-approach-ai-companionship