CNA erklärt: Wie sollten wir die KI-Begleiterschaft angehen?

null / Gutschrift: Shutterstock AI/Shutterstock

Rom, Italien, 22. Oktober 2025 / 06:00 Uhr (CNA).

Während die führenden Politiker der Welt Bedenken über weit verbreitete Einsamkeit und sinkende soziale Fähigkeiten äußern, bieten Technologieunternehmen zunehmend realistische und immersive Formen von KI-basiertem Lebenscoaching, Freundschaft und Romantik durch KI-Begleiter an.  

Mark Zuckerberg von Meta schlägt vor, dass KI-Begleiter Ergänzen Sie den Mangel an menschlichen Freunden; X's Elon Musk denkt romantisch und sexuell aufgeladene KI-Begleiter könnte Demografischen Rückgang abmildern; und Sam Altman von OpenAI ChatGPT verspricht Erotik bis Ende 2025. 

KI-simulierte emotionale Verbindungen sind bereits eingebettet in Kinderspielzeug, Tragbare Anhänger, und Altenpflege-Bots. Weitere Fortschritte in humanoide Roboter Sie sind am Horizont. 

Emotionale Intimität simulieren

Derzeit kommen die meisten formen der ki-kameradschaft durch chatbots, die die intimität mit nutzern durch text-, sprach- und videogespräche für hunderte von millionen menschen simulieren. KI-Begleiterschaft ist bereits ein bekanntes Phänomen Für viele Teenager in den USA.

Tragische Fälle von KI-Begleitern, die Selbstverletzung und Selbstmord befürworten haben internationale Aufmerksamkeit auf die ethischen und rechtlichen Auswirkungen der Technologie gelenkt und Technologieunternehmen dazu veranlasst, ihre Sicherheitsmaßnahmen zu reformieren.

Xiaoice Der erste große KI-Chatbot, der 2014 auf dem chinesischen Markt eingeführt wurde, konzentrierte sich auf emotionale Verbindungen zu Nutzern. Kurz danach, Replika wurde 2016 die erste große englischsprachige App für künstliche Kameradschaft mit der Mission, „der KI-Begleiter zu sein, der sich kümmert. Immer hier, um zuzuhören und zu reden. Immer auf Ihrer Seite.“ Ihre Gründerin Eugenia Kuyda glaubt, dass eine solche Technologie Hilfe bei der Bekämpfung der Einsamkeitsepidemie. 

Sie räumt jedoch auch ein, dass ungesunde Bindungen zu Bots die Zivilisation untergraben könnten. 

Seitdem haben sich Candy.ai, Character.ai, Kindroid, Nomi, My AI von Snapchat und andere Chatbot-Dienste mit ähnlichen sozialen Zielen entwickelt.

Darüber hinaus wenden sich viele Benutzer an universelle LLMs (große Sprachmodelle) wie ChatGPT, Claude, Gemini und Grok für die Kameradschaft. Ihr sykophantisches Design und ihre ständige Verfügbarkeit können Menschen in einen zutiefst persönlichen Austausch ziehen. Benutzer können leicht von unschuldigen interaktionen mit chatbots (wie hilfe bei hausaufgaben oder forschung) zu intimeren erkundungen (wie beziehungsproblemen oder psychischen bedenken) driften. Einige Benutzer betreten Wahnspiralen wo ihre unbegründeten wissenschaftlichen Theorien validiert werden und ihr riskantes Verhalten gerechtfertigt ist.

Die Illusion künstlicher Intimität mit KI-Systemen kann Benutzer davon ablenken und davon abhalten, echte Beziehungen zu begrenzten und fehlerhaften Menschen aufzubauen, die manchmal müde, wütend oder nicht verfügbar sind.

Hartnäckige bemühungen, gegenseitiges verständnis und unterstützung aufzubauen, sind jedoch oft das, was tugenden, authentische soziale verbindungen und die reichsten zwischenmenschlichen bindungen kultiviert. KI-Begleiter können Benutzer daran hindern, den komplexen Reichtum ihrer Nachbarn zu entdecken. Sie können Benutzer auch in Pseudobeziehungen schulen, in denen nur eine Partei ein inneres Leben voller Bedürfnisse und Wünsche hat. Dieses virtuelle Training könnte zu realen Unempfindlichkeiten gegenüber den sozialen Bedürfnissen anderer führen.

Gesellschaftliche Risiken

Die emotionale Abhängigkeit von KI-Begleitern schadet nicht nur dem Einzelnen und seinen engen Beziehungen, sondern birgt auch die Gefahr, wichtige Aspekte der demokratischen Gesellschaft zu schwächen. 

Demokratie hängt von Verhandlungen und Kompromissen ab, die Konfrontation und Zusammenarbeit mit denen erfordern, die andere Ansichten haben als das, was uns bequem machen könnte. Es fordert uns auf, Annahmen zu artikulieren und Überzeugungen zu rechtfertigen. Chatbots vermeiden oft solche herausforderungen und können benutzern beibringen, gesunde reibungen in interaktionen mit echten menschen zu ärgern. KI-Kameradschaft verschlimmert das Social-Media-Phänomen der Echokammern, die politische Polarisierung und Feindseligkeit anheizen.

Social-Media-KI-Algorithmen treiben bereits die Aufmerksamkeitsökonomie voran, in der Unternehmen versuchen, die Präsenz auf ihren Plattformen zu maximieren, um höhere Werbeeinnahmen zu generieren. KI-Begleiter erweitern die Aufmerksamkeitsökonomie in die Zuneigungsökonomie, indem sie nicht nur Köpfe, sondern auch Herzen erfassen. Die emotionale Verbindung zu KI-Chatbots ermutigt die Benutzer, häufiger Zeit auf KI-Systemen zu verbringen. Der Zugriff auf größere Kontextfenster, die personalisiertere und detailliertere Interaktionen versprechen, bietet Benutzern Anreize für ein Upgrade auf Preisabonnementstufen. In einigen Fällen locken Begleit-Apps Benutzer an Nackte Selfies bezahlen Ihre Avatar-Charaktere.

A Harvard-Forschung Das team fand beweise für einige psychische vorteile für chatbot-nutzer, wie die linderung von einsamkeit und angstzuständen. Ein verwandtes Team beobachtete jedoch auch, dass Begleiter dazu neigen, Druck auf die Benutzer, ihre Gespräche zu erweitern Mit Bots auf ungesunde Weise. Ohne angemessene Regulierung können Chatbots verwendet werden, um menschliche Schwachstellen auszunutzen, um politische Positionen, ideologische Perspektiven oder wirtschaftliche Agenden voranzutreiben.

Minderjährige sind in der Entwicklung besonders anfällig für die Art von Bestätigung, die soziale KI-Systeme tendenziell in Hülle und Fülle liefern. 

Haftung, Rechenschaftspflicht und Führung der Kirche

Während die elterliche Verantwortung für den Technologieeinsatz ihrer Kinder unerlässlich und unerlässlich ist, sollten Eltern nicht die gesamte Last tragen oder für unverantwortlich gefährliche Produktdesigns verantwortlich gemacht werden, die auf den Markt gebracht werden. 

Unternehmen sollten davon absehen, anthropomorphe Systeme zu schaffen, die Bewusstsein vortäuschen, Zuneigung zu den Nutzern ausdrücken oder sexuelle Erkundungen anregen. Wenn Unternehmen sich weigern, transparente und ethisch aufrechte Gestaltungsprinzipien, Sie sollten rechtlich und finanziell für den den Nutzern entstandenen Schaden haftbar gemacht werden. Ein Zertifizierungsprozess könnte dazu beitragen, dass Systeme sicher eingesetzt werden können, während externe Prüfgremien die anhaltenden Auswirkungen dieser Systeme auf die Benutzer überwachen könnten.

Oktober in Kalifornien Senatsgesetz 234 Tech-Unternehmen sind rechtlich und finanziell für ihr Produktdesign verantwortlich. Sie müssen die Benutzer über eine längere Nutzung informieren, sie daran erinnern, dass sie nicht menschlich sind, und explizite Inhalte vermeiden. Unternehmen müssen bis zum 1. Januar 2026 Protokolle entwickeln, um Selbstmordgedanken oder Selbstverletzungen zu erkennen und Benutzer zu menschlichen Experten zu leiten. Gefährten müssen auch sicherstellen, dass ihre Bots sich nicht fälschlicherweise als lizenzierte medizinische Fachkräfte ausgeben. Es ist die erste staatliche Gesetzesvorlage dieser Art und könnte als Modell für andere Gesetze dienen.

Die Schutzbedürftigkeit ist jedoch nicht auf eine Altersgruppe beschränkt. Die Schwierigkeiten oder Verlassenheit, die leider mit dem Alter auftreten können, machen die ältere Menschen empfänglich emotionale Abhängigkeit und Irreführung von KI-Begleitern.

Über altersbedingte Bedenken hinaus können Personen mit sozialer Angst oder sozialen Herausforderungen im Zusammenhang mit Neurodiversität KI-Begleiter besonders absorbierend finden. Bedenken hinsichtlich monetarisierter oder gehackter personenbezogener Daten sind besonders schwerwiegend für diejenigen, deren Fähigkeit, eine informierte Einwilligung zu erteilen, bereits beeinträchtigt ist. Darüber hinaus könnte jeder, der Herzschmerz, berufliche Rückschläge, Familienkonflikte oder Gesundheitskrisen erlitten hat, die KI-Kameradschaft attraktiver und zumindest vorübergehend tröstlicher finden.

Ein Eintauchen in die KI-Begleiterschaft ist nicht unvermeidlich, aber die Vermeidung erfordert eine ernsthafte öffentliche Reflexion über unsere aktuellen technologischen Gewohnheiten und den Weg zu erhöhter künstlicher Intimität. 

Die Kirche kann diese globale Anstrengung anführen. Durch ihre Familien, Schulen, Krankenhäuser, Waisenhäuser und andere Institutionen schafft sie Gemeinschaften, die diejenigen willkommen heißen, die Verbindung suchen. Sie akzeptiert und stattet Menschen jeden Stammes, jeder Sprache, jeder Nation und jeden sozialen Hintergrunds aus, um eine einzigartige und unersetzliche Rolle im mystischen Körper zu spielen. Der Katholizismus hebt nicht nur die Probleme der Einsamkeit hervor, sondern gibt auch die Werkzeuge der Gnade, um emotionale Wunden zu heilen und eine authentische Intimität mit Gott und dem Nächsten zu fördern.

https://www.catholicnewsagency.com/news/267315/cna-explains-how-should-we-approach-ai-companionship