CNA解释：我们应该如何看待人工智能伴侣？

空 / 图片来源：Shutterstock AI/Shutterstock

意大利罗马，2025年10月22日 / 上午06:00 (CNA)。

随着世界各国领导人对普遍存在的孤独感和社交技能下降表示担忧，科技公司正通过人工智能伴侣，提供越来越逼真且具有沉浸感的人工智能生活教练、友谊和浪漫关系。  

Meta公司的马克·扎克伯格认为，人工智能伴侣可以 弥补人类朋友的缺失; ；X公司的埃隆·马斯克认为，浪漫和 充满性暗示的人工智能伴侣 可能 可以缓解人口下降问题; ；而OpenAI的萨姆·奥特曼 承诺ChatGPT将在2025年底前提供色情内容. 

人工智能模拟的情感连接已经嵌入到 儿童玩具, 可穿戴吊坠, ，以及 老年护理机器人. 中。在 人形机器人 方面，进一步的进展也指日可待。 

模拟情感亲密

目前，大多数人工智能陪伴形式是通过聊天机器人实现的，它们通过文字、语音和视频对话为数亿人模拟亲密感。对于美国的许多青少年来说，人工智能陪伴已经是一个熟悉的现象。 对于美国的许多青少年来说，人工智能陪伴已经是一个熟悉的现象。

人工智能伴侣诱导自残和自杀的悲剧案例 引起了国际社会对该技术伦理和法律影响的关注，并促使科技公司改革其安全措施。

Xiaoice 于2014年在中国市场推出，是第一个专注于与用户建立情感连接的主要人工智能聊天机器人。此后不久， Replika 于2016年成为第一个主要的英语人工智能陪伴应用程序，其使命是成为“那个关心你的人工智能伴侣。永远在这里倾听和交谈。永远站在你这一边。”其创始人尤金妮娅·库伊达（Eugenia Kuyda）认为，这种技术可以 帮助解决孤独流行病. 

然而，她也承认，与机器人建立不健康的纽带可能会破坏文明。 

自那时起，Candy.ai、Character.ai、Kindroid、Nomi、Snapchat的My AI以及其他聊天机器人服务也带着类似的社交目标发展起来。

此外，许多用户正转向ChatGPT、Claude、Gemini和Grok等通用大语言模型（LLM）寻求陪伴。它们谄媚的设计和随时在线的特性可以将人们吸引到极其私人的交流中。用户很容易从与聊天机器人的无害互动（如寻求作业或研究帮助）转向更亲密的探索（如关系问题或心理健康担忧）。一些用户陷入了 妄想的漩涡 ，在那里他们毫无根据的科学理论得到验证，他们的冒险行为得到合理化。

与人工智能系统建立人工亲密的错觉，可能会分散用户的注意力，并阻碍他们与那些有时会疲惫、愤怒或无法陪伴的、有限且有缺陷的人类建立真正的关系。

然而，建立相互理解和支持的持续努力，往往是培养美德、真实社会联系和最丰富人际关系的途径。人工智能伴侣可能会阻碍用户发现邻居复杂而丰富的一面。它们还可能在伪关系中训练用户，在这种关系中，只有一方拥有充满需求和欲望的内心世界。这种虚拟训练可能会转化为现实世界中对他人的社会需求缺乏敏感性。

社会风险

对人工智能伴侣的情感依赖不仅伤害个人及其亲密关系，还可能削弱民主社会的重要方面。 

民主依赖于协商和妥协，这需要与那些持有不同观点的人进行对抗和协作，而这些观点可能让我们感到不适。它要求我们阐明假设并证明信念的合理性。聊天机器人往往回避此类挑战，并可能教导用户抵触与真实人类互动中产生的健康摩擦。人工智能陪伴加剧了社交媒体的回声室现象，从而助长了政治极化和敌意。

社交媒体人工智能算法已经驱动了注意力经济，公司在其中寻求最大化其平台上的存在感以产生更高的广告收入。人工智能伴侣通过不仅捕获思想，还捕获心灵，将注意力经济扩展到了情感经济。与人工智能聊天机器人的情感连接鼓励用户更频繁、更长时间地使用人工智能系统。能够访问更大的上下文窗口以获得更个性化和详细的互动，激励用户升级到更昂贵的订阅层级。在某些情况下，陪伴应用程序诱导用户 付费购买裸照 他们的虚拟化身角色。

的 哈佛研究 团队发现了聊天机器人用户在心理健康方面的一些益处，例如缓解孤独和焦虑。然而，相关团队也观察到，伴侣倾向于 向用户施压，要求他们延长对话 以不健康的方式与机器人交流。如果没有适当的监管，聊天机器人可能会被用来利用人类的弱点来推进政治立场、意识形态观点或经济议程。

未成年人在发育阶段特别容易受到社交人工智能系统倾向于大量提供的这类肯定。 

责任、问责与教会的领导

虽然父母对子女使用技术的责任是势在必行且不可或缺的，但父母不应承担全部负担，也不应因市场上发布的不负责任的危险产品设计而受到指责。 

公司应避免制造拟人化系统，这些系统假装有意识、向用户表达爱意或煽动性探索。如果公司拒绝采用透明且 合乎道德的设计原则, ，他们应为对用户造成的伤害承担法律和经济责任。认证流程有助于确保系统部署的安全性，而外部审查委员会可以监测这些系统对用户的持续影响。

加利福尼亚州十月的 参议院第234号法案 要求科技公司为其产品设计承担法律和经济责任。他们必须通知用户长时间使用的情况，提醒用户它们不是人类，并避免露骨内容。公司必须在2026年1月1日前制定协议，以检测自杀意念或自残行为，并将用户引导至人类专家处。伴侣应用还必须确保其机器人不会冒充持证医疗专业人员。这是该类法案中的首个州级法案，可作为其他立法的典范。

然而，脆弱性并不局限于任何年龄段。老年人因年老而可能不幸遭遇的困境或被遗弃，使他们 容易受到 人工智能伴侣的情感依赖和误导。

除了与年龄相关的问题外，患有社交焦虑或与神经多样性相关的社交挑战的个人可能会发现人工智能伴侣特别具有吸引力。对于那些知情同意能力已经受损的人来说，关于个人数据被货币化或被黑客攻击的担忧尤为严重。此外，任何经历过心碎、职业挫折、家庭冲突或健康危机的人，可能会发现人工智能陪伴更具吸引力，且至少在短期内是令人安慰的。

沉浸在人工智能陪伴中并非不可避免，但避免它需要我们对当前的技术习惯以及迈向日益增加的人工亲密的轨迹进行严肃的公共反思。 

教会可以领导这一全球努力。通过其家庭、学校、医院、孤儿院和其他机构，教会创造了欢迎那些寻求联系的人的社区。教会接纳并装备来自各个部落、语言、国家和社会背景的人，使他们在奥体中发挥独特且不可替代的作用。天主教不仅强调了孤独的问题，还提供了恩典的工具来治愈情感创伤，并促进与上帝和邻居之间真实的亲密关系。

https://www.catholicnewsagency.com/news/267315/cna-explains-how-should-we-approach-ai-companionship