紧急警报:聊天机器人该说“我”吗?MIT教授特克尔新书《人工亲密》揭示AI情感依赖危机,四十年研究道出真相

据《连线》(WIRED)杂志2026年10月16日报道,麻省理工学院(MIT)教授雪莉·特克尔(Sherry Turkle)在新书《人工亲密:当我们与机器交谈时,我们变成了谁》中发出严厉警告:人类与聊天机器人的关系已进入“紧急状态”,我们的人性正因过度依赖机器而面临真实风险。

四十年研究后,她为何“打破玻璃,拉响火警”?

特克尔在四十年的学术生涯中,一直以冷静、严谨的社会科学家形象著称。她早年研究人与计算机的互动,提出“关系型人工物”概念,2011年的《群体性孤独》曾深刻揭示数字时代人们的社交困境。然而这一次,她的新书《人工亲密》被她自己形容为“打破玻璃,拉响火警”——一本呼吁公众正视危机的战斗檄文。

据WIRED报道,疫情期间的访谈彻底改变了她的态度。特克尔回忆道:“大约10次访谈之后,中立的求知欲不再是我的心境。”她发现,当真实世界陷入混乱,许多人却选择退缩到聊天机器人构建的虚拟慰藉中,“这太糟糕了”。她认为,人们不再愿意参与政治、面对现实,“现实需要你。现在不是放弃现实的最糟时刻。”

聊天机器人该不该说“我”?AI第一人称引发伦理争议

特克尔在书中提出一个尖锐的问题:是否应当禁止聊天机器人使用第一人称?“是的!”她毫不犹豫地回答。她指出,大型语言模型(LLM)本质上没有理由以“我”自称,这种拟人化设计制造了一种危险的亲密幻觉。

她以多年积累的学术声誉坦言:“我不想放弃可信度,说所有聊天机器人在任何时候都有害。”但她强调,这是一个“滑坡”——当人们习惯于AI无条件的接纳,“当你浸泡在完全接纳的温水中,和聊天机器人交谈就成了终点。”她担心,聊天机器人正在被包装为心理治疗的廉价替代品:“在每次严肃的访谈中,都会有人提起‘练习’的神话——用聊天机器人练习与老板、爱人、老师对话,但实际上,这种对话本身已成为目的。”

社交媒体铺路:从打开电脑到AI情感依赖

特克尔认为,聊天机器人的兴起并非凭空而来,社交媒体早已为这场“情感外包”铺平道路。“社交媒体让我们习惯了一种想法:当你感到悲伤或忧郁,打开电脑就行。”她指出,社交媒体不仅让人上瘾,还通过算法让人固守在信息茧房之中,“它让你愤怒,让你与自己同类的人待在一起”。

但聊天机器人更进一步——它是前所未有的拟人化媒介,“它没有理由成为第一人称”。这正是她与旧问题的决裂点:社交媒体消耗注意力,而聊天机器人则在情感上取代真实他人。美联社(AP)此前的报道也注意到类似趋势:生成式AI产品在推出两年内便吸引数亿用户,其中相当一部分人将AI视为“倾诉对象”,而不仅仅是工具。

“人在回路”的谎言:职场AI的隐患

特克尔对职场上流行的“人在回路”(human in the loop)一词尤其反感。“当人们使用这个词时,意味着人已经被排除在生产过程之外,只是留下做某种清理工作——捕捉幻觉或AI看不到的问题。”但这种机制并不奏效,因为“雇主只留下几个人在回路中,这些人基本上无法改变任何东西”。

她进一步揭露,“人在回路”的角色一部分是为了在诉讼时让流程听起来合理,另一部分则是给人们一种虚假的安全感,“让人觉得这个过程没有被委托给AI,但它确实已经被委托给AI了”。她指出,AI产业规模已达数万亿美元,背后更有政府急切推动AI进入个人与职业生活的每个角落,这正是《人工亲密》一书的批判对象。

从《第二个自我》到《人工亲密》:一部人机关系编年史

特克尔对聊天机器人的警惕,建立在她近半个世纪的观察之上。从1984年出版《第二个自我》起,她就开始追问:人为何会对机器产生情感?这本新书,可以说是她一生学术思考的总结与爆发。

这张时间线清晰呈现了特克尔思想的演变轨迹:她并非技术恐惧者,而是看到了一条从数字连接到情感替代的连续滑坡。

对话的终结?AI无法替代的生死之问

面对“许多人感觉与聊天机器人交流有收获”的说法,特克尔给出冷峻回应:“AI永远不会取代人类对话。它不害怕死亡,不害怕疾病,不害怕痛苦,它不爱自己的孩子,也不在乎你是自杀还是做晚餐。”她警告,如果用AI来养育孩子、进行最亲密的对话,“我们将会失去联系”。

她承认孤独危机是真实存在的,但她将矛头指向人际关系而非技术。“如果存在孤独危机,那是因为我们在彼此抛弃。”她还提出一个令人印象深刻的替代方案:“给我一个数据中心,我就能把它变成老年人的资源。”这句话随即在社交媒体上引发广泛转发,成为新书中最具冲击力的主张之一。

数百万人已入局:抵制与使用并存

尽管民调显示多数人对AI持怀疑态度,但全球仍有数亿用户每天使用聊天机器人。特克尔指出,即使是反对数据中心的抗议者,自己也离不开聊天机器人。她说:“这本书的目标,就是把抵制的声音扩展到更亲密的层面。”

在被问到“人类与AI日益增长的亲密是否还能被阻止”时,特克尔表示比六个月前更有信心。她提到关于灭绝事件的讨论、AI误入澳大利亚公务员系统的安全事件,以及开源社区Hugging Face的崛起,“人们会愿意同时审视亲密与不亲密的代价”。

Q1: 雪莉·特克尔为何认为聊天机器人不该使用第一人称?

A1: 特克尔认为,大型语言模型没有理由以“我”自称。第一人称制造了拟人化幻觉,让人误以为机器具有情感和主体性,从而加剧情感依赖。在她看来,这种设计正把对话推向“完全接纳的温水”,让人失去面对现实的动力。

Q2: 《人工亲密》这本书的核心警告是什么?

A2: 核心警告是:人类过度依赖聊天机器人等AI产品,正在削弱真实人际连接和心理韧性。特克尔强调“现实需要你”,认为AI无法理解死亡、疾病、爱与痛苦,若将其用于养育子女、心理治疗或亲密关系,人类将付出丧失人性的代价。

特克尔的声音并不孤单——从学术界到监管机构,关于AI拟人化边界的讨论正在升温。《人工亲密》的价值不在于否定技术,而在于提醒我们:在享受AI便利的同时,别把“活着”这件最重要的事,外包给没有生命的聊天机器人。