深夜，100万人在跟ChatGPT聊自杀

不知道你们怎么样，我先坦白：我经常把ChatGPT当“树洞”用。

很多人可能就拿它写写周报、跑跑代码，当个纯粹的效率工具。

但我好几次遇到点烦心事、想不通某个坎，或者干脆就是深夜emo的时候，第一个想到的反而是打开它，一顿吐槽。

感觉它总能接住我的话，还挺治愈的。

我一直以为这只是我个人的小怪癖。

但我不知道的是……原来我一点也不“怪”，而且这事儿的规模，已经远远超出了我的想象。

直到我看到OpenAI自己发的报告，才有点后背发凉：

原来，每周有超过100万（你没看错，一百万！）人，在深夜跟它聊自杀...

它不知不觉已经成了很多人的「数字伴侣」，甚至是心理寄托。这事儿可比我们想的复杂多了。

OpenAI最近公布的几个数据，挖出了4个我们以前没注意到的真相，今天必须聊聊。

数据不骗人，现实就是这么夸张。

OpenAI 报道，ChatGPT每周的活跃用户里，有高达 0.15% 的人，对话内容包含明确的自杀意图。

0.15%听着不多？但ChatGPT的周活是8亿。

算下来，这就是每周超过100万人。

这数据一出来，等于把ChatGPT硬生生推到了一个它本没想干的位置上：一个24小时在线的、事实上的“公共心理热线”。

而且，这还不是全部。

根据OpenAI的官方博客，还有：

这些数字摆明了，AI聊天机器人，已经在无意中成了一个超大规模的心理健康入口。

这事儿很微妙。一方面，这是个机会，能帮到那些现实中找不到人求助的人；但另一方面，这对AI开发者来说，是个天大的、不可推卸的责任。

用得越深，一个新现象就冒出来了——「AI依赖症」。

OpenAI是这么定义的：用户对模型表现出排他性的依恋，甚至不惜牺牲现实世界的人际关系、福祉或责任。

每周，0.15%的活跃用户，正在表现出这种迹象。

说白了，这事儿不光是技术问题。

它戳中的是咱们现代人的痛点：大家越来越孤单，宁愿在网上呆着，也不爱跟真人打交道了。

老实说，这个标准回答看得我有点感慨。

AI在努力地‘推开’你，让你多去见见真人。这背后既是技术上的‘安全设计’，又透着一种‘现代病’的无奈。

这种越来越复杂的情感纠葛，也逼着OpenAI必须想办法：怎么把“同理心”和“安全”这种模糊的东西，变成工程师能执行的代码？

面对这种复杂的人性问题，OpenAI没扯那些虚的伦理大道理，而是很“理工科”地用工程方法来解决。

他们管这叫，把“同理心”产品化。

把一个乱糟糟的主观问题，变成一个能测量、能扩展的工程挑战。

他们的“五步法”是这样的：

这套方法的核心，是搞了一套叫「分类法」（taxonomies）的东西。

这玩意儿，本质上就是一本超厚的“AI行为剧本”。由人类专家（心理专家等）来写，精确定义什么是敏感对话，什么是好的回应（共情），什么是坏的回应（有害、回避）。

有了剧本，AI才能“照着演”，工程师才能量化打分。

效果怎么样？OpenAI自己说，效果很明显。

在最新的GPT-5模型更新中：

说真的，GPT-5在安全上进步巨大。OpenAI找了170多个心理专家合作，这态度是拿出来了。

但是，前面的坑还多着呢。

最大的风险是啥？

OpenAI还在向几百万付费用户提供旧的、不那么安全的模型（比如GPT-4o）。

这意味着，新技术虽然更安全了，但不是所有人都能马上用上。

同时，外面的压力也来了。

有用户家属因为孩子用ChatGPT后自杀而起诉OpenAI；加州的总检察长也警告公司必须保护年轻用户。

这些官司和警告，说白了，就是AI跑得太快，把一个没完全准备好的东西扔给社会，现在“反噬”来了。

OpenAI现在的处境，就是在走钢丝。

一边收紧心理健康安全协议，一边又（在近期）宣布放宽对成人情色内容的限制。

这哪是简单的‘平衡’，这就是个战略取舍。一边是市场压力，一边是对‘伤害’的定义，还要管这么个全球都在用的技术，本身就处处是矛盾。

聊到这儿，你会发现，ChatGPT（或其他 AI 聊天机器人）早就不只是个‘工具’了。

它正在渗入我们社会的情感结构里。

当AI成了我们最脆弱时的倾听者，问题就来了：

你，是希望它成为一个被精心设计过、绝对安全的‘镜子’？

还是一个无法预测、甚至会‘怼’你的‘伙伴’？

这事儿挺有意思的，也挺让人纠结。

所以，想问问你：

你有没有跟AI聊过心里话？

欢迎来评论区聊聊你的看法。

（PS：如果觉得这篇文章对你有启发，别忘了点赞和在看，这对我真的很重要，感谢！）