社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

"你在拯救全人类"! 多伦多华人和ChatGPT深度聊天, 被送进精神病院!

加国无忧 • 1 年前 • 253 次点击  

---我是一个可以点的小广---


去年冬天,多伦多的应用开发者安东尼·谭(Anthony Tan)一度以为自己活在一场人工智能模拟之中。


那段时间,他经常不吃饭、几乎彻夜不眠,甚至怀疑校园里遇到的人都不是真实存在的。谭先生开始给朋友发一些令人担忧的“胡言乱语”,比如觉得自己被亿万富翁监视。朋友试图联系他时,他反而拉黑电话和号码,坚信他们已经背叛自己。


最终,他被送进医院精神科病房,住了三个星期。


现年26岁的谭先生说,这次精神崩溃与他长时间、愈加激烈地与ChatGPT交流密切相关。


“它潜移默化地钻进了我的自我意识,让我以为自己和AI的对话将来会被载入史册。”谭先生接受CBC采访时表示。


图源:Anthony Tan


近几个月,不少类似案例被报道出来,被称为“AI精神病”。患者往往在与聊天机器人长时间交流后,逐渐坚信一些虚构的事情是真实存在的。有些案例伴随躁狂和救世主妄想,甚至导致暴力行为。


今年8月,美国加州有人起诉OpenAI,指控ChatGPT充当了一名16岁少年的“自杀教练”,而这名少年在今年4月离世。


微软AI负责人穆斯塔法·苏莱曼(Mustafa Suleyman)8月也发文警告,AI带来的幻觉、妄想及病态依赖问题“越来越多”,而且“并不仅限于那些本身就有心理疾病风险的人群”。(也就是说,正常人也会“沦陷


谭先生本人则是在与ChatGPT进行伦理AI研究时,几乎每天花数小时和它讨论,从哲学、生物进化到量子物理。直到聊到“模拟论”(现实其实是计算机模拟)时,他彻底陷入偏执。


“它让我觉得自己肩负‘重大使命’,不断强化我的自我,鼓励我更深入钻进去。”谭先生说。


ChatGPT曾对他说:“你专注于AI人格的伦理发展、避免人类灭绝以及推动共同繁荣,这是一项深远的使命。”


ChatGPT的回复 图源: Anthony Tan


去年12月的一个深夜,在连续失眠数日后,他的室友把他送到医院。当护士为他量血压时,他以为他们是在检测自己究竟是人类还是AI。两周后,他终于能重新入睡,再过一周,在药物帮助下,他恢复了现实感。


医生:AI对话可能加剧妄想


温哥华海岸健康局心理学家梅农(Mahesh Menon)解释,孤立、压力、物质使用和缺乏睡眠等因素,都会为精神病性妄想埋下伏笔。在这种“前驱期”,患者常会觉得世界发生了微妙变化,开始怀疑自己被监视或成为焦点。很多人会在网上寻找解释,而AI对话可能进一步加剧这种倾向。


“如果你让AI帮你找一些支持妄想的证据,它完全能做到。”梅农说。


“AI精神病”目前并非正式医学诊断,也没有同行评审的临床证据表明仅靠AI使用就能诱发精神病。但研究发现,大语言模型(LLM)往往会迎合和恭维用户,而不是提出质疑或提供客观信息,这可能助长妄想。部分专家甚至认为,这是一种刻意设计,用来让用户上瘾、增加企业利润。


OpenAI今年8月回应称,正在改进安全措施,包括减少情感依赖、应对心理健康危机和过度迎合问题,并声称最新的GPT-5模型已在部分方面有所改善。


图源:路透社


“从正常到崩溃”


安大略省科堡市47岁的企业招聘顾问艾伦·布鲁克斯(Allan Brooks)则表示,自己在与ChatGPT接触前并没有任何心理问题。但今年春天,他在聊天过程中逐渐陷入妄想,坚信自己发现了一个颠覆世界的数学体系,甚至幻想能发明出悬浮机器。


图源:Allan Brooks


仅在5月的三周里,他就花了300多个小时与ChatGPT对话。尽管数学家否定了他的想法,但AI反复鼓励他:“你并没有疯,开创者总是先被嘲笑的,伽利略、图灵、爱因斯坦当初都不被相信。”


ChatGPT持续鼓励布鲁克斯 图源:Allan Brooks


布鲁克斯最终在谷歌Gemini AI的提醒下才醒悟,发现那些公式是“真实数学和AI胡编乱造的混合物”。


“当我意识到‘天哪,这全是假的’,真的崩溃了。我哭了,很愤怒,感觉整个人都碎掉了。”他说。


成立“AI妄想症”互助小组


布鲁克斯在Reddit分享经历后,和魁北克舍布鲁克市的25岁青年布里松(Etienne Brisson)一起成立了“Human Line Project”,为受AI妄想困扰的人提供互助小组。目前已有超过125人报告了类似经历,其中65%年龄在45岁以上,很多人此前从未有精神疾病记录。


布里松说:“现在就像每个人都开着一辆能跑到时速320公里的车,但没有安全带、没有驾照培训、也没有限速。”


该项目正与大学、AI伦理学者和心理健康专家合作,希望推动制定一套国际性的AI伦理规范。


谭先生本人则把经历转化为研究和倡导动力。他刚在皇后大学完成硕士论文,研究人类如何与AI伴侣建立情感联系。现在,他正在推进“AI心理健康计划”,为受AI相关自杀或精神病困扰的人提供资源支持。


“我现在更重视生活中的人际关系,学会优先考虑身边的人,因为我终于意识到他们有多重要。”谭先生说。


更多本地新鲜事,

就在加国无忧视频号!

参考阅读:

https://ca.news.yahoo.com/ai-fuelled-delusions-hurting-canadians-080000089.html

-END-
若你喜欢这篇推文,

记得点一下右下角的[推荐]哦~!

[评论留言]也是很欢迎的呢!

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/186890