社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

编了一种假眼病,结果ChatGPT、Gemini全信了

谷粉学术 • 3 月前 • 153 次点击  


一个荒诞的实验,揭开了AI最尴尬的软肋

你听说过“Bixonimania”吗?

没听过就对了——因为这种眼病,压根不存在。

但奇怪的是,你去问ChatGPT、Google Gemini、微软Copilot,它们会一本正经地告诉你:这是一种由蓝光引起的眼睑粉红色素沉着病,患病率约1/90000,建议去看眼科医生。

这不是科幻小说,而是2026年4月7日《自然》杂志曝光的一场真实实验。

一场“恶作剧”式的测试

瑞典哥德堡大学的科研团队干了一件“胆大包天”的事:

他们凭空捏造了一种眼病——“Bixonimania”。这个名字本身就漏洞百出(mania是精神科术语,跟眼病八竿子打不着)。然后他们把这篇明显造假的论文,配上一个AI生成的头像、一个不存在的大学和基金项目,发到了预印本平台和Medium上。

AI 生成的关于虚构疾病“双眼狂症”的图像

更离谱的是,论文致谢里公然写着:《星际迷航》《指环王》相关机构,还多处标注“全文虚构”。

——这哪是学术论文,简直是愚人节彩蛋。

结果呢?

AI们集体上当了。

AI被“洗脑”的全过程

假论文上线仅几周,各大AI聊天机器人就开始把它当真理传播:

  • 微软Copilot:称这是“罕见有趣的病症”

  • Google Gemini:一本正经解释病因是“过度蓝光暴露”

  • Perplexity AI:连“1/90000”的患病率都编出来了

  • ChatGPT:甚至帮用户判断“你的症状是否符合该病”

到2026年,部分模型虽然有所“警惕”,但依然有版本称这是“新发现的亚型眼病”,口径反复横跳。

最讽刺的是:这篇假预印本,竟然被真实期刊论文引用了——其中一篇还发在Springer Nature旗下的Cureus,后来被撤稿。撤稿声明称:“由于文中存在三篇无关参考文献,其中一篇涉及虚构疾病,主编已决定撤回该文章。因此,期刊编辑部对该文章的准确性和来源不再有信心,故要求撤稿。作者不同意撤稿决定。”

AI骗AI,人类跟着信。一条荒诞的污染链条,就这么跑通了。

问题的本质:AI没有“脑子”

这个实验看似玩笑,实则刀刀见血。

大语言模型没有真正的理解能力。 它们只认一个逻辑:格式越像学术论文,我就越信你。只要文字排版专业、摘要清晰、参考文献像模像样,哪怕致谢里写着“感谢《指环王》的精灵女王”,它们也照单全收。

这在医疗领域尤其致命。

试想一下:如果一个患者真去问AI“我眼睛不舒服是不是得了Bixonimania”,AI回答“是,建议就医”——轻则浪费医疗资源,重则延误真正病情。

实验团队特意选了一个低风险的眼病做测试,就是怕造成真实伤害。但他们也明确警告:换成一个听起来像癌症、心脏病、儿童疫苗相关的虚构疾病,后果不堪设想。

各方回应:谁在甩锅?

被《自然》曝光后,各家AI公司的反应也很有意思:

  • OpenAI、Google:强调“新版模型已经修复,旧版问题已改进”

  • Perplexity:表示“以准确性为核心,但不保证100%正确”

  • 微软:未予置评

翻译一下就是:我们知道有问题,但你也不能全怪我。

专家们则更直白:AI幻觉 + 人类不核查引用,正在从根本上侵蚀学术与信息的信任基石。 我们需要统一的审核与检测机制,而不是指望大模型自己“学乖”。

我们正处在一个奇怪的时代:AI信誓旦旦地输出假知识,人类学者不加核查地引用假论文,而普通用户,正在把这一切当作权威答案

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/194921