社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

写论文忘删ChatGPT生成按钮,遭法国计算机科学家在线打假,出版商紧急撤稿!

Cocoa开发者社区 • 9 月前 • 117 次点击  

整理 | 屠敏

出品 | CSDN(ID:CSDNnews)

全民在日常工作、学习、测试过程中使用 ChatGPT 已经不是什么秘密了,但是光明正大地在学术论文中使用,还把 ChatGPT 的“Regenerate response”按钮标签文字复制到论文中,尚未在方法或致谢一栏提及任何有关 ChatGPT 字眼,最终刊登在正式的期刊上,还是非常罕见的。

知名计算机科学家、论文打假人发出质疑

事情源于 8 月 9 日,物理学期刊《Physica Scripta》杂志上发表了一篇旨在揭示复杂数学方程新解的论文。

起初,每个人都认为这篇论文似乎并无不妥。

直到法国图卢兹大学的计算机科学家 Guillaume Cabanac 偶然间打开论文看到第三页时,发现了一个奇怪的短语——「Regenerate response」。

定睛一看,这不是 ChatGPT 里面的按钮标签吗?

于是乎,他把他看到的内容截图发在了 PubPeer(一个科学家讨论已发表研究的网站)平台上:

与此同时,正如之前科学期刊《Nature》和《ACS Nano》都曾发过声明建议作者如果有使用 ChatGPT 这类工具时,要在论文中注明。但 Guillaume Cabanac 搜索了全文,并没有在论文的方法部分或致谢中找到任何“ChatGPT”。

为此,他提出质疑:

作者是否复制粘贴了 ChatGPT 的输出并错误地包含了按钮的标签?

为什么这种毫无意义的措辞能在合著者、编辑、审稿人、文案编辑和排版人员的校对后幸存下来呢?

撤稿处理

截至目前,论文作者并未正面回应。

不过,Physica Scripta 的出版商 IOP Publishing 的同行评审和研究诚信主管 Kim Eggleton 透露,作者后来向杂志社确认,他们在撰写手稿时确实使用了 ChatGPT。

只是令人费解的是,这个异常没有在两个月的同行评审期间被发现(论文于五月提交,七月发送了修订版本),也没有在排版过程中被发现。

这也让众人对论文的评审环节产生了质疑。当下,出版商决定撤回这篇论文。

Kim Eggleton 表示:“这违反了我们的道德政策。”

“冰山一角”

事实上,据 Nature 报道,这次事件只是学术界使用 ChatGPT 的冰山一角。

计算机科学家 Guillaume Cabanac 实则从 2015 年开始,便发起关于揭露其他已发表的论文“未正确”使用人工智能技术的“打假行动”。

起初他只是持以好奇的初心,但后来随着 AI 不断输出胡言乱语,让这些内容变成令人信服的、类似人类的作品,这让 Guillaume Cabanac 气愤不已,也更加坚定地要揭露这些学术上“造假”事件。

自今年 4 月以来,Guillaume Cabanac 已经标记了十几篇包含 ChatGPT 按钮标签“Regenerate response” 和“作为人工智能语言模型,我……”内容的杂志期刊文章,并将其一一公开出来。

学术界到底能不能用 ChatGPT?

这一事件也引起众人困惑,对于需要更为严谨、公正的学术界而言,ChatGPT 往往会带来一些虚假、不可靠的信息误导使用者,而有些科学家和学生也会在未经验证的情况下将这些内容融入自己的论文中,带来一些错误内容。

那么,学术界究竟能不能用 ChatGPT?

其实早在今年 1 月,ChatGPT 初崛起之际,权威学术期刊《科学》便紧急发文,宣布正在更新编辑规则,强调不能在作品中使用 ChatGPT 的生成物。

随即,《Nature》杂志也公开表示,「通讯作者应用星号标识。大型语言模型 (LLM),例如ChatGPT,目前不满足我们的作者标准。值得注意的是,作者身份的归属伴随着对作品的责任,这不能有效地应用于 LLM。LLM 的使用应在稿件的方法部分(如果没有方法部分,则在合适的替代部分)中正确记录。」

一定程度上,ChatGPT 并非完全不能用,只是用了需要在论文中说清楚,与此同时,各个出版社杜绝 ChatGPT 等大模型成为论文作者,只能是一种辅助方式方法。

对此,HN 的上部分用户直言:

作为一个用 ChatGPT 写大学作业和论文的人,我想知道这有什么问题吗?当我接到 "就某一主题写 3000 字"的作业时,实际上只需 500 字就能完成,整个引言以及作为填充的部分都可以用 ChatGPT 来加快速度。是的,你必须阅读生成的整体内容,检查是否抄袭,然后相应地添加参考文献,但我不认为这是不好的。

也有不少人认为应该源头上做出改变,譬如:

大学系统早就应该重新评估他们与期刊的关系以及发表论文的压力。将教授和研究人员的职业生涯与他们的论文数量挂钩是愚蠢的。其结果与质量背道而驰。

公共资金往往是大多数研究的驱动力,但研究成果却被扔进陈旧的以盈利为目的的付费期刊系统。整个同行评审体系问题重重,从低层次的腐败(如"盲审"要求提供参考文献以换取发表)到甚至无人阅读论文。

当一些像 ChatGPT 这样的重大技术出现时,通常是回归基础的好时机,同时通过现代化来加强基础。

你在论文撰写亦或是学术过程中使用过 ChatGPT 吗?

参考:

https://news.ycombinator.com/item?id=37431946

https://www.nature.com/articles/d41586-023-02477-w

封面图由Midjourney制作。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/161638
 
117 次点击