“ChatGPT并没有让我们变得更笨,它只是让我们意识到,我们原本就没有想象中那么聪明。”
最近 MIT 的一篇论文,发现使用大模型的人们,其脑区激活范围不如不使用大模型的人。
也就是说使用大模型让你没有进入深度思考,会让你变笨。
相信你看过很多类似论调的文章了。
Medium 上的一篇文章则对这些批评ChatGPT及人工智能的观点进行了反驳,指出人们对AI的恐惧实际上是因为它揭示了人类思维的局限性,而非AI的真正威胁。
话说,谁当年的大学作业不是东拼西凑搞出来的呢,这跟现在的大学生使用大模型来做作业,没啥区别。
作者以个人经历为例,描述了他在大学和工作中如何通过模板化的方式完成任务,表明人类长期以来并未真正擅长深度思考,只是通过复杂的表达掩盖了这一事实。
“教育系统中许多作业并非为了学习,而是为了完成一场‘表演’。”
之后,作者进一步批评了教育系统,认为许多学校作业并非旨在培养学生的思考能力,而是为了完成形式化的要求。AI的出现只是让这一现象更加明显。
文章还指出,真正的思考是困难且让人不安的,因为它需要面对未知和不确定性,而现代社会对效率和即时结果的追求正在压制这种深度思考的能力。
最终,作者落脚在 AI 真正的风险在于我们可能会选择用它来逃避思考,而非利用它作为辅助工具来提升我们的思维能力。他认为这是一个机会,可以帮助我们重新审视自己的思维方式,培养真正的批判性思维。
下边是翻译后的文章:
我真是受够了这种讨论。
每天都有新文章喋喋不休地说 ChatGPT 会把我们变成智力残废。昨天我阿姨在脸书上连转了三篇这类文章。领英现在简直没法用,因为每个"思想领袖"都要对"人类创造力之死"发表高见。
知道真相是什么吗?ChatGPT 并没有让我们变笨,它只是揭示了我们原本就没自以为的那么聪明。
说实话,这让人感到非常不适。
我们在这方面一直都很糟糕
让我说说大学四年级的经历。有位文学教授布置了长篇研究论文作业,要求至少二十页。我花了数周时间研究海明威之类的主题,还为自己做了"深度研究"而沾沾自喜。
想知道我的真实研究过程吗?我会登录图书馆数据库,搜索"海明威"加上论文主题关键词,然后直接把学术文章里的引文复制粘贴到自己的论文里。偶尔添加些过渡句,或许再塞点个人见解让它看起来像原创。
得了 A-。教授评语是"展现了出色的资料整合能力"。
这根本不算思考。不过是语法正确的高级复制粘贴。
而且不止我这样。所有人都这么干。我们心知肚明。教授们可能也清楚,但他们能怎么办?要是真要求原创思考,半个班都得挂科。
我的第一份工作也好不到哪去。在一家营销机构,当时自以为是个人物,因为能写出"引人入胜的文案"。结果发现不过是在重复使用那些老掉牙的套路,跟其他人毫无二致。"革命性的新方法..."、"用...改变你的业务"、"行业专家不想让你知道的秘密..."
我根本谈不上有创意,不过是个人形模板机器。
人们都在为错误的事情恐慌
那些对 AI 大惊小怪的人,表现得好像 ChatGPT 出现之前我们曾生活在人类智力的黄金时代似的。
什么黄金时代?具体是什么时候?
我父亲那辈人抱怨谷歌让我们变笨,因为我们不再记电话号码了 。他们的父母说电视腐蚀孩子的大脑。再往前是收音机。更早之前是小说让人变得孤僻。
总有些新事物被宣称正在摧毁人类文明。这仿佛成了我们这个物种最热衷的消遣。
事实是:我们大多数人原本就不擅长思考,只是过去对此的包装更体面些。
要证据吗?去看看 1995 年的普通报纸社论,其中一半和 ChatGPT 生成的内容一样套路化、可预测。唯一的区别在于它们出自人类之手,所以我们给予了更多认可。
或者看看千禧年初人人嘲笑的那些企业使命宣言。"我们利用协同解决方案优化利益相关者价值"——这不是思考,这是流行词堆砌游戏。
思考其实非常困难
真正的思考很痛苦。它混乱又令人困惑,会让你质疑所有自以为知道的事情。
几年前我有过这样一个时刻,当时意识到自己对某个基本问题的认知一直是错误的。现在甚至记不清具体是什么事了,但那种感觉记忆犹新——就像脚下的地面突然移动,所有观点赖以建立的根基瞬间变得摇摇欲坠。
这就是真正思考的威力。它让你坐立不安,不会给你现成答案,无法塞进 PPT 幻灯片,更不会让你在晚宴上显得聪明睿智。
真正的思考往往发生在你不刻意追求聪明的时候。当你只是试图弄明白某件事时。当你感到困惑、好奇并愿意接受错误时。
我最好的思考往往发生在淋浴时。或是遛狗时任由思绪漫游的时刻。又或是在那些奇怪的深夜对话中,不知怎么就聊到了"狗会不会做梦"这种话题。
但我们构建的这个社会却对这种思维漫游过敏。一切都必须高效、优化、可量化。我们渴望即时答案、五步解决方案和能在三分钟内消化的内容。
难怪我们不擅长思考。我们早已把自己训练得不再思考了。
关于教育的残酷真相
关于 ChatGPT 的教育界恐慌揭示了一个人尽皆知却无人敢明说的事实:大多数学校作业本就不是为了学习而设计的。
我侄子现在上高中。他正为历史论文作业发愁。"我不知道该写什么,"他说。于是我问他感兴趣的是什么。关于这个主题他有什么疑问?
茫然的眼神。"我只需要写五段关于二战的内容。"
这不是教育。这是行为艺术。
当学生们担心人工智能能代写论文时,他们无意中承认了这些论文从来就不是为了表达自己的想法。这些论文只是遵循模板并凑够字数。
当教师们担心自己的作业会变得过时时,他们实际上是在承认这些作业本来就没有培养任何真正的技能。
这不是教师们的错。他们大多数人都知道这个系统已经失灵。他们被困在这个官僚体系中,这个体系衡量一切,唯独不衡量真正重要的东西。考试成绩、毕业率、标准化基准。上一次有人衡量学生是否会思考是什么时候?
我们都在即兴发挥
有件事没人愿意谈论:我们大多数人都是边走边编。我们并非从深厚的知识和智慧储备中汲取养分。我们大多只是在应对眼前的事物,并希望听起来还算合理。
我参加过不少高管会议,亲眼见证过百万美元级别的决策仅凭直觉和谁嗓门大就拍板定案。我见过医生当着患者的面用谷歌搜索症状。也目睹过律师在开庭前五分钟还在手忙脚乱地查询基础法律概念。
我们都在信息不全和时间有限的情况下尽力而为。这很正常!这就是人类的运作方式。我们跌跌撞撞地摸索,在实践中学习,犯错后及时修正方向。
但别再假装在 AI 出现之前,我们都在某种更高的智力水平上运作了。事实并非如此。我们只是更擅长用专业术语和自信的演示来掩饰自己的不确定罢了。
真正的威胁并非人工智能
真正的问题并非 AI 会让我们变得思维懒惰,而是我们会以 AI 为借口逃避培养思维能力的艰苦努力。
我已经目睹这种现象正在发生。曾经为写作作业绞尽脑汁的朋友们,现在直接让 ChatGPT 代劳;过去会深入研究问题的同事,如今把问题丢给 AI 就草草了事。
这并非 AI 的过错,而是我们主动做出的选择。
我们可以将 AI 作为思考伙伴——让它处理繁重的基础工作,从而让我们能专注于那些有趣的问题。或者,我们也可以让它完全取代思考本身。
这其中的区别至关重要。极其重要。
当下真正重要的是什么
如果我们要在 AI 时代培养真正的思考能力,就必须适应困惑的状态。适应无知的状态。适应提出那些没有明显答案的问题。
我们需要为大脑保留漫游的空间。去建立奇特的关联。去追寻那些可能毫无用处的旁枝末节。
我们需要重视过程而非结果。探索事物的过程比最终答案更重要。
我们必须记住犯错是学习的一部分。每个洞见都始于对某事的困惑。
这些道理向来重要。只是当机器能处理我们曾引以为豪的常规认知任务时,这点变得尤为明显。
那么现在该怎么办
ChatGPT 并没有让我们变笨,它只是揭示了我们从未如自己想象的那般聪明。而这其实是一种解放。
我们首次能清晰辨别:真正的思考与智力杂务、洞见与信息处理、智慧与谷歌搜索之间的本质差异。
我们可以选择被这一发现所威胁,也可以将其视为真正培养我们一直声称拥有的思考能力的机会。
镜子不会说谎。我们并不像假装的那样在智力上令人印象深刻。但现在我们有机会成为自己一直宣称的那种思考者。
危机并非源于人工智能的出现。真正的危机在于我们数十年来一直依赖思维惯性滑行,而如今这一事实已昭然若揭。
至少现在我们可以为此做些什么了。如果我们愿意的话。