社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

Nature重磅发文:深度学习x符号学习,是AGI唯一路径!

哲学园 • 11 月前 • 177 次点击  

转自:新智元

如涉版权请加编辑微信iwish89联系

哲学园鸣谢


编辑:KingHZ

【新智元导读】忆往昔,符号AI曾以规则逻辑统领江湖;今朝卷土重来,它携手神经网络,直指AGI!

这几年,大模型多次让人惊艳:聊天像真人、写作像专家、画画像大师,仿佛「万能AI」真的要来了。

但AI领域的权威们已经开始泼下一盆冷水:

只靠「神经网络」,远远不够通往人类级智能。

美国人工智能促进协会(AAAI)向会员发出提问:

未来,计算机能否达到、甚至超越人类智力?

如果可以,单靠当下火爆的神经网络行不行?

绝大多数研究者给出的答案是——不行。

图片

真正的突破,恐怕要靠老牌选手「符号派AI」与神经网络联手登场。

图片

符号AI:起死回生

在历史上,符号派AI曾是主角——它相信,世界可以被规则、逻辑和清晰的概念关系穷尽刻画:

像数学那样精确,像流程图那样可追溯,像生物分类法那样层次分明。

图片

后来,神经网络崛起,用「从数据中学习」的范式席卷整个领域。

大模型与ChatGPT成为这个时代的技术图腾,而符号系统被边缘化,几乎只剩下教科书上的一段历史。

然而,自2021年前后开始,「神经–符号融合」急速升温,被视为打破单一神经网络话语权的一次反扑:

图片

它试图把统计学习与显式推理拼接在一起,不仅为了追逐通用智能这一远目标,更为了在军事、医疗等高风险场景中,提供一种人类仍能「看得懂、追得回去」的智能形态。

目前,已经有一些颇有代表性的神经符号AI系统问世。

比如,DeepMind去年发布的AlphaGeometry,可以稳定解出面向优秀中学生的数学奥林匹克竞赛题。

但要把神经网络和符号主义AI真正融合成通用的「全能AI」,仍然极其棘手。这种系统如此复杂,马里兰大学计算机科学家William Regli感叹道:

其实,你是在设计一个「双头怪物」架构。

图片
图片

苦涩的教训,没有尽头的争论

2019 年,计算机科学家Richard Sutton公开了短文《苦涩的教训》(The Bitter Lesson)。

他指出,自20世纪 50 年代以来,人们反复假设:

在物理学到社会行为等各个领域,人类总结出世界规则,然后灌输给计算机。

这是制造智能计算机的最佳方法。

Sutton写道,我们要吞下的「苦果」是:利用海量原始数据和扩大的计算能力来撬动「搜索与学习」的系统,一次又一次地战胜了符号方法。

例如,早期的国际象棋计算机依赖人类设计的策略,结果却败给了那些仅仅被喂食了大量对局数据的系统。

图片

神经网络的支持者广泛引用这一教训,用于支持「把系统做得越来越大是通往AGI的最佳路径」这一观点。

但许多研究人员认为,这篇短文言过其实,低估了符号系统在AI中能够且正在发挥的关键作用。

例如,当今最强的国际象棋程序Stockfish就将神经网络与允许走法的符号树(symbolic tree)结合在了一起。

神经网络和符号算法各有利弊。

神经网络由多层节点组成,通过加权连接在训练过程中进行调整,以识别模式并从数据中学习。它们速度快且富有创造力,但也注定会编造内容(即产生幻觉)。而且如果问题超出训练数据范围,它们无法可靠地回答。

符号系统则难以涵盖人类语言等「模糊」的概念,因为这涉及构建庞大的规则数据库,且构建难度大、搜索速度慢。但它们的运作机制清晰,擅长推理,能利用逻辑将通用知识应用于全新的情境。

图片

当被应用于现实世界时,缺乏符号知识的神经网络会犯下典型的低级错误。

比如,AI生成的图像可能会画出每只手有六根手指的人,因为它们没有学到「手通常有五根手指」这一一般概念(general concept)。

图片

一些研究人员将这些错误归咎于缺乏数据或计算能力。

但其他人则认为,这些错误揭示了在泛化知识(generalize knowledge)和逻辑推理(reason logically)方面,神经网络根本就无能为力。

许多人认为,「神经网络+符号机制」可能是向AI注入逻辑推理的最佳——甚至是唯一——的方法。

例如,全球科技巨头IBM正在押注神经符号技术(neurosymbolic techniques),将其视为通往 AGI 的路径。

图片

但其他人对此仍持怀疑态度:现代AI之父之一Yann LeCun曾表示,神经符号方法「不兼容」深度学习机制。

图片

Richard Sutton坚持自己最初的观点,并告诉《自然》杂志:

「苦涩的教训」仍然适用于今天的AI。

图片

Richard Sutton现任阿尔伯塔大学计算机科学教授,获2024年图灵奖;2017年至2023年期间,他曾担任DeepMind杰出研究科学家

他说,这表明「添加符号化的、更多 人工构建(manually crafted)的元素可能是一个错误」。

Gary Marcus是AI企业家、作家和认知科学家,也是神经符号AI最直言不讳的支持者之一。

图片

他倾向于将这种意见分歧描述为一场哲学之战,并认为战局正朝着有利于他的方向定调。

另一些人,如麻省理工学院的机器人学家Leslie Kaelbling则认为,争论哪种观点正确纯属「自讨苦吃」,人们应该专注于任何行之有效的方法。

图片

她说:「我就像一只喜鹊(magpie)。只要能让我的机器人变得更好,我会采纳任何方法。」

图片

双头怪兽:取长补短

尽管神经符号AI的核心愿景非常明确——即融合神经网络与符号学派的双重优势,但其具体定义在当下仍显得有些模糊。

图片

Marcus直言,神经符号AI囊括了「一个浩瀚无垠的宇宙」,而我们目前的探索,「不过是沧海一粟」。

图片

业界涌现出多种技术路径,研究者们也尝试从不同维度对其进行归类。

其中,备受推崇的一条主流路径是:利用符号技术来「加持」神经网络。

AlphaGeometry无疑是这一策略中最精妙的集大成者。它的运作机制是:先利用符号编程语言生成海量的数学题(即合成数据集),再用这些数据去训练神经网络。

图片

这种方法不仅让解题过程更易于验证,还确保了极低的错误率。Colelough评价道,这是一种「优雅的融合」。

另一个典型案例是「逻辑张量网络」(Logic Tensor Networks)。

它提供了一种将符号逻辑编码进神经网络的方法。

在这种网络中,陈述不再是非黑即白,而是被赋予一个「模糊真值」(Fuzzy-truth Value)——即介于1(真)与0(假)之间的数值。这就构建了一套规则框架,辅助系统进行逻辑推理。

图片

另一条广阔的路径则反其道而行之:利用神经网络来「巧解」传统符号算法的难题。

符号知识库往往面临一个棘手痛点:体量过于庞大,导致搜索极其耗时。

以围棋为例,其所有可能走法构成的「搜索树」包含了约$10^{170}$个盘面位置,这是一个无法靠暴力计算来穷尽的天文数字。

而神经网络可以被训练来预测那些「最有胜算」的落子方向,从而大幅修剪需要搜索的「分枝」,让系统能以极快的速度锁定最佳走法。

这也正是当年谷歌的AlphaGo的制胜法宝——

凭借这一机制,它在举世瞩目的对决中击败了人类围棋冠军。

参考资料:

https://www.nature.com/articles/d41586-025-03856-1

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/190796