“机器学习”的由来

本文系基于公开资料撰写，仅作为信息交流之用，不构成任何投资建议。

要问在20世纪伟大的工程师中，谁对21世纪技术的贡献最大？我会说是克劳德•香农。

香农最著名的成就是确立了信息理论领域。在1948年的一篇论文（工程学历史上最著名的论文之一）中，他提出了一种方法，该方法可以测量信号的信息含量，并计算信息能够通过任何类型的通信信道可靠传输的最大速率。这篇论文题为《通信的数学理论》，讲述了所有现代通信的基础，包括智能手机中的无线互联网和双绞线固网中的模拟信号。

如果信息理论是香农所做出的唯一突破，那么这并不足以奠定他的神级地位。他的贡献有很多。

1938年，香农在麻省理工学院撰写硕士论文时，发明了逻辑门。当时，电磁继电器被用于制造可路由电话呼叫或控制复杂机器的电路。不过，有关如何设计和分析这类电路，却没有统一的理论。

人们对电磁继电器的思考是从继电器线圈是否通电的角度来考量的。香农表示，可以从继电器中移除布尔代数，并将其用于对电路功能的更抽象理解。他使用这种逻辑代数进行了分析，然后合成并开关电路，从而证明电路会按要求发挥作用。在该论文中，他发明了AND、OR和NOT逻辑门。

1950年，香农在《科学美国人》上发表了一篇文章，并撰写了一篇研究论文，说明了如何对计算机进行编程来下象棋。他详细说明了如何设计这种程序。此外，他还探讨了数据结构在内存中是如何表现的，估算了该程序需要多少内存位，并将该程序拆分成了子程序。

在全球计算机还不足10台时，香农一次就完成了上述研究。当时的计算机都用于数值计算。他的研究论文从推测开始，对计算机进行编程，可以使其完成计算之外的事项，包括设计继电器和开关电路、设计通信电子滤波器、翻译语言和进行逻辑推演。如今，计算机可以完成所有上述工作。

香农指出，人们相信下象棋需要“思考”。因此，他推断，是否能够让计算机思考将是一个了不起的测试案例。

香农建议，通过分析计算机已经玩过的游戏并调整其板位优势评估中的条件和系数，也许能够改善其程序。当时香农没有可用的计算机，因此他无法证实自己的想法。

不过，仅仅5年后，1955年，由于可以在向客户交货前测试计算机，IBM工程师亚瑟•塞缪尔（Arthur Samuel）因而得以使用计算机，他使用香农的方法改善了计算机的游戏表现，运行了一个下跳棋的程序。1959年，塞缪尔为此发表了一篇论文，论文标题含中有“机器学习”字眼，这是该词首次出现在出版物中。

简而言之就是：信息理论、逻辑门、非数值计算机编程、数据结构和机器学习。克劳德•香农并没有费心预测未来，他只是走在了前面并发明了未来，甚至长寿地亲眼看到自己的理念被采用。虽然他已经去世了20年，但我们并未见过像他一样的人。也许永远不会再出现这样一个人。（作者：Rodney Brooks 悦智网）

往期推荐