机器学习和社会理论：算法中的集体机器行为

摘要：

本文以金融市场为例，探讨了机器学习的兴起对社会理论的意义。基于机器学习的决策算法在证券交易中被广泛地应用，本文认为现有的社会学概念无法完全适用于机器学习的场景之中。同时，机器学习系统也具备了一定的代理能力和参与集体机器行为的形式。然而，基于机器学习的集体行为无法简化为人类决策，因此机器间的集体行为挑战了已建立的社会学概念。本文则重新审视对互动和集体行为的社会学理论以分析机器集体行为。

作者简介：

Christian Borch，丹麦哥本哈根商学院政治与哲学系

文献来源：

Borch, C. (2021). Machine learning and social theory: Collective machine behaviour in algorithmic trading. European Journal of Social Theory.

本文作者：Christian Borch

引言

人工智能 (Artificial intelligence) 驱动的技术，包括复杂的机器学习 (Machine learning) ，正在深刻地重塑社会。在这个领域内学界公认了三个特定的研究维度：个体机器行为（对个体算法的研究）、人机行为（人类与机器交互）和集体机器行为（机器与其他机器交互）。在此背景下，本文旨在讨论机器学习系统以及它们所参与的随之而来的集体机器行为(Collective machine behaviour)对社会理论的一些影响。

本文提出两个论点。首先，社会学界应该认真对待机器学习系统做出自主决策的能力。尽管这不包括任何可识别的人类形式的意识、意图或意义，但它确实表明机器学习系统具有一定的代理能力。这将机器学习系统与非基于机器学习的人工定义算法系统区分开来——而非基于机器学习的算法系统可以被视为人类决策的直接扩展，而机器学习系统则不能。其次，机器学习改变了集体机器行为。虽然社会学家已经开始思考涉及机器学习系统的人机交互的理论意义，但集体机器行为从社会理论的角度来看，涉机器学习系统在很大程度上仍未被探索。因此，本文特别关注这一级别的集体机器行为，鉴于机器学习系统的代理能力，这种行为无法简化为人类决策。

自动化证券交易是本文研究机器间连接和集体机器行为的领域。虽然机器学习系统在非金融领域有着更广泛的作用，但是证券交易过程的演变在体现机器学习取代人类决策的更迭上很具有代表性。

简而言之，证券交易的演变是这样的：从前，买卖证券的决定是由蜂拥在交易所交易大厅的人类交易员做出的。随着社会计算机化程度的提高，并且自本世纪以来以特定的速度发展，人类交易员逐渐被全自动计算机算法所取代。因此，在当今的许多市场中，大多数买卖订单都是通过所谓的高频交易 (HFT) 算法发送的。这些是完全自动化的高速算法，无需人工干预即可下订单，通常在几微秒内响应市场发展。这种算法是由人类构思的，因此表现出人类的意图。然而，在过去的 5 年中，机器学习系统在金融市场中越来越受欢迎，包括用于自动交易目的，这导致了完全由机器生成的交易策略。

机器学习的定义和在证券交易中的应用

机器学习是人工智能的一个分支。后者可以定义为通过算法或机器显示或模拟的智能，其中智能不需要完全围绕人类智能建模。从广义上讲，机器学习关注从数据中学习以提取模式并进行预测。机器学习常见的应用场景诸如爱奇艺等流媒体使用它向用户推送可能符合他们口味的节目。比较少见的例子包括 AlphaGo 程序，它基于复杂的神经网络架构，通过与自己对弈来学习获得超人的表现；这种学习不是通过人类指导完成的，也不是建立在人类知识之上的。AlphaGo懂例子体现了机器学习的基本思想，其中算法系统可以在大量数据输入上进行训练，教它产生特定的输出，通常以面向动作的预测的形式。学习阶段可以有不同的设计，根据特定的学习任务和所需的输出类型，有许多可用的机器学习技术。

卢曼（Niklas Luhmann)的社会学系统理论提供了一种有用的方法来构想人类输入与自动规则生成和决策之间的这种关系。卢曼方法的主要分析优势在于，它将沟通与意识分开，将每一个个体都视为一个独立的领域。这一观点的基础是卢曼坚持认为社会和心理系统都是自创生的、操作上封闭的系统。也就是说，它们生产和复制自己的构成元素，并对其环境保持严格的操作边界。然而，即使操作是特定于系统的并且不能跨越系统边界。一个系统可能依赖于其环境中的特定物质条件（例如数据），正如操作闭合使系统能够在认知上对其周围环境开放。也就是说，鉴于系统在操作上是封闭的，系统 A 不能直接干扰系统 B 的操作。系统 A 最多可以对系统 B 产生外部刺激，但即便存在着这样的外部刺激，在系统B中产生的影响完全由其自身决定。

尼克拉斯·鲁曼（Niklas Luhmann）

这一操作闭环显现了人类与其机器学习系统之间的关系。一旦机器学习交易系统启动并运行，人类的影响就会减少到操作上封闭的自创系统之间的刺激；人类可以将他们的复杂性（比如对市场的理解和知识）提供给机器学习系统，但最终，后者决定哪些刺激与他们相关，以及这些刺激是否以及在多大程度上影响他们的交易规则和行为。

机器学习系统独立决策能力并不意味着是说机器学习系统是完全自主的。如前所述，机器学习系统在大量人工管理的背景下运行。此外，机器学习交易系统不能突然超出训练它们的数据类型。然而，与人类先前定义的规则相比，这些系统的明显新之处在于，实际的交易规则和策略完全是机器生成的。这并不排除机器学习交易系统会在数据中提取反映人类决策的模式。例如，机器学习交易系统可能会在订单簿数据中识别出反映人工定义算法交易方式的模式，然后提出一种考虑这种人工定义决策的交易策略。尽管如此，提取这些模式以及如何从中开发交易策略仍然是机器学习系统本身的任务。机器学习交易系统的操作自主性一旦被设计出来，它们独立提取模式和设计自主交易策略的能力是反思这些系统可能具有的社会理论含义以及如何构想的相关起点。

本文专注于机器间的连接交互，并专注于机器集体行为这一概念。这在自动交易的背景下尤为重要，因为基于机器学习的交易系统永远不会在真空中运作。当今的金融市场由众多相互交互的自动交易系统组成，其交易涉及更多方面。同时，由于基于机器学习的交易策略是机器生成的，因此随之而来的集体行为无法归结为人类决策。这就提出了关于如何从社会学上对这种集体机器行为进行理论化的重要问题。

集体机器行为

集体机器行为的研究侧重于机器代理集合的交互式和系统范围的行为。传统意义上的集体行为是从从动物行为以及其延展出的社会理论归纳而来。但是机器集体行为则不同，它不一定面临与生物体相同的限制。机器的集体组合提供了新的能力（例如即时全球通信），这可能导致全新的集体行为模式。集体机器行为研究检查机器组合的特性以及这些复杂的交互系统可能出现的意外特性。

从集体行为学的角度而言，对集体机器行为的关注度虽然很高但又不明确。这一模棱两可的态度是由于它在在非人类代理之间展开。传统的集体行为理论无法确切地解释集体机器行为的交互形式和潜在的影响。相比之下，社会学理论有丰富的视角来详述各种类型的集体行为。然而，由于这些理论同样也是为了捕捉人类间的集体行为而开发的，因此它们也未必与集体机器行为的理论化明显相关。本文将通过关注交互性，嵌入性和古典集体行为三个理论解构算法交易领域集体机器行为来讨论这些理论潜在的适用性。

交互性

集体机器行为的交互性(Interaction)建立在戈夫曼(Erving Goffman) 的交互顺序概念（Interaction order)之上。在算法交易的背景下，交互顺序概念可以阐明全自动交易算法的交互动态。戈夫曼的交互顺序在当自动交易算法追求特定形式的排队实践时格外显著。例如，当一种算法试图通过下达订单来操纵市场时，这些订单会给市场以巨大的波动，然后利用其他市场参与者可能会对该波动所产生的印象试图以最佳价格卖出累积数量的股票。这一套操纵性算法还包括了下大量订单以购买该特定股票，唤醒其他算法以提高其卖出价格，然后以更优的价格卖出等一系列策略。

厄文·高夫曼（Erving Goffman）

通过这样的例子表明，交易算法可以产生丰富形式的战略互动。但是这并不意味着算法是人类智慧的延伸。诚然，人为定义的算法可以被视为人类代表，但是开发和部署人为定义的算法的人可能并不总是对他们在市场中的行为方式拥有完全的控制。所以，对于机器学习算法，将它们视为人类代表是一种误导，因为这无法理解它们独立的规则生成和决策能力。

同时这个例子也让我们认识到算法交互呈现出一种独特的顺序，任何个人交易算法都可以完全合理地被视为一个或多个人的代表。但是交互算法的集合不是我们个人或集体的代表，虽然交易算法的程序文本通常可能会因交互而保持不变，但它的实质行为方式是由交互决定的。全自动交易算法之间的交互通常会影响单个算法的行为方式。这适用于人工定义和基于机器学习的交易算法。当一个算法通过发送、修改或取消订单来响应市场变动时，这会导致电子订单的序列发生变化并触发其他算法做出反应，生成它响应的新变化等等。同时，交互也会导致其操作发生重大变化，因为它们会从这些交互中学习。换句话说，单个机器学习算法的行为会通过学习而改变，因为它们会根据与其他算法的交互不断调整其规则和行为。这表明，涉及基于机器学习的算法的算法交互构成了一种潜在的更动态的交互顺序。

嵌入性

任何交互顺序的一个核心特征是它建立在重复交互的基础上。尽管交互顺序可能会影响以前从未交互过的参与者之间的交流，但顺序本身只能基于过去经常遇到的情况而出现。此外，交互顺序可能会受到其外部存在的社会关系和社会结构的影响。这些因素都超出了戈夫曼的交互顺序概念的范畴，因此，重复的交互和社会关系的作用需要从其他的社会理论角度来思考。

本文在此尝试用格兰诺维特（Mark Granovetter）的嵌入性概念(Embeddedness)来解释这些问题。针对上世纪八十年代对传统交易大厅的人类交易员的观察研究中证明，这些交易员的反复互动产生了一种规范秩序，他们的经济行为就植根于其中。这意味着如果市场参与者违反规范，同行可能会使用各种策略与他人进行交易。在证券交易的背景下，这样的观察结论为嵌入性概念提供了实证支持。但问题是，在基于机器学习的算法交易时代，嵌入是否仍然具有分析相关性？如果是具备相关性，这将表明集体机器行为可能不仅可以根据算法交互进行分析，还可以根据重复交互如何创建共同塑造的嵌入形式来进行分析。

斯坦福大学社会学教授马克·格兰诺维特（Mark Granovetter）

格兰诺维特的论点是，在考虑人类经济活动时，重要的是要承认行动者的行为或决定是植根于社会背景之下的。他们不会盲目地遵守为他们编写的剧本。相反，他们对有目的的行动的尝试植根于具体的、持续的社会关系系统中。换言之，人类经济行为者既不是在社会真空中行动，也不是机械地制定特定的规范或角色。他们的行为源于他们与他人维持的持续社会关系并由其塑造。

所以，这种基于经济行为的社会嵌入性的概念是否仍然适用于人工智能化的证券交易时代？在这个时代，虽然互动主要介于全自动算法而不是人类之间发挥作用。但本文认为嵌入性在两个维度上具有分析价值。第一个维度涉及在算法交易中仍然很重要的人际交互。专门从事人工设计和基于机器学习的算法交易的公司认为，处理持续的社会关系至关重要，尤其是与交易所员工和第三方数据提供商的关系。这包括跟踪新的交易所更新，例如新的订单类型。虽然这种人与人之间的关系不会直接影响交易，但它们被认为对整体交易操作很重要，因此构成了自动化市场的核心包装。同样，人类员工在个体贸易公司内部进行互动，这意味着组织内的工作可能是社会嵌入的，尽管即使在业内公司内部也保持高度保密的情况并不少见。第二个维度涉及人机交互。设计和开发算法交易系统的人对它们产生情感依恋是很常见的，尽管这种依恋从人到机器是单向的，而不是相互的。用格兰诺维特的话来说，这些与机器交互的方式可能看起来像是一种模仿持续的人际关系的方式，并形成了一种可能表现出一种替代嵌入性的基础，尽管它再次是片面的，而不是互惠的。

显著集体动态性

在讨论证券交易中的集体机器行为时，闪崩（Flash crash）是一个不可避免的话题。闪崩是指由自动交易算法之间的相互作用引起的突然的极端市场波动。闪崩是交互算法明显意外后果的例子；导致算法是否可以相互作用以造成更大的市场危机的问题。关于算法闪崩的争论通常集中在 2010 年 5 月 6 日的闪崩上，这是一场出人意料的剧烈市场冲击，在交易暂停前不到 30 分钟内造成了 1 万亿美元的损失（交易恢复后市场迅速恢复）。尽管闪崩的原因尚不清楚，但人们普遍承认，由于全自动算法之间的相互作用以及由于价格大幅下跌，许多市场参与者退出市场，进一步加剧了该事件的恶化。

2010年美国股市闪崩事件，标普指数在下午2点36分开始急剧下跌，不过几分钟后又迅速回升。

事实上，小规模的闪崩经常发生。数据表明在美国平均每个交易日发生约 14 起此类事件。根据其中的一些研究，闪崩事件是算法参与积聚和从重并迅速相互模仿时可能发生的例子在自动化市场中，存在多个算法聚集到同一信号（同一宗交易）的风险，这可能导致瞬态变大的不稳定性，因此形成了大量不稳定的算法群体。闪崩事件就是HFT 与其他投资者群体之间的顺周期性相互激发的恐慌从众效应的例证。

闪崩问题的核心是涉及自动交易系统的集体机器行为可能以多种方式表现出来，包括（1)当它们试图跟踪竞争算法、推断它们的策略并与它们进行交易时；(2)当他们对订单簿中的相同信息做出反应时，可能会导致广泛的从众效应；(3)当由于一组算法发送的订单在下订单时被其他人用作输入而出现复杂的反馈循环时。

基于全自动交易算法之间的相互作用可能会出现聚集和从众效应，这表明需要重新思考理解集体机器行为的社会学框架。无论是戈夫曼的交互顺序概念还是格兰诺维特嵌入性，这种集体行为水平都难以理解。戈夫曼的工作对于理解这种动态可能几乎没有分析用途，因为戈夫曼专注于对日常行动的研究，而不是集体行为的爆发。

当然，现代集体行为理论不是用来解释算法的。然而，在理解自动化市场时，它对个体代理人的理性行为的强调确实具有一定的意义。人类定义的算法的发明和设计是为了追求牟利的个人策略。同样，基于机器学习的交易系统的算法架构背后的基本思想是自动化创建合理的利润优化策略的过程。

虽然现代集体行为理论强调理性的个体代理人的微观基础与算法交易相一致，但在理解算法交互的集体效应时，本文不太相信它有用。在人类集体行为中，人们可能有相同的目标，或者一个共同的目标会吸收他们的个人利益。鉴于算法交易是匿名的，算法不知道彼此的具体战略利益。现代集体行为理论认同理性代理人追求个人利益的概念的一个更基本的问题是，它并没有完整覆盖到显著的集体动态性，即不可归结为任何个体行动的纯集体事件。由于在这一传统集体行为理论中个体被视为的单纯数字聚合，没有任何额外的个体力量会从它们的聚集中出现，因此对于理解闪崩事件和市场中算法交互的类似的黑天鹅集体效应并没有帮助。

鉴于此，本文认为古典集体行为理论在理解集体机器行为时可能具有更宏观的分析相关性。这包括集体行为不能归结为个人行为的观念。这可以至少以两种方式进一步阐明。首先，集体机器行为不需要算法之间存在持续的关系。尽管在某些条件下可能更可能触发特定类型的集体机器行为，但核心是它们可以突然和意外地爆发，被小的个体动作或通过一些小事件的组合。其次，基于机器学习的算法会提出自己的交易策略并自动实施。这意味着从人类的角度来看，任何集体机器行为都难以预见。事实上，特别是考虑到基于神经网络的机器学习架构通常与不透明性相关，即使是机器学习专家也难以理解他们是如何得出预测和决策的，当然也就很难预测他们将如何集体行动。

同时，了解算法个体策略不足以理解它们在市场中相互作用的任何明显的集体影响。集体机器行为的水平与个体机器行为策略的水平根本不同。这就是古典集体行为理论适用于研究集体机器行为的主要原因，这表明在集体机器行为期间，即使是机器学习算法也可能会被压倒并背离它们追求的目标。这种情况类似于一种算法失范（algorithmic anomie），其发生的风险可能会在机器学习系统的运行大大超出其训练数据所反映的市场情况的情况下更高。其中已知模式不再存在，而个体算法可能更容易以意想不到的方式跟随他人。

结论

机器学习等新兴技术绝非洪水猛兽，不应惧怕它们但也不能低估它们对社会的影响。本文探讨了机器学习系统是如何由专门从事基于机器学习的证券交易的市场参与者构思和设计的。这个系统根据输入的数据以及人类设计师为他们配备的目标函数独立提出交易策略。认真对待这种运作方式具有重要的社会理论意义。首先，这意味着在金融市场中，交易决策不仅源自制定人类定义策略的算法系统，而且越来越多地源自制定自己的交易策略、从过去和现在中学习的机器学习系统并相应地调整他们的未来方向。其次，这种程度的集体机器行为需要被社会学所关注，不仅因为它影响市场和社会，还因为它描绘了一种独特形式的机器社会性的轮廓，被理解为相互之间的关系。操作自主的机器学习系统，其行为可以产生不可还原为单个策略的紧急集体效应。本文认为市场的社会嵌入性的概念不适用于研究集体机器行为。相比之下，戈夫曼的交互顺序概念和关于人群和集体行为的古典理论对集体机器行为理论的完善具有启发性。也就是说，机器学习系统在社会中迅速增长的重要性表明了一种独特形式的机器社会性的可能性，我们迫切需要一种机器学习的社会理论来诠释这一现象。

编译 | 汪浩东

审核 | 华唐门生

终审 | 李致宪

“在看”给我一朵小黄花