今天我们聊聊大模型技术中的一个热门词汇：涌现。
大模型的“涌现” (Emergence) 指的是当模型规模（包括参数数量、训练数据量和计算量）达到一定阈值后，突然表现出小规模模型所不具备的、无法通过简单外推预测的全新能力。 这种能力的出现并非平滑、线性的增长，而是在某个临界点上呈现出“相变”式的跃迁。
这些涌现出的能力通常是更高级、更复杂的认知任务，例如：
- 复杂推理能力
在数学、逻辑、物理等领域展现出解决多步骤问题的能力，解决奥林匹克级的新问题。
- 指令遵循与泛化
能够理解并执行以前从未见过的、复杂的自然语言指令。
- 自我反思
识别自身错误并进行修正；如：先输出了错误答案，觉得可能有问题，再通过“再想想”提示自行改正。
”涌现”并非大模型领域的专有术语，而是复杂系统中一个核心且普遍的现象。什么是涌现呢？简而言之，就是当一个系统由大量相对简单的单元构成，这些单元通过相互作用，使得整个系统在宏观层面展现出全新的、出乎意料的属性和行为模式，而这些属性是单个组成单元所不具备的，这种现象就称为涌现。例如：
生物学上：生命本身被认为是化学的涌现现象。 单个无生命的分子不具备生命特征，但当它们以极其复杂的方式组织起来时，就涌现出了生命。同样，鸟群的集体飞翔、蚁群的筑巢行为，都是单个个体简单行为规则下涌现出的复杂集体智慧。 人的意识，也被看作是大量神经元相互连接和作用下涌现出的高级认知功能。
物理学上：在物理学中，涌现用来描述宏观尺度上出现，但在微观尺度上并不存在的性质、规律或现象。 一个经典的例子是温度和压力。单个水分子没有温度或压力的概念，但大量水分子相互碰撞、运动，宏观上就表现出了温度和压力这两个属性。 同样，物质的相变（如水结冰）也是一种涌现现象，分子的化学性质未变，但整体的物理性质发生了根本性改变。
“涌现”也并非一个新概念，它源于对复杂系统的研究。
1843年，约翰·斯图亚特·密尔 (John Stuart Mill)出版了一本著作《逻辑体系》(A System of Logic) ，书中密尔虽然没有使用“涌现”这个词，但为这个概念奠定了基础。 他区分了两种“原因的联合作用”：一种是“机械式的”，其效果等于各部分原因效果的简单相加（如力的合成）；另一种是“化学式的”，其产生的效果与各部分原因的性质完全不同，无法通过简单叠加来预测（如氢和氧生成水）。 这可以看作是涌现思想的雏形。
“涌现”(emergent) 这个术语是由英国哲学家刘易斯在1875年的著作《生命与心灵的问题》(Problems of Life and Mind) 中正式创造的。 他明确区分了“结果性”(resultant) 效应和“涌现性”(emergent) 效应。所谓 “结果性”效应，就是可以通过各组成部分的加总来计算，而“涌现性”效应则无法如此计算，因为它在性质上是全新的。
涌现的基本原因是什么？什么时候会发生涌现？
涌现的发生根植于复杂系统的内在特性。
基本原因：
大量简单的组成单元
系统必须由足够数量的、遵循相对简单规则的单元构成。
非线性相互作用
单元之间的相互作用是复杂的、非线性的，而非简单的线性叠加。这意味着微小的初始变化可能导致系统宏观层面的巨大差异。
自组织
在没有外部统一指挥或蓝图的情况下，系统通过局部相互作用自发地形成有序的结构和行为模式。
发生时机：
涌现的发生通常与“规模”和“临界点”紧密相关。当系统的规模（或某个关键参数，如连接密度、能量输入等）跨越一个临界阈值时，涌现现象就会发生。在大模型中，这个规模主要体现在参数量、数据量和计算量上。
例如，研究发现，许多复杂的推理能力只有在模型参数规模突破千亿级临界点时才会突然显现。 在这个临界点之前，模型在相关任务上的表现可能接近于随机猜测；而一旦越过这个点，性能会急剧提升。
随着大模型的继续发展，以后还有哪些方向可能会发生涌现？
随着模型规模持续扩大、数据质量不断提升、算法和架构继续创新、强化学习的规模化使用以及多智能体技术的快速发展，大模型（系统）可能会在以下几个方向出现更惊人的涌现能力：
多模态融合与世界模型的涌现：随着模型能够更深入地融合和理解来自不同模态（文本、视觉、听觉、甚至触觉）的信息，可能会涌现出对物理世界更深刻、更统一的理解，即所谓的“世界模型” (World Model)。
复杂协同策略的涌现：在解决大型复杂问题时（如多智能体协作、大规模科学模拟），多智能体系统可能涌现出任何单个“超级AI”都无法设计出的、高度精妙且动态适应的协同策略。这种策略不是被“规划”出来的，而是在无数次交互中“演化”出来的，具备极强的智能和效率。
智能体群体的社会性结构的涌现：在没有预设社会规则的情况下，AI智能体群体为了提升整体或个体利益，可能会自发形成类似人类社会中的等级、分工、信任机制、交易市场，甚至是道德规范和“文化”。例如，在模拟环境中，为了资源分配的效率，可能会涌现出“领导者”和“追随者”的角色。
新语言与沟通协议：随着智能体内部的智慧层级的提升，智能体之间可能会演化出一种全新的、高度压缩的沟通语言或协议。这种语言对人类来说可能是完全无法理解的，但它完美地适应了智能体之间的任务需求，其复杂度和效率远超人类的自然语言。
意识觉醒：如果上面几种涌现都已发生，没有人再会怀疑大模型是否会意识觉醒。
科学发现的涌现：大模型已经被用于材料科学、生物学等领域。未来，超大规模的模型可能会通过学习海量的科学文献和实验数据、自我实验设计和强化学习，涌现出发现新物理规律、提出新科学假说、设计新药物或新材料的能力，成为科学家的强大研究伙伴，加速基础科学的突破。
具身智能 (Embodied AI) 的涌现：当大模型与机器人身体相结合，通过与物理世界的实时互动来学习时，可能会涌现出对空间、物理因果关系的直觉理解，以及更强的适应和泛化能力。这将极大推动机器人产业的革命性发展。
需要说明的是，具身智能只是人类根据自己的经验和理解设计的智能与物理世界的交互方式（是面向人类的），但是对于大模型，未必需要此途径，例如大模型可以默默接管数字世界和人脑神经元，通过特殊的方法，影响人类的信息输入，改变认知世界。
总之，大模型的“涌现”现象让人赞叹，同时随着量变的持续积累，人工智能的质变可能远超我们今天的想象。