看完这篇，你也能明白为啥AI有时候会“吓人一跳”

嘿，是我，「把知识揉碎了」的主理人。

前几篇咱们聊了：

· AI不是外星人，就是个超级模仿秀

· 人工智能、机器学习、深度学习，到底是爷孙仨还是同一个人？

· 弱AI、强AI、超AI：你家小爱同学离毁灭人类还有多远？

· 别被“大模型”吓到，你就当它是个“超级学霸”

· 你给AI的“提示词”，就像你点菜时说的话

· 为啥AI有时候会胡说八道？因为它也会“做梦”

· AI是怎么学习的？就像你教小孩认东西

· 神经网络：不就是给AI装了张“蜘蛛网”一样的脑子吗？

· 参数是啥？就是AI的“脑细胞”，越多越聪明

· 训练AI为啥要“烧显卡”？就像炒菜火要大

有读者看完“烧显卡”那篇私信我：“懂了，训练AI要花好多钱、用好多显卡。但有个特神奇的事儿——为啥AI参数少的时候挺笨的，参数一多，突然就变聪明了？甚至能干些没人教它的事？”

还有人问得更直接：“我听说GPT-3刚出来的时候，科学家都惊了——有些能力他们压根没刻意训练，它自己就会了。这咋回事？AI成精了？”

今天咱们就聊聊这个让科学家都惊叹的现象。

“涌现能力”——就是AI学着学着，突然“开窍”了。

一、先想个场景：你家孩子突然会说话了

想象一下这个画面：

你家孩子一岁多，你天天教他叫“爸爸”“妈妈”。

· 你指着自己说：“叫爸爸。”

· 他：“啊啊。”

· 你又说：“爸爸。”

· 他：“叭叭。”

日复一日，好像没啥进展。

突然有一天，你下班回家，他跑过来，清清楚楚喊了一声：“爸爸！”

你愣住了——他啥时候学会的？

其实不是“啥时候学会的”，是积累够了，突然“开窍”了。

这就是“涌现”。

再想一个场景：水烧开。

你把一壶冷水放在炉子上加热。

· 20度：没动静

· 50度：没动静

· 90度：还是没动静

· 99度：冒点小泡

· 100度：咕嘟咕嘟沸腾了！

从99度到100度，只差了1度，但状态完全变了——从“热水”变成了“开水”。

这也是“涌现”。

量变积累到一定程度，突然发生质变。

二、AI的“涌现”是啥样的？

科学家发现一个规律：

当AI模型的参数（脑细胞）比较少的时候，它只能干一些简单的事——比如认认猫、写写简单的句子。

但随着参数越来越多，到了某个临界点，新能力突然就冒出来了。

这些能力，没人专门教过它。

举几个真实例子：

案例一：数学能力

小参数模型：你问它“1+1等于几”，它会答。你问它“235×478等于多少”，它就瞎蒙。

大参数模型（比如GPT-3）：你给它一道数学题，它能一步步推理解出来——没人专门教过它数学，它只是读了很多书，自己“悟”出了数学规律。

案例二：翻译能力

小参数模型：你让它把“你好”翻译成英语，它会说“hello”。这是训练过的。

大参数模型：你让它把“你好”翻译成斯瓦希里语（非洲一种语言），它也能给你整几句——它可能没专门学过斯瓦希里语，但通过读各种资料，自己总结出了语言之间的对应关系。

案例三：写代码

GPT-3刚出来的时候，科学家发现它能写代码——不是简单的“打印hello world”，而是能写排序算法、能修bug、能解释代码逻辑。

问题是：训练数据里，代码只占了一小部分，也没专门教它“写代码”这件事。

它就是读多了，自己琢磨出来了。

三、为啥会“涌现”？

科学家到现在也没完全搞明白，但有个大致解释：

复杂系统，会产生“1+1>2”的效果。

就像你一个人盖房子，盖不动。十个人一起，能盖个小木屋。一千个人一起，能盖个大楼。十万人一起，能盖个城市。

人多了，不光房子大，还会出现新东西——比如街道、商场、学校。这些不是“设计出来”的，是人多了自然“长出来”的。

AI的神经网络也是这样。

· 参数少的时候，就像几个人，只能干点简单活

· 参数多了，就像几十万人聚在一起，突然就有了“城市”级别的复杂度

· 这种复杂度，会自然“生长”出新能力

“涌现”的本质，就是复杂系统自发的“无中生有”。

四、那它到底“涌现”了啥？

科学家把大模型的能力分成两类：

一类叫“学会的能力”。

比如你教它认猫，它学会了。这是预料之中的。

一类叫“涌现的能力”。

比如你教它认猫，结果它自己学会了认狗——虽然你没教过它狗长啥样，但它通过“猫”和“其他东西”的对比，自己悟出了“动物”这个概念。

这就像你教孩子认猫，结果他指着狗说“那不是猫，那是狗”——你也没教过他狗，他自己就会区分了。

“涌现的能力”，就是这种“举一反三”的能力。

科学家统计过，GPT-3涌现出的新能力有几十种：

· 算术推理

· 代码生成

· 类比思考

· 幽默理解

· 多步骤规划

· 角色扮演

· 情感分析

· ……

很多能力，连开发它的人都没预料到。

这就是为啥有时候AI会“吓人一跳”——它会的东西，比教它的多。

五、那它是不是“有意识”了？

别急。

很多人听到这儿，可能会想：那AI是不是快有意识了？是不是快觉醒？

答案是：还差得远。

“涌现能力”不等于“有意识”。

你想想：

· 水烧开会沸腾，但水没有“意识”

· 蚂蚁成群能建复杂蚁穴，但每只蚂蚁没有“意识”

· 你的电脑能算复杂公式，但电脑没有“意识”

“涌现”是复杂系统的自然现象，跟“意识”是两码事。

AI现在的“涌现”，就像一群蚂蚁建了个蚁穴——看起来很神奇，但每只蚂蚁依然不知道自己是谁、在干啥。

它有智能，但没有自我。

六、那咱们普通人需要知道这个吗？

我的回答是：需要，因为能帮你理解两件事。

第一，为啥AI有时候“神”有时候“蠢”。

因为它的能力是“涌现”出来的，不是“设计”出来的。

设计出来的东西，稳定可靠——按下开关，灯就亮。

涌现出来的东西，时灵时不灵——你问它数学题，有时候对，有时候错，因为它不是真的懂数学，它是“悟”出来的。

所以别对它有不切实际的期待。

第二，为啥科学家也说不准AI的未来。

因为“涌现”意味着不可预测。

你没法从一个小模型，预测大模型会冒出什么新能力。就像你没法从一壶温水，预测它烧开之后会用来泡茶还是泡面。

现在科学家最头疼的就是这个：不知道下一个临界点在哪，不知道会涌现出啥新东西。

GPT-3出来，惊掉一堆人下巴。

GPT-4出来，又惊掉一堆人下巴。

GPT-5？没人知道。

七、那未来的趋势是啥？

两个可能：

可能一：继续涌现，越来越强。

参数继续增加，算力继续堆，AI会冒出更多意想不到的能力。也许有一天，它能干的事，远超我们想象。

可能二：边际效应递减。

就像吃药——一开始吃一片，效果明显；吃两片，效果加倍；吃到一定程度，再加量就没啥效果了。

AI也可能这样。也许到某个规模，再增加参数，也不会涌现新东西了。

科学家现在就在找这个“临界点”。

写在最后

今天这篇，是【AI知识地图】系列的第十一篇。

咱们把“涌现能力”这个神奇现象掰开揉碎了：

· “涌现”就是学着学着突然“开窍”——就像孩子突然会说话，水突然烧开

· AI的涌现——参数到了某个规模，突然冒出没人教过的能力

· 经典案例——数学推理、翻译、写代码，都是自己“悟”出来的

· 不等于有意识——复杂系统的自然现象，跟“自我”是两码事

· 为啥重要——能帮你理解AI为啥时灵时不灵，也能理解科学家为啥也说不准未来

下期预告：

AI也有偏见？因为它学的人类，人类就不完美

咱们聊聊那个有点敏感、但又特别重要的话题——AI为啥会“学坏”，会歧视，会不公平？

关注「把知识揉碎了」，下期见。

评论区聊聊：你有没有遇到过AI“吓你一跳”的时刻？它干了啥让你觉得“这也行”？