《自然·机器智能》（Nature Machine Intelligence）上的研究《Aligning generalization between humans and machines》
https://mp.weixin.qq.com/s/oSVcz5QV0I8o0Bm-vxA1mA

“泛化”对AI和人类来说，意味着完全不同的事情。

人类的泛化，走的是一条“抽象”的路。我们看世界，会自动忽略掉那些不重要的细节，比如椅子的颜色、材质、高矮，然后抓住最本质的特征——“有个平面能支撑屁股”。这个过程，是概念思维。我们的大脑里形成了一个关于“椅子”的灵活框架，可以套用在任何新事物上。人类的学习是高效的。一个概念，看几个例子就通了。
AI的泛化，走的是一条“统计”的路。它没有“概念”，只有“模式”。在它眼里，椅子不是一个功能性的东西，而是一堆像素点的特定组合。它通过学习海量数据，记住哪些像素组合最可能被标记为“椅子”。这更像是暴力破解，而不是真正的理解。AI的学习是笨重的。一个概念，需要成千上万，甚至数百万个数据样本去喂养，才能勉强“记住”模式。
大脑还有一套非常聪明的“双过程系统”。系统1，是直觉系统，快、自动、不费脑子，凭感觉走。比如你一眼认出朋友，或者开车时下意识地踩刹车。系统2，是分析系统，慢、刻意、非常费劲，负责逻辑推理。比如你做一道复杂的数学题，或者规划一次长途旅行。人类能在这两个系统之间无缝切换，根据情况决定是“凭感觉”还是“过脑子”。
AI系统基本上只有一个“系统1”，而且还是个固化版的。它的模型在训练好之后，参数就基本固定了，形成一个固定的解决方案。遇到新问题，它不会灵活切换策略，最多就是在原有模式里找一个最像的答案。想让它真正适应，唯一的办法就是“回炉重造”——用新的数据重新训练一遍。
AI是个偏科严重的“天才书呆子”，在它擅长的领域能碾压人类，但综合素质和适应能力被人类吊打。在规则明确、环境可控的场景下，AI是神。比如自动驾驶，谷歌的Waymo系统在特定条件下，能把严重伤害事故减少91%，比人类司机稳多了。可一旦环境变得复杂多变，AI就立刻“拉胯”。比如语音识别，在安静的实验室里，AI的错误率可能极低，可一到嘈杂的马路边，它的错误率能飙升到50%以上，连话都听不清了。人类却没这个问题，我们在菜市场照样能聊天。因为AI的泛化是“域内”的，它只能处理和训练数据分布相似的情况。一旦遇到“域外”（Out-of-Domain）的情况，比如没见过的口音、突如其来的噪音，它的性能就会断崖式下跌。

AI取代不了人，它们根本就不是一个“物种”。

未来的方向，不是替代，而是互补。AI负责它擅长的：处理海量数据、执行重复性任务、在规则明确的领域里做决策。人类则负责我们擅长的：处理模糊和不确定的情况、进行创造性思考、做出涉及伦理和价值观的判断。

https://www.nature.com/articles/s42256-025-01109-4
https://neurosciencenews.com/human-ai-adaption-neuroscience-29689
https://techxplore.com/news/2025-09-machines-struggle-unknown-exploring-gap.html