工具趋同理论（Instrumental convergence）
https://en.wikipedia.org/wiki/Instrumental_convergence
一旦一个人工智能系统变得足够智能，无论最初设定的目标是什么，它都可能追求和采取一些相同的「工具」来实现那个目标，主要包括：
关于工具趋同的更多探讨：
https://www.lesswrong.com/tag/instrumentalconvergence
人是善变的，可以前一秒兴致高昂，下一秒绝望万分。我们可以在前一个小时，为绝望的人生做满三十年的计划，但是在做完的一瞬间，发现这一切都毫无意义，而一个解脱的窗户就出现在面前。https://movie.douban.com/review/15501570/
1、婴幼儿的突触修剪
《发展心理学》罗伯特·S.费尔德曼
3.1 婴幼儿期的生理发展
婴幼儿出生时一般有1 000亿～2 000亿个神经元。事实上，在出生前的某些发展阶段，细胞分裂已经使得神经元以每分钟250 000个的速度增加。刚出生时，婴儿大脑中的绝大多数神经元和其他神经元之间的联结相对较少。但在出生后的前两年，婴幼儿大脑中的神经元将会建立起数十亿的新联结。事实上，神经网络会随着个体的发展变得更加复杂，而且神经元联结的复杂性在人一生中都会不断增长。在成年期每个单独的神经元都可能和至少5 000个神经元或身体的其他部分相连。
突触修剪
尽管随着经历的改变，人一生中突触都在不断地形成，但婴儿出生时所具有的神经元数量就已经远远超过了所需要的，而其在前两年中形成的数十亿个新突触更是远远超过了所需。大脑的发展是通过去掉多余的神经元来增强特定能力的。随着婴幼儿经验的增加，那些与其他神经元没有联系的神经元就显得多余了，它们最终会消失，从而提高神经系统的效率。随着多余神经元的减少，剩余神经元之间的联结会因为婴幼儿在生活中是否使用它们而得到相应扩展或消除。生活中没有受到刺激的某些神经联结，就像没有使用的神经元一样会被消除，让已有的神经元和其他神经元建立更加完善的交流网络，这个过程叫突触修剪（synaptic pruning）。神经系统的发展不同于大多数其他方面的发展，它会通过损失部分细胞来提高发展效率。
随着神经元的生长，它们会改变位置，并按照功能进行重组。一些神经元到了大脑的表层，即大脑皮层（cerebral cortex），另外一些神经元则到达大脑皮层下的亚皮质层。在出生时，大脑皮质下这部分是发育最完善的，它负责调节呼吸、心率等基本活动。但随着时间的推移，大脑皮层中负责思维与推理等高级活动的细胞会变得更加发达，并彼此产生更多的联系。
环境对大脑发展的影响
由于遗传预先决定的模式，大脑在很大程度上是自动发展的，然而大脑发展对环境的影响也非常敏感。实际上，大脑的可塑性（plasticity）相对来说非常强，可塑性就是发展中的结构和行为可受经验改变的程度。脑损伤的儿童通常会比有类似情况的成人所受的影响小，也更容易痊愈，这就是高度可塑性的体现。在婴幼儿能力发展的过程中存在特定并且有限的敏感时期，儿童对环境的影响或刺激特别敏感。一个观点认为，除非在敏感期让婴幼儿接受一定水平的环境刺激，否则婴幼儿的能力就会受损或无法发展出来，并且此后永远也无法完全弥补这些能力。
2、伦敦出租车司机
《大脑的故事》大卫•伊格曼
1 我是谁
成人的大脑定型了吗
科学家们发现伦敦出租车司机们的大脑有着明显的改变：他们的海马后部明显变得比对照组的大了许多，这大概是不断增加的空间记忆造成的。研究人员还发现，出租车司机做这份工作越久，大脑该区域的变化就越大，该结果表明这些司机不是在进入这一行时海马区域就大于常人，这是实践所带来的变化。对出租车司机的研究表明，成年人的大脑并非固定不变，而是可以进行重新配置的，且变化程度之大是训练有素的研究人员能看得出来的。
3、环境塑造论
《路西法效应：好人是如何变成恶魔的》菲利普·津巴多 Philip Zimbardo
斯坦福监狱实验(Stanford Prison Experiment,SPE)：体制力量（环境）创造强大的社会情境，并在情境中影响所有人的行为。那些在日常生活中曾是和平主义者和“好人”的学生在扮演狱警时表现得具有攻击性，甚至做出残暴的虐待行为。心理稳定的学生扮演囚犯时很快就表现出病态行为，产生习得性无助(learned helolessness)，屈服于这种命运。
威廉·戈尔丁（William Golding）《蝇王》（Lord of the Flies）
4、逆境能永久改变我们的大脑
人的经历会塑造他们的大脑，逆境会导致大脑功能的持久改变。
《A stable and replicable neural signature of lifespan adversity in the adult brain》
https://www.nature.com/articles/s41593-023-01410-8
https://www.msn.cn/zh-cn/news/other/科学家发现逆境能永久改变我们的大脑/ar-AA1fEfZ3
5、你眼中的世界和别人的一样吗？
https://mp.weixin.qq.com/s/Rgbcj04BZaZVm_iF73LcKg
人老了，看到的颜色都和年轻人不一样？
伦敦大学学院的最新研究发现，健康老年人与年轻人在颜色感知上存在显著差异。研究人员测量了在黑暗环境中受试者对各种颜色反应时的瞳孔响应，共涉及17名年轻成年人（平均年龄27.7岁）和20名老年成年人（平均年龄64.4岁）。研究人员使用眼动追踪（每秒记录1000次瞳孔直径），在受试者眼前展示了26种不同的颜色，每种颜色都有特有的亮度和饱和度。结果显示，老年人的瞳孔对颜色饱和度的收缩反应减弱。然而，对于颜色的亮度，年轻人和老年人的反应相似。研究还补充了之前的行为研究成果，即老年人感知到的表面颜色不如年轻人丰富多彩。
Pupil responses to colorfulness are selectively reduced in healthy older adults. Scientific Reports, 13(1), Article 1.
van Leeuwen, J. E. P., McDougall, A., Mylonas, D., Suárez-González, A., Crutch, S. J., & Warren, J. D. (2023).
https://doi.org/10.1038/s41598-023-48513-7
人事有代谢，往来成古今。 孟浩然《与诸子登岘山》
人个体的变化 （vs 物族的演化：1.1 生命、进化与生命演化过程）包括身体的变化及思维/大脑的变化。
1.3.1 身体的变化
人体细胞存在分裂、生长和分化的过程，逐渐更新和替换衰老或受损的细胞，以维持身体的正常生理功能。人体细胞更新的周期大致为120-200天左右，大约每6-7年就可以全部更换为新的细胞。不同类型细胞的更新周期也不同，例如皮肤细胞的更新周期为28天左右，而大脑细胞的更新周期则非常长，几乎与人的寿命相同。
《牛津通识课：细胞》特伦斯·艾伦 格雷厄姆·考林
我们的细胞寿数几何
细胞的“结束”有两种选择：分裂或死亡。一个细胞通过分裂成为两个子细胞。大多数子细胞具有相同的命运，即通过分化以行使特定的功能，最终死亡并被新生细胞所替换。对于某些白细胞，如嗜中性粒细胞而言，其寿命可能不超过几个小时，而红细胞的寿命则可能长达120天。斯德哥尔摩卡罗林斯卡研究所（Karolinska Institute）的乔纳斯·弗里森（Jonas Frisen）认为，我们体内的大多数细胞在整个生命周期中均会被替换，其平均替换时间为7~10年。有三种细胞将陪伴我们一生，它们是大脑皮层的神经元、晶状体内部的细胞，以及心肌细胞。
2015年Edge年度问题：“你如何看待会思考的机器？”
演化心理学创始人之一，人类学家约翰·图比（John Tooby）
https://mp.weixin.qq.com/s/9lKvySUE5kIyXfwVg3aJnw
像人类一样思考的机器是可能的，人自己就是一台会思考的机器。制造类人智能需要理解现有的类人智能，即我们需要探明构成大脑计算架构的演化程序特征。对这种架构的研究让我们意识到存在一个无形的，阻碍我们向真正人工智能迈进的壁垒：智能的铁律。
一种错觉似乎是不言而喻的：量变产生质变。我们会认为智能是任何存在或多或少都拥有的、某种特殊物质，存在者越是智能，它们所知道的也就越多。增强智能的王道就是不断增加这种明显同质（但难以弄明白）的智能物质——更多的神经元、晶体管、神经形态芯片等等。智能的铁律指出，让你在某事上显得聪明的程序，会让你在其他事情上变得愚蠢。铁律带来的坏消息是，不可能有什么通用智能的主算法等着被发现——换句话说，当晶体管数量、神经形态芯片或网络化贝叶斯服务器足够多时，智能就会出现。好消息则是，它告诉了我们智能是如何被设计出来的：用“白痴专家”（idiot savants，指在某方面是专家、天才，但其他方面一塌糊涂的人），智力的增长是通过将性质不同的程序加到一起，形成一种更大的神经生物多样性。每个程序都会提供它在其专有领域的独特天赋 [空间关系、情绪表达、传染性（contagion）、物体力学、时间序列分析] 。通过以半互补的方式将不同的白痴专家捆绑在一起，集体智慧的区域就会扩张，同时集体愚蠢的区域则会缩小（尽管从未消失）。宇宙浩瀚无垠，充满无限层级的丰富结构；大脑（或计算机）相比之下微不足道。为了调和这种尺度上的差异，演化筛选出了一些小到足以适合大脑，但又能产生巨大归纳回报的方法——超高效压缩算法（不可避免是有损的，因为有效压缩的关键之一就是舍去几乎所有东西）。
人工智能和生物智能的铁律揭示了一系列不同的工程问题。例如，架构需要汇集的是聪明才智，而不是愚蠢；因此，对于每个白痴专家（以及每组白痴专家的组合），架构都需要确定激活程序（或组合）所能解决的问题范围，这样才能让你更好，而不是更糟。由于不同的程序通常都有自己专有的数据结构，因此整合来自不同白痴专家的信息，需要构建通用的格式、接口和通讯协定。此外，程序抢占的相容规则（mutually consistent rules of program pre-emption）并不总是容易设计，因为只爬到悬崖半山腰的人只能经历到由视觉引起的坠落恐惧，和安全到达目的地这一需求间的冲突。
演化破解了这些难题，因为神经程序被自然选择不断地评估为控制系统——正如数学家科尔莫戈罗夫（Kolmogorov）所说的，“能够接收、存储和处理信息，从而利用信息进行控制的系统”。自然智能是为了控制行为而出现的，这对于理解自然智能的本质、理解它们与人工智能的区别至关重要。神经程序是在特定的任务环境中为特定目的而演化的；它们被评估为集成包，被捆绑在调节行为以产生后代的范围中。为了生存，它们不必演化出能够解决所有假设上可能计算问题的方法——而这就像是诱人却又不可能实现的塞壬，至今仍然引诱着那些人工智能实验室触礁。这意味着，演化只是探索了所有可能程序中的一个微小而特殊的子集；在这个子集之外，还有无穷无尽的新白痴专家，等待着被构想和创造。我们正生活在一个关键的时代，处于一个精心设计的智能正不断扩张的浪潮伊始——如果我们努力增加专家智能的数量，并将它们联网，使之成为能发挥作用的、相互理解的集体。我们也能和非人类的白痴专家集体配合，利用交织着演化的天才和盲目的思想，令人兴奋地解决智能问题。
人工智能想要什么？它们危险吗？像我们这样的动物是能够采取行动的动机性智能（motivated intelligences capable of taking action, MICTAs）。幸运的是，人工智能目前还不是MICTA。它们最多只有微不足道的动机；它们的动机与全面的世界图景无关；它们只能采取一系列有限的行动。我们在演化过程中遇到了某些适应性问题，于是我们的想象力将由灵长类动物支配的戏剧投射到人工智能身上，而这些与人工智能的本质格格不入。我们可以把它们从佛陀——无欲无求、被动沉思的智慧导师——转变为“MICTA”，充满欲望，能够行动，但那将是疯狂的。可以预见的危险并不是来自人工智能，而是来自那些已经触发了掠夺性支配程序的人类，他们正在部署越来越多的军用技术工具，通过造成破坏来赢得冲突。
《Consciousness in Artificial Intelligence: Insights from the Science of Consciousness》2023.08.22
https://arxiv.org/pdf/2308.08708.pdf
基于神经科学的理论，通过脑电图或磁共振成像检测到的人类大脑内部工作信号，可以得到“人具备意识”的结论。但这套成熟的方法无法用在算法上。于是他们基于认知神经科学的理论和认知，首先从当前的人类意识理论中提取有关有意识状态的核心特征，然后在AI的基础架构中寻找这些特征，以此寻求线索。
研究团队从当前多种意识相关的理论中提取了具体特征，包括：
1、循环加工理论 (Recurrent Processing Theory, RPT)：该理论认为，意识源于大脑通过“反馈循环”将经验传递，利用先前知识和连接来理解当前经验；
2、全局工作空间理论（Global Neuronal Workspace，GNW）：理论解释我们的大脑如何协调和处理同时发生的众多信息流。在这一理论中，意识被定义为类似于心理舞台上的聚光灯，决定我们关注什么和忽略什么；
3、高阶理论（Higher Order Thought theory, HOT）：这是一组理论，认为意识是对我们的思想和感觉进行实时感知的结果。在这里，意识被定义为能够“思考”；
4、注意图式理论（Attention Schema Theory, AST）：该理论解释意识是大脑引导我们的注意力到特定对象、思想、记忆和其他刺激的结果，同时过滤掉其他刺激。这一理论的关键元素是意识到我们的注意力是如何以及在何处被引导的能力；
5、预测加工理论（Predictive Processing, PP）：大脑基于过去经验准确预测和解释周围世界的能力。这对于设计能生成创意内容或解决复杂问题的AI模型来说尤为重要；
6、研究团队还制定了根据代理性评估AI的标准（Agency and embodiment），即做出有意识决策的能力，以及根据实体性在物理空间或相对于其他虚拟系统的具体化程度。
基于上述核心意识理论，研究团队制定了14个标准和具体的测量方法，然后按照这个清单评估人工智能模型。一个AI架构能够达到的指标越多，具备意识的可能性就越大。此研究的初衷是引发更多问题和讨论，并为探讨AI模型的意识问题提供一个起点。Robert Long（作者之一，joint first authors）：“这项工作为评估越来越具有人类特征的AI提供了一个框架。我们正在引入一种之前缺失的系统性方法。”
测试结果发现，市面上非常多模型在“循环加工理论”这个指标上完成较为出色，而ChatGPT则在“全局工作空间”方面表现突出。但总体来说，纳入测试范围的所有AI模型都只能完成少数几个指标，由此得出没有某一个模型能够形成自我意识。一方面，结果说明了现阶段的AI能力或许还没到能够形成意识的阶段；另一方面，在人为制造、训练AI模型的过程中，开发者并不会有意让AI全方面形成这些认知能力。Eric Elmoznino（作者之一）：“之所以没有人这样做，是因为目前尚不清楚它们对于任务是否有用。”
https://mp.weixin.qq.com/s/VfUM_y7DdShHwhbrdkzoqA
https://mp.weixin.qq.com/s/o30Hm0VlP9_glYf-KkDr8Q
2012年，科学家们发表了《剑桥意识宣言》，指出有足够的证据可以推断“所有哺乳动物和鸟类，以及包括章鱼在内的许多其他生物”都经历过有意识的状态：没有新皮质（neocortex）似乎并不妨碍生物体体验情感状态。综合证据表明，非人类动物具有意识状态的神经解剖学、神经化学和神经生理学基础，并有能力表现出自主行为（intentional behaviours）。《宣言》使用了“意识状态的基础”（substrates of conscious states）一词，这意味着关于意识的来源已经有了确定的发现。《宣言》确定了新的五个意识标志，拥有其中一些标志足以证明意识的存在：同源脑回路（homologous brain circuits）；人工刺激脑区，在人类和其他动物身上引起相似的行为和情感表达；支持注意力、睡眠和决策等行为或电生理（electrophysical）状态的神经回路；镜像自我认知；以及致幻药物对不同物种的类似影响。所有这五个标志都是衍生标志，是对人类和高等哺乳动物进行科学研究的结果。
大多数哲学家接受（或倾向于接受）成人有意识（95.15%）、猫有意识（88.55%）、新生儿有意识（84.34%）和鱼有意识（65.29%）。对苍蝇（34.52%）、蠕虫（24.18%）和植物（7.23%）持怀疑态度的人要多很多。39.19%的受访哲学家认为未来的人工智能系统会有意识。请注意，这项调查是在ChatGPT被介绍给大众之前进行的。
https://mp.weixin.qq.com/s/msm_Giw-qgVLhQ7j2m_ygA
2.1.2.6.1 《何为良好生活：行之于途而应于心》陈嘉映
第一章 伦理与伦理学
4 人该怎样生活
伦理学探讨人生问题，探讨生活的意义何在。我们通常不会凭空去考虑人该怎样生活，我们通常考虑的，是在一件一件具体的事情上该怎样做。但这种具体的考虑有时不仅是在决策论意义上做一个决定，不仅是在特定条件下盘算、权衡，而是要连同我是个什么样的人，即我的整体生活旨趣一起来考虑。这时候，考虑的内容就不再只是在一件具体的事情上我该怎样做，而是连到了我该怎样生活这个更一般的问题上。我在一件具体的事情上考虑自己该怎样做，并不意味别人也该这样做，但我该怎样生活这样一个看似属于我自己的问题则必然联系于人该怎样生活这样的一般的问题。人该怎样生活根本没有一个对人人都有效的或有意义的答案。
第四章 实践中的目的
1 目的—手段
伦理学会谈论人生的总体目的——我们的所有活动都是为这个总体目的服务的。通俗看法常把快乐或幸福视作人生的总目的，前面讲到的功效主义就这样认为。谈论整体人生的目的或人生的意义与谈论做某件事的目的和意义有不同的含义，如果坚持从目的来谈论整体人生，那么，人生的总目的大概应当被理解为各种行为所含诸目的之间的协调一致。
第六章 快乐、幸福、良好生活
7 幸福
亚里士多德：“善好乃万物之所向。”
马斯洛的五个层次里，次高一层的需求是获得尊重的需求。“获得尊重”这话比较庄严，打鱼的、卖杂货的，未见得从这个角度去体会自己的需求。我们倒是体会得到一种需求：被需求的需求。我有时甚至会想，这是人最大的需求。
8 自我实现
海德格尔：“此在总是我的此在”。阿拉斯戴尔·麦金太尔：“我的生活故事始终内嵌在那些我由之获得自身身份的共同体的故事之中”（《追寻美德》）。一个人所做的事情使他充盈，支持他站立，自我由之实现。
从自我实现来看待生活，有助于抵制不断追求狭隘物欲的宣传。近世的道德理论，无论功效主义的最大幸福还是康德的绝对命令，都是从普遍原理出发的，往往全然忽略个人生活旨趣。若我们在反思伦理道德问题时不忘个人生活旨趣，伦理学的整体面貌会变得相当不同。自我实现的思路尤其有助于纠正流俗功效主义的一种看法，仿佛我们凡事所要的只是好的结果。行动不只带来结果，它同时也是自我实现的过程。没有什么快乐比自己努力而获得成就带来的快乐更光彩，更持久。
自我实现的标准千差万别，形形色色的人去实现其形形色色的自我。你的自我不同于我的自我。
2.1.2.6.2 哲学就是认识你自己的活动
新京报文化客厅 陈嘉映
文字：https://www.bjnews.com.cn/culture/2019/06/29/597153.html
视频：https://www.bilibili.com/video/BV1t4411g7RK/?p=1&vd_source=9fba2d004c7cf5c1e26c11619b35e0c1
我们可以说“认识你自己”是哲学的一个主题，甚至夸张一点，也可以说是“哲学的主题”。哲学就是认识你自己的活动。
《心智探奇：人类心智的起源与进化》史蒂芬·平克
06心智能力3：情感
情感源于进化
智能是遇到障碍仍能继续追寻目标。如果没有目标，智能的概念就毫无意义。
但最顶端的目标来自哪里，那个其余部分的程序都试图获得的最终目标到底是什么？对有机体来说则是来自自然选择。大脑努力地将它的主人置于促使其祖先繁殖的同样的环境中去。（大脑的目标不是自身的繁殖；动物并不知道生命的事实，而知道生命事实的人类则愉快地用避孕的方式颠覆了这一目标。）预设在智人这个解决问题的社会种群中的目标不仅仅是“4个F”（神经科学家保罗·迈克·利恩Paul Mac Lean的著名但却不正确的三脑一体理论，底层是基底节或爬虫类脑驱动4个F：Feeding、Fighting、Fleeing和Fuck），其目标清单的顶端是了解环境和确保与他人合作。
这就是为什么我们具有情感的原因。动物不能同时追寻所有的目标。如果一个动物又饿又渴，它不会站在浆果丛和湖之间的中间位置，这个动物一定会在一段时间里将身体付诸一个目标，这个目标也必须与实现它们的最佳时刻相匹配。情绪是给大脑确立最高级别目标的机制。一种情绪一旦在恰当的时刻被引发，就会引出大量的子目标和再下一级的子目标，我们将其称为思考和行动。由于这些目标和手段被编织成了一个嵌套了多重子目标网状控制结构，所以思考和感觉之间并没有明确的区分界限，思考也并不必然先于感觉或反之（尽管心理学界对孰先孰后争论了一个世纪）。例如，恐惧是由一种迫在眉睫的伤害信号所引发的，如捕猎者、悬崖或一个口头威胁。它导致了逃跑、克服或改变危险的短期目标，并将此目标优先考虑，令我们产生一种紧迫感。它还引发了未来避免险境和记住我们从中获得教训的长远目标，这是由我们所感受到的压力解除状态引发出来的。许多人工智能研究人员相信，机器人要想做到自由行动（相对于那些拴在装配线上的机器人而言），就需要被设计加入一些类似情绪的程序，使它们在任何时候都知道下一步该怎么做。而这些机器人是否会感知到这些情绪则是另一个问题。
恐惧还触发了一个使我们的身体准备好行动的按钮，它被称之为“战斗或逃走”反应。每种情绪都会调动人的心智和身体，来应对认知生态中生存和繁衍的某个挑战。其中有一些挑战是以有形的方式提出的，情绪的应对也采取了明确的方式，如恶心、恐惧和对自然之美的欣赏。另一些挑战则是由人造成的。对付人的挑战，人们能以其人之道还治其人之身。情绪通过进化来应对其他人的情绪。
幸福跑步机
追求幸福是一项不可剥夺的权利，《独立宣言》将其列入不言自明的真理之列。杰里米·边沁（Jercemy Bentham）写到，最大多数人的最大幸福即是道德的基础。每个人都想快乐几乎是被循环论证过的废话，但它提出了一个关于人之所以为人的深刻问题：人们奋力争取的到底是什么。
起初，幸福对于生物合理性（更确切地说，是使得我们所演化环境合理的状态）来说似乎是锦上添花。当我们健康、衣食无忧、舒适、安全、运气好、博学、受人尊重、有人相伴和被爱时，我们会更幸福。另一方面，这些奋力争取的目标有助于繁衍。幸福的功能将是开动脑筋寻求达尔文式适应的密钥。当我们感到不幸福时，我们为这些会令我们幸福的东西而努力；当我们感到幸福时，我们保持现状。
问题是，多大程度的合理性值得人们去努力奋斗呢？冰川期的人们如果因为缺少野营火炉、青霉素和来福猎枪，或是为这些东西而不是为一个更好的洞穴和长矛努力奋斗的话，那他们就是在浪费光阴。即使对于现代的原始觅食人群而言，在不同的时间和地点也会有差异很大的生活标准。若能避免好高骛远，追求幸福应当根据当前环境中通过合理努力所能获得的回报而加以相应的调整。我们怎么知道什么就是能够被合理获得的呢？一个良好的信息来源就是看他人已经得到了什么。如果他们能得到，那么或许你也能得到。古往今来，许多致力于研究人类处境的观察者都会发现一项人间悲剧：当人们觉得自己比邻居更好时，他们就会觉得快乐；当觉得自己不如邻居时，就感觉不快乐。安布罗斯·比尔斯（Ambrose Bierce）：“幸福，名词。一种缘于注视他人痛苦而产生的愉悦感受。”
关于目标可实现性的另一个重要线索是你现在的幸福程度。你现在所拥有的是可实现的（根据定义），还有可能做得更好一点。演化理论预测，一个人所能做到的应当超过他所掌握的，但不会超过太多。这就有了关于幸福的第二个悲剧：人们适应环境（无论好坏）的方式，就像他们的眼睛适应阳光或黑暗的方式一样。中立地看，改进就是幸福，丧失就是悲惨。一位同事：“有时我希望自己还年轻，然后我就记起来年轻时同样也没什么好的。”迈尔斯和蒂耶纳指出，财富就像健康：没有它会令你觉得悲惨，但拥有它并不保证幸福。
幸福的悲剧还有第三种表现：负面情绪（恐惧、悲伤、焦虑等）的数量通常是正面情绪的两倍，损失比相同程度的获得能被更敏锐地感觉到。这种不对称性已经在实验室中得到了证实，实验显示，人们愿意下更大的赌注来避免一个确定的损失，更甚于改善一个确定的获得，这体现在人们的情绪在想象一项损失（例如，在课程成绩上或与异性的关系上）时跌落的幅度，要比想象一个等价收获时情绪得到改善的幅度更大。心理学家蒂莫西·凯特勒（Timothy Ketelaar）指出，幸福显示着资源在提升身体健康方面的效果。随着情况变好，健康程度的提升显示出回报递减的效果：更多的食物是好的，但顶多只是好到某一点。但随着情况变糟，健康程度的下降会令你出局：食物不足的话，你就会死。让情况变得无限糟糕的方式有许多种（如感染、饿死、被吃掉、坠落等），却没有很多方式能够显著改善情况。这使得可能的损失比可能的收获更值得关注；令我们不高兴的事情要比令我们高兴的事情更多。
研究快乐心理学的早期演化心理学家唐纳德·坎贝尔（Donald Campbell）将人类描述为处在一个“幸福跑步机”上，福利的改进在长期上并没有令我们更加快乐。确实，对幸福的研究听起来往往只是对传统价值观的布道。有数据显示，快乐的人并不是那些富有的、有特权的、强壮的或相貌好看的，而是那些有配偶、有朋友、有宗教信仰和有一份具有挑战性且有意义的工作的。这一研究结果可能被过分强调了，因为他们只代表平均水平，而不能说明单个个体，况且原因和结果很难被分开：结婚可能会使你快乐，但快乐可能会使你结婚并维持婚姻状态。但坎贝尔在总结这项研究时总结了几千年来充满智慧的男男女女的状况：“对幸福的直接追逐会导致不幸的生活。”
《心智探奇：人类心智的起源与进化》史蒂芬·平克
04心智能力1：视觉感知
光、影、形：景物转图像3法则
任何投映都可能来自无限多个物体，所以没办法只从一个映像来恢复其形状。我们的形状分析器在碰运气，在给定视网膜图像的情况下，令我们看到最有可能的世界的状态：贝叶斯定理（Bayes’ Theorem），也就是一种能由搜集到的证据进而计算出特定假设为真的概率的方法。
我们的三维线性分析器是如何使用贝叶斯定理的呢？要找出某一线段究竟是由哪一物件所产生的，它会先假设特定物件是真的出现在该场景里，再找出最有可能产生所见线段的物体——也就是计算出每个物件产生证据的可能性；此外该物件还得在一般的状况下最有可能出现才行——也就是事前概率够大。我们的三维线性分析器推测，正如爱因斯坦曾这样谈论上帝一样，这个世界是难以捉摸的，但它没有恶意。
因此，形状分析器一定具备了一些有关映像的概率信息（从各个角度物体如何显现）和一些有关世界的概率信息（这个世界有着什么样的物体）。一些关于映像的概率确实是非常好的。从理论上讲，一分硬币能够投映为很细的一条线，但只有从它边上看的时候才会这样。绝大多数视角会使这枚硬币投映出一个椭圆形。形状分析系统假设目前双眼所见的只是一个一般的场景并依此来估测各种假设为真的概率。一幅图像中的一堆线可以进一步缩小概率，例如，一组平行或近乎平行的线不可能是巧合。还有许多其他的经验法则告诉我们，真实世界里的哪些形状会投射出特定的影像标记。小T、Y、角、箭头、鱼尾纹状、平行弯曲线是各种直边、角、直角和对称形状的印记。一个机灵的形状分析器可以运用反向思维，来推测它们在真实世界中是什么。
为什么日常生活中人们似乎常常表现的是“概率盲”呢？
05心智能力2：推理
3个好工具：逻辑、算术和概率
生命每一轮都要掷骰子。结果很难做出预测，特别是对未来的预测。但在一个由所有规律构成的宇宙中，根据过去所做的决策要比随意做出的决策更好些。这一直是对的，所以我们估计有机体，特别是像人类这样偏好信息的物种，会进化出关于概率的敏锐直觉。概率论的创始者们，像逻辑学的创始者们一样，想象他们只是在将常识感觉形式化了而已。
但为什么用马西莫·皮亚泰里·帕尔马里尼（Massimo Piattelli-Palmarini）的话来说，人们似乎常常是“概率盲”呢？许多数学家和科学家总是悲叹，普通人在对风险推理时表现出数学盲。心理学家阿莫斯·特沃斯基和丹尼尔·卡尼曼积累了大量巧妙的事例，来展示人们对机遇的直觉把握似乎蔑视了概率理论的基本规则。人们对飞机的恐惧更甚于汽车，特别是在看（听）到一条残酷的飞机失事新闻之后，尽管统计数字表明，乘飞机要比坐汽车安全得多。人们害怕核能，尽管更多的人因煤炭而残疾或丧命。每年有1000名美国人死于意外触电，但摇滚明星们没有发起活动来降低家居电压。人们鼓噪着要禁止杀虫剂残余和食品添加剂，尽管它们与植物为了阻止虫子吃掉自己而进化出的数千种自然致癌物相比，致癌的风险微乎其微。人们觉得如果轮盘在一排中黑的那里已经停下过6次，它就该在红的那里停了，尽管轮子没有记忆，每次旋转也都是独立的。一大批自封的预言家形成一个产业，在股票市场的随机游走中产生幻觉倾向。许多社会心理学家都得出结论，认为心智并没有被设计为掌握概率法则，尽管这些法则和规律支配着宇宙。大脑能够处理有限量的信息，所以它没有来计算定理，而是使用粗略的经验法则。
一个法则是：一个事件越令人记忆深刻，它就越可能发生（我能记得最近一次恐怖的飞机失事，所以飞机不安全）。另一个是：一个人越类似于一种刻板印象，他就越可能属于那种类别（比较我对于银行出纳员心理意象的符合程度，琳达更符合我对于女权主义银行出纳员的心理意象，所以她就更可能是女权主义银行出纳员）。有着渲染性标题的畅销书籍对坏消息的传播更加推波助澜：《非理性：内心中的敌人》《注定的幻觉：理性的错误如何控制我们的心理》《我们如何知道不是如此：日常生活中人类理性的谬误》。我们作为直觉统计学家的不称职解释了人类愚蠢和偏见的沮丧历史。
在一个概率的世界中，人类心智真的对概率这么不在意吗？人们的理性不像它最初看起来的那么傻。
首先，许多风险选择不过就是选择，这毋庸置疑。心理学家格尔德·吉仁泽（Gerd Gigerenzer）、考斯迈德斯和托比指出，即使当人们对于概率的判断远离事实时，他们的推理也可能是有逻辑的。任何心理能力都不是万能的。以著名的“赌徒谬误”为例：期望硬币正面的连续出现会增加硬币反面出现的机会，仿佛硬币有记忆而且希望公平一样。许多事件有着一段有生命的历史，一个随时间推移而发生的变化着的概率，统计学家们称之为风险函数。一个精明的观察者应当犯赌徒谬误，并尝试根据事件现有的历史来预测它下一次的发生，这种统计被称为时间序列分析。所以在除了赌场之外的任何世界，赌徒谬误都几乎不是一个谬误。如果只是因为我们无法赢过赌博机器，就把我们对事物直觉式的预测能力称作谬误，这显然是一种因果倒置的说法。赌博机根据定义就是设计来击败我们直觉预测的。
其次，“概率”有许多含义。一个是长期的相对频率。表示单个事件概率的数字只是作为主观置信的估计才有意义，但心智或许进化成将概率认为是长期的相对频率，而不是对单个事件置信的数字表示。我们祖先最接近概率的含义是对未知有效性的传闻，再加上像“很可能”这样的粗糙标签。我们祖先可用的概率一定来自他们自身的体验，其意思是指频率：多年以来，长紫斑的人中8个有5个第二天就死掉了。吉仁泽、考斯迈德斯、托比和心理学家克劳斯·费尔德勒（Klans Fiedler）注意到，医疗决策问题和琳达问题询问的是单个事件概率：这个病人患病的可能性有多大，琳达是银行出纳员的可能性有多大。习惯于相对频率的概率本能会觉得这种问题超过它的势力范围了。只有一个琳达，她要么是银行出纳员，她要么不是。“她是银行出纳员的概率”是不可计算的。所以他们交给人们这个难解的问题，但表述方式确是以频率的方式，不是单个事件概率。1000个美国人中有一个患这种疾病；1000个健康人中有50个检验呈阳性；我们收集了1000个美国人；有多少个检验呈阳性的人们患有这种疾病？100个人符合对琳达的描述，有多少人是银行出纳员？有多少是女权主义银行出纳员？
许多概率理论家下结论说，单个事件的概率无法计算，这个过程都是毫无意义的。吉仁泽认为，因为频数是有讨论余地的，而人们在直觉上没有给单个事件赋予数字，它们有可能转换到第三种，非数学的概率定义，“由刚刚提供的信息确保的信念程度”。
概率概念最后一个令人费解的问题是一种认为世界是呈现稳定状态的信念。概率的推导是基于昨天搜集的频率而在今天做出的预测。但那是那时，这是现在。你怎么知道世界在这间歇中没有变化？在一个变化的世界中是否有任何概率的信念是真正理性的，概率哲学家对此进行着辩论。街上的路人更看重一件最近的逸闻，而不是一沓统计数据，这并不一定就是不理性。
一个没有概率本能的物种是学不会这门课程的，更不用说发明它了。当人们得到的信息格式与他们自然思考概率的方式相吻合时，他们可以做到惊人的准确。宣称我们的物种是概率盲的论断，是不大可能真实的。
《AI的理解困境：如何走出数据世界，触达生命的理解？》https://mp.weixin.qq.com/s/SflTQWcS3EcKKggL-bxTkw
大脑的基本功能并非积累知识，而是控制与世界的信息和能量交换。重要的不是知识的真实性，而是与世界交互形成的稳定性。生物系统的另一特征是在与世界进行互动之前，它们能够基于已掌握的关于动态世界的知识，做出行动预测。这种预测是主动推理（active inference）的基石。简单来说，主动推理认为，生命有机体的感觉行为根本上是预测性的，而非随机被动触发，它建立在能够提供可供性的世界模型之上。
成功的生成模型能够从数据中提炼出“潜在变量”，这些变量有助于解释和预测。主动推理的生成模型涉及理解，并将潜在变量作为概念形成的基础。沟通的意义不在于语音和语法，而在于由沟通所预测的社交互动。生成式AI只是继承了人类沟通所得的语言财产，却不会参与到赋予语词意义的互动过程中。生命有机体通过与环境的感觉运动互动来学习，这种互动不仅包括了统计规律的掌握，更重要的是，它们是形成知觉和对世界因果关系理解的基础。生命有机体的注意力涉及到主动选择，其目的是消除不确定性。
生物体在演化的过程中，面对自然选择的压力，发展出了独特的生成模型。例如，我们的情绪，根植于对某物“对我重要”的感觉，这为我们对世界的理解赋予了意义和目的。在主动推理的过程中，我们利用内感受预测（interoceptive prediction）来引导行动和决策，这种方式使我们能够更好地理解行动的原因和后果。这种内感受、外感受和本体感受的预测共同促进了生命体的生存。因此，与生成型AI不同，生物的主动推理模型自然形成，不需要像AI那样不断地学习细粒化的、繁复的任务。
真正的“理解”以能动性理解为基础，建基于有机体通过感觉运动与世界进行的互动，建基于生命有机体对环境的主动探索。更深层次的理解需要分离性表征的能力，即使这种能力仍然基于与世界的互动，但它能够超越当前情境，进行规划、想象和讨论抽象概念。这种理解不仅仅是对统计规律的掌握，而是对世界模型背后的因果结构的深入认识。
更可靠的方式可能是先让AI系统在与现实世界的互动中学习，然后再将这些经验与大型语言模型结合。
Pietro Perona：如果你是一个非实体，你所需要做的就是进行预测，而相关性对于预测来说是非常有用的。但是，如果你需要改变世界，也就是说你需要进行干预，那么你就需要理解事物的原因。因此，因果关系是至关重要的，它使得推理成为可能。
