https://stonetoss.com/

落榜维也纳艺术学院是在1907年10月，欧洲二战开始在1939年9月，之间有32年。

2015年Edge年度问题：“你如何看待会思考的机器？”
演化心理学创始人之一，人类学家约翰·图比（John Tooby）
https://mp.weixin.qq.com/s/9lKvySUE5kIyXfwVg3aJnw

像人类一样思考的机器是可能的，人自己就是一台会思考的机器。制造类人智能需要理解现有的类人智能，即我们需要探明构成大脑计算架构的演化程序特征。对这种架构的研究让我们意识到存在一个无形的，阻碍我们向真正人工智能迈进的壁垒：智能的铁律。

一种错觉似乎是不言而喻的：量变产生质变。我们会认为智能是任何存在或多或少都拥有的、某种特殊物质，存在者越是智能，它们所知道的也就越多。增强智能的王道就是不断增加这种明显同质（但难以弄明白）的智能物质——更多的神经元、晶体管、神经形态芯片等等。智能的铁律指出，让你在某事上显得聪明的程序，会让你在其他事情上变得愚蠢。铁律带来的坏消息是，不可能有什么通用智能的主算法等着被发现——换句话说，当晶体管数量、神经形态芯片或网络化贝叶斯服务器足够多时，智能就会出现。好消息则是，它告诉了我们智能是如何被设计出来的：用“白痴专家”（idiot savants，指在某方面是专家、天才，但其他方面一塌糊涂的人），智力的增长是通过将性质不同的程序加到一起，形成一种更大的神经生物多样性。每个程序都会提供它在其专有领域的独特天赋 [空间关系、情绪表达、传染性（contagion）、物体力学、时间序列分析] 。通过以半互补的方式将不同的白痴专家捆绑在一起，集体智慧的区域就会扩张，同时集体愚蠢的区域则会缩小（尽管从未消失）。宇宙浩瀚无垠，充满无限层级的丰富结构；大脑（或计算机）相比之下微不足道。为了调和这种尺度上的差异，演化筛选出了一些小到足以适合大脑，但又能产生巨大归纳回报的方法——超高效压缩算法（不可避免是有损的，因为有效压缩的关键之一就是舍去几乎所有东西）。

人工智能和生物智能的铁律揭示了一系列不同的工程问题。例如，架构需要汇集的是聪明才智，而不是愚蠢；因此，对于每个白痴专家（以及每组白痴专家的组合），架构都需要确定激活程序（或组合）所能解决的问题范围，这样才能让你更好，而不是更糟。由于不同的程序通常都有自己专有的数据结构，因此整合来自不同白痴专家的信息，需要构建通用的格式、接口和通讯协定。此外，程序抢占的相容规则（mutually consistent rules of program pre-emption）并不总是容易设计，因为只爬到悬崖半山腰的人只能经历到由视觉引起的坠落恐惧，和安全到达目的地这一需求间的冲突。

演化破解了这些难题，因为神经程序被自然选择不断地评估为控制系统——正如数学家科尔莫戈罗夫（Kolmogorov）所说的，“能够接收、存储和处理信息，从而利用信息进行控制的系统”。自然智能是为了控制行为而出现的，这对于理解自然智能的本质、理解它们与人工智能的区别至关重要。神经程序是在特定的任务环境中为特定目的而演化的；它们被评估为集成包，被捆绑在调节行为以产生后代的范围中。为了生存，它们不必演化出能够解决所有假设上可能计算问题的方法——而这就像是诱人却又不可能实现的塞壬，至今仍然引诱着那些人工智能实验室触礁。这意味着，演化只是探索了所有可能程序中的一个微小而特殊的子集；在这个子集之外，还有无穷无尽的新白痴专家，等待着被构想和创造。我们正生活在一个关键的时代，处于一个精心设计的智能正不断扩张的浪潮伊始——如果我们努力增加专家智能的数量，并将它们联网，使之成为能发挥作用的、相互理解的集体。我们也能和非人类的白痴专家集体配合，利用交织着演化的天才和盲目的思想，令人兴奋地解决智能问题。

人工智能想要什么？它们危险吗？像我们这样的动物是能够采取行动的动机性智能（motivated intelligences capable of taking action, MICTAs）。幸运的是，人工智能目前还不是MICTA。它们最多只有微不足道的动机；它们的动机与全面的世界图景无关；它们只能采取一系列有限的行动。我们在演化过程中遇到了某些适应性问题，于是我们的想象力将由灵长类动物支配的戏剧投射到人工智能身上，而这些与人工智能的本质格格不入。我们可以把它们从佛陀——无欲无求、被动沉思的智慧导师——转变为“MICTA”，充满欲望，能够行动，但那将是疯狂的。可以预见的危险并不是来自人工智能，而是来自那些已经触发了掠夺性支配程序的人类，他们正在部署越来越多的军用技术工具，通过造成破坏来赢得冲突。

《Consciousness in Artificial Intelligence: Insights from the Science of Consciousness》2023.08.22

https://arxiv.org/pdf/2308.08708.pdf

基于神经科学的理论，通过脑电图或磁共振成像检测到的人类大脑内部工作信号，可以得到“人具备意识”的结论。但这套成熟的方法无法用在算法上。于是他们基于认知神经科学的理论和认知，首先从当前的人类意识理论中提取有关有意识状态的核心特征，然后在AI的基础架构中寻找这些特征，以此寻求线索。
研究团队从当前多种意识相关的理论中提取了具体特征，包括：
1、循环加工理论 (Recurrent Processing Theory, RPT)：该理论认为，意识源于大脑通过“反馈循环”将经验传递，利用先前知识和连接来理解当前经验；
2、全局工作空间理论（Global Neuronal Workspace，GNW）：理论解释我们的大脑如何协调和处理同时发生的众多信息流。在这一理论中，意识被定义为类似于心理舞台上的聚光灯，决定我们关注什么和忽略什么；
3、高阶理论（Higher Order Thought theory, HOT）：这是一组理论，认为意识是对我们的思想和感觉进行实时感知的结果。在这里，意识被定义为能够“思考”；
4、注意图式理论（Attention Schema Theory, AST）：该理论解释意识是大脑引导我们的注意力到特定对象、思想、记忆和其他刺激的结果，同时过滤掉其他刺激。这一理论的关键元素是意识到我们的注意力是如何以及在何处被引导的能力；
5、预测加工理论（Predictive Processing, PP）：大脑基于过去经验准确预测和解释周围世界的能力。这对于设计能生成创意内容或解决复杂问题的AI模型来说尤为重要；
6、研究团队还制定了根据代理性评估AI的标准（Agency and embodiment），即做出有意识决策的能力，以及根据实体性在物理空间或相对于其他虚拟系统的具体化程度。

基于上述核心意识理论，研究团队制定了14个标准和具体的测量方法，然后按照这个清单评估人工智能模型。一个AI架构能够达到的指标越多，具备意识的可能性就越大。此研究的初衷是引发更多问题和讨论，并为探讨AI模型的意识问题提供一个起点。Robert Long（作者之一，joint first authors）：“这项工作为评估越来越具有人类特征的AI提供了一个框架。我们正在引入一种之前缺失的系统性方法。”

测试结果发现，市面上非常多模型在“循环加工理论”这个指标上完成较为出色，而ChatGPT则在“全局工作空间”方面表现突出。但总体来说，纳入测试范围的所有AI模型都只能完成少数几个指标，由此得出没有某一个模型能够形成自我意识。一方面，结果说明了现阶段的AI能力或许还没到能够形成意识的阶段；另一方面，在人为制造、训练AI模型的过程中，开发者并不会有意让AI全方面形成这些认知能力。Eric Elmoznino（作者之一）：“之所以没有人这样做，是因为目前尚不清楚它们对于任务是否有用。”

https://mp.weixin.qq.com/s/VfUM_y7DdShHwhbrdkzoqA

https://mp.weixin.qq.com/s/o30Hm0VlP9_glYf-KkDr8Q

2012年，科学家们发表了《剑桥意识宣言》，指出有足够的证据可以推断“所有哺乳动物和鸟类，以及包括章鱼在内的许多其他生物”都经历过有意识的状态：没有新皮质（neocortex）似乎并不妨碍生物体体验情感状态。综合证据表明，非人类动物具有意识状态的神经解剖学、神经化学和神经生理学基础，并有能力表现出自主行为（intentional behaviours）。《宣言》使用了“意识状态的基础”（substrates of conscious states）一词，这意味着关于意识的来源已经有了确定的发现。《宣言》确定了新的五个意识标志，拥有其中一些标志足以证明意识的存在：同源脑回路（homologous brain circuits）；人工刺激脑区，在人类和其他动物身上引起相似的行为和情感表达；支持注意力、睡眠和决策等行为或电生理（electrophysical）状态的神经回路；镜像自我认知；以及致幻药物对不同物种的类似影响。所有这五个标志都是衍生标志，是对人类和高等哺乳动物进行科学研究的结果。

大多数哲学家接受（或倾向于接受）成人有意识（95.15%）、猫有意识（88.55%）、新生儿有意识（84.34%）和鱼有意识（65.29%）。对苍蝇（34.52%）、蠕虫（24.18%）和植物（7.23%）持怀疑态度的人要多很多。39.19%的受访哲学家认为未来的人工智能系统会有意识。请注意，这项调查是在ChatGPT被介绍给大众之前进行的。

https://mp.weixin.qq.com/s/msm_Giw-qgVLhQ7j2m_ygA

2.1.2.6.1 《何为良好生活：行之于途而应于心》陈嘉映

第一章　伦理与伦理学
4　人该怎样生活
伦理学探讨人生问题，探讨生活的意义何在。我们通常不会凭空去考虑人该怎样生活，我们通常考虑的，是在一件一件具体的事情上该怎样做。但这种具体的考虑有时不仅是在决策论意义上做一个决定，不仅是在特定条件下盘算、权衡，而是要连同我是个什么样的人，即我的整体生活旨趣一起来考虑。这时候，考虑的内容就不再只是在一件具体的事情上我该怎样做，而是连到了我该怎样生活这个更一般的问题上。我在一件具体的事情上考虑自己该怎样做，并不意味别人也该这样做，但我该怎样生活这样一个看似属于我自己的问题则必然联系于人该怎样生活这样的一般的问题。人该怎样生活根本没有一个对人人都有效的或有意义的答案。

第四章　实践中的目的
1　目的—手段
伦理学会谈论人生的总体目的——我们的所有活动都是为这个总体目的服务的。通俗看法常把快乐或幸福视作人生的总目的，前面讲到的功效主义就这样认为。谈论整体人生的目的或人生的意义与谈论做某件事的目的和意义有不同的含义，如果坚持从目的来谈论整体人生，那么，人生的总目的大概应当被理解为各种行为所含诸目的之间的协调一致。

第六章　快乐、幸福、良好生活
7　幸福
亚里士多德：“善好乃万物之所向。”
马斯洛的五个层次里，次高一层的需求是获得尊重的需求。“获得尊重”这话比较庄严，打鱼的、卖杂货的，未见得从这个角度去体会自己的需求。我们倒是体会得到一种需求：被需求的需求。我有时甚至会想，这是人最大的需求。
8　自我实现
海德格尔：“此在总是我的此在”。阿拉斯戴尔·麦金太尔：“我的生活故事始终内嵌在那些我由之获得自身身份的共同体的故事之中”（《追寻美德》）。一个人所做的事情使他充盈，支持他站立，自我由之实现。
从自我实现来看待生活，有助于抵制不断追求狭隘物欲的宣传。近世的道德理论，无论功效主义的最大幸福还是康德的绝对命令，都是从普遍原理出发的，往往全然忽略个人生活旨趣。若我们在反思伦理道德问题时不忘个人生活旨趣，伦理学的整体面貌会变得相当不同。自我实现的思路尤其有助于纠正流俗功效主义的一种看法，仿佛我们凡事所要的只是好的结果。行动不只带来结果，它同时也是自我实现的过程。没有什么快乐比自己努力而获得成就带来的快乐更光彩，更持久。
自我实现的标准千差万别，形形色色的人去实现其形形色色的自我。你的自我不同于我的自我。

2.1.2.6.2 哲学就是认识你自己的活动

新京报文化客厅 陈嘉映
文字：https://www.bjnews.com.cn/culture/2019/06/29/597153.html
视频：https://www.bilibili.com/video/BV1t4411g7RK/?p=1&vd_source=9fba2d004c7cf5c1e26c11619b35e0c1
我们可以说“认识你自己”是哲学的一个主题，甚至夸张一点，也可以说是“哲学的主题”。哲学就是认识你自己的活动。

• 在苏格拉底的意义上，“认识你自己”等于说认识人在世界中的位置。
• 奥古斯丁、卢梭、海德格尔（存在主义）、胡塞尔（现象学）：“从此，自我成为一个问题”。
• “你怎么认识你自己”是你自己的一部分。每一种认识，包括你的真正自我认识都在改变你自己。——复馈
• 我们只能在已知中发现未知。只有问自己要答案，也就是说你只能在你已知的东西中，发现未知的东西（这个挖掘也跟这个世界有关）。只有你知道你到底要什么，但是你现在就困惑了，你在问自己我到底要什么，你问其他任何人都不知道。庄子：“知其已知者”。维特根斯：“科学是在不断地了解未知的世界，而哲学一直是在收集回忆”。