全局神经工作空间理论 Global neuronal Workspace Theory， GWT
《尖峰神经元网络的灵活串行处理，从访问意识到灵活行为》Flexible serial processing in networks of spiking neurons，From access consciousness to flexible behaviour
基于GWT理论的尖峰神经模型，用于执行由多个步骤组成的序列任务。神经工程框架和语义指针架构被用来构建模型，包括并行处理网络、全局工作空间、工作记忆组件和门控网络。得到的神经网络在认知和生物学层面上都与全球神经元工作空间理论一致，因为它解释了意识竞争、与之相关的由P3波标记的点火以及选择性广播。它还解决了在形成意识访问联盟过程中的历时和共时整合的未解决问题。模拟表明，该模型能够以稳健的方式执行许多步骤。最重要的是，它复现了人类的反应时间模式。该模型为解释意识在序列处理中的作用提供了一个很好的框架。
https://mp.weixin.qq.com/s/yKPgi9fkTpaITSvVPuOhnA
对于“智能系统如何进行理解”的问题存在一个有趣分歧：依赖统计相关性的心智模型与依赖因果机制的心智模型。
我们有必要扩展现有智能科学的边界，如此才能容纳更宽泛意义上“理解”的概念，使之既适用于人类，也适用于机器。正如神经科学家特伦斯·赛诺夫斯基所指出的，“专家们对大语言模型智能的不同看法表明，基于自然智能的旧理念已经有所欠缺了”。如果大语言模型和类似模型能以一种前所未有的规模利用统计相关性来工作，那么或许这也能被视为一种新的“理解”形式，一种能带来超人般预测能力的“理解”形式。正如Deepmind的AlphaZero和AlphaFold系统，它们分别在国际象棋和蛋白质结构预测的领域带来了如同“外星人”般的直觉。未来我们需要面对的挑战就在于，开发新的科学方法，以揭示不同形式智能如何理解的具体机制，厘清它们的优势和局限，并学习如何整合这些多样化的认知模式。
“当AI可以设计出比自己更好的机器人时，强人工智能时代就来临了。”
1）如果“更好”只是更智能、更强大，这没有什么可以担心的，大家都喜欢更快的计算器、更强大的推土机，让AI更高效的为人类服务，是生产力的进步。
2）如果“更好”是AI认为对自身的更好，这时就会出现人与AI对资源分配需求的冲突/矛盾。出现能够自主进化的更智能、更强大的AI，就是“奇点”来临的时刻。所以核心问题是，更高级的智能是否会产生“自我”，或形成自己的目的/意义。
3）如果AGI是“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能”，即使AGI只是1）中的生产力的进步，这也可能会导致大部分人丧失存在的目标/意义，同时会让少数人大幅提升创新的能力、效率（只需要负责提出问题/方向）。
1、变异
《信息、生命与物理学》保罗·戴维斯
第4章 达尔文学说2.0
与拉马克学说“调情”
细胞能通过某种方式感受到这一危险，并加快特异基因的突变速度。——生物进化能够根据环境来调整掷骰子的频率！
生命可以被描述为一条陡然上升的信息学习曲线。生物不必通过试错法来演化，每一代也无须浪费时间从头开始做重复工作。它们可以从生命过往的经验中受益，这一进步趋势显然违背了热力学第二定律。
2、转座子、病毒
《信息、生命与物理学》
第4章 达尔文学说2.0
基因中的麦克斯韦妖
《贪婪的大脑：为何人类会无止境地寻求意义》
第2章 大脑进化简史：思维的科学
激发基因活力的其他途径
转座子(transposons)，或称作跳跃基因，是一整段基因编码，可以在基因组内从一个地方跳转到另一个地方。
一些病毒入侵对我们极为有利，可以将其他物种的有用信息转移到我们体内，或者重组我们的DNA编码而产生新特性，比如早期哺乳动物的胎盘的形成就与病毒残余物有关。
生命体的DNA编码之所以具有普遍性，原因之一是DNA能够促进不同来源的新基因信息的导入。如果真是这样，那么我们会发现，尽管外部世界的斗争从不间断，而且很残酷，但整个生物圈为了优化内在的基于DNA的“想法”而进行奇怪的合作。
3、表观遗传、形态发生
《信息、生命与物理学》
第3章 生命的逻辑
形态发生的奥秘
DNA中的信息被称为基因型，而真实的物理细胞被称为表型。所以，一种基因型可以产生很多种不同的表型。
不同层面的信息模式和信息流：DNA（分子层面），酵母菌的细胞周期（细胞层面），多细胞生物的形态发育，生物群体和社会性组织。
第4章 达尔文学说2.0
越来越多的表观遗传因子被发现，它们驱动着生物信息模式和信息流的构建。
4、有性繁殖：某种意义上实现了拉马克式的进化
《贪婪的大脑：为何人类会无止境地寻求意义》丹尼尔.博尔
第2章 大脑进化简史：思维的科学
保持基因活力的三种方式——基因突变、性繁殖与死亡
性繁殖会提高基因创造力：动物两性的基因混合产生新的基因信息，能提高后代应付危险的能力。这种补偿复制速度慢的方式极为有效，所以大部分动物都进行性繁殖。充分利用性繁殖的一种动物是地位较低的线虫(nematode worm)。秀丽隐杆线虫(Caenorhabditis elegans)结构简单，发育后代的速度很快（约为4天），繁殖方式为有性繁殖。这种线虫可以自由选择生育后代的方式——通过自体受精或者与其他线虫交配。从信息处理角度看，如果线虫生活的环境很安全，有充足的食物，那么不妨采用自体受精的方式，因为它的有关生存的基因信息准确无误。但如果线虫生活在有致命危险的环境中，它的下一代的DNA就要做重大调整，而经性繁殖产生的下一代可能具有更好的基因来应付恶劣的环境。
这也从基因层面部分解释了现代人类生育能力下降的原因。
5、死亡
《贪婪的大脑：为何人类会无止境地寻求意义》
第2章 大脑进化简史：思维的科学
保持基因活力的三种方式——基因突变、性繁殖与死亡
在自然界，死亡很可能使生物体避免积累过时的信息。如果没有自然死亡，一个物种的基因创造力会受到过时的思想的损害，随着时间推移，这种损害会变得越来越严重。老一代生命体的死亡能使一个家族或物种有更强的能力应对变化的环境。进化的动力就是繁衍后代，生存居次要地位。死亡作为一种进化手段，展示了繁衍与生存之间的矛盾：为了使基因能够更准确地反映最新的相关信息，有利于繁衍后代，有机体会毫不犹豫地放弃生存。
1、“可以无限扩展的两种方法是搜索和学习”
2.2.1.6.3 《苦涩的教训》
http://47.92.147.95/index.php/2023/11/27/921/14/
从这个苦涩的教训中，我们应该明白通用方法的巨大力量，即那些随着计算能力的增长而持续扩展的方法。在这方面，似乎可以无限扩展的两种方法是搜索和学习。
2、《终身学习的生物学机理》
https://mp.weixin.qq.com/s/bZ-GW9yZeJz8Izx1AlvBuA
德克萨斯大学圣安东尼奥分校等研究人员在Nature Machine Intelligence发表的《Biological underpinnings for lifelong learning machines》
本文介绍了终身学习（Lifelong Learning， L2）的六个关键特征，从生物学角度介绍了使这六种终身学习特征得以实现的内在机制，包括大脑中的过程及来自大脑之外的细胞内和细胞间活动。最后介绍了结合上述终生学习特征的生物启发算法。
文章提供了一个全面而深入的视角，展示终身学习在人工智能领域的研究背景、意义以及未来发展的方向。通过借鉴生物体的学习机制，未来有望开发出更加智能、灵活和可持续的人工智能系统，以应对日益复杂的现实世界挑战。
人脑/意识的作用：
1、解释、预测、判断
2、学习、记忆、提高
《何为良好生活：行之于途而应于心》陈嘉映
第四章 实践中的目的
9 学医是为了悬壶济世吗？
我该怎样生活这个问题不仅是人生道路之初的问题，更是贯穿人的一生的问题。这个问题，主要不是选择人生道路的问题，不是选对或选错人生道路的问题，而是行路的问题——知道自己在走什么路，知道这条路该怎么走：我们是否贴切着自己的真实天性行路。在最初“选择人生道路”的时候，没谁一开始通透了解自己的本性，了解周边环境并预见环境的变化。我们一开始不可能通透了解自己的本性，这不在于我们还不够聪明，而在于我们的本性在一开始不够具体，本性有待在盘根错节的实践中向我们逐渐清晰地显现。我们大概可以在这个意义上去理解歌德说他的浮士德是一系列越来越纯粹或纯洁（rein）的努力。我把这个纯粹或纯洁理解为：自身通透。我以为，这种自身通透是phronesis最核心的含义——洞明自己行在何处，浑然一体地洞明自己和自己所行之路，从而能贴切着自己的真实天性行路，把自己大致保持在天性所指的道路上。
10 实践传统的式微
传统的瓦解给现代社会带来很多困扰。其中突出的一种，就是人们常说的意义流失。昆德拉《身份》：“生命的意义在过去的时代不是个问题，这种意义自然而然地跟人们在一起，在他们的作坊里，在他们的田野里。每一个职业都创造出了它的思维方式，它的存在方式。一个医生跟农民想的不一样，一个军人跟一个老师的举止不一样。”意义不是想出来的，不是论证出来的，而是被感受到的，通过生存和劳作的直接性感受到。在实践活动中，人的整个生存，包括他的德性，跟他的劳作结合在一起，并通过他的劳作跟一个兴趣—劳作共同体结合在一起。而当传统瓦解，业行转变为职业，职业要求于个人的，不是他的整个的人，而是他在特定岗位上的效用。个人不再作为整体的人通过他所属的实践传统与社会相关联，他的性情、德性跟他的“效用”隔离开来，“生活的意义”渐渐成为一件主观的事情。
传统的瓦解固然有可叹之处，但反观近代发展的历史，不难看到，科学技术的发展，工商业的发展，平民的兴起，这些导致传统衰败的事项，每一项都自有其情理。而且，传统的瓦解以及相伴而生的个人原子化过程，“所有这些同时也是一次巨大的解放。”解放是连同意义的不确定性一起到来的，职业化是连同祛魅一起到来的。
人类赋予现有AI的终极目标：
1、AIGC（“2.2.1.2 AIGC”）：生成下一个单词/句子。现有大语言模型（LLMs）的所有活动及成果都是在这个大目标下完成的。
2、AIGCs（“2.2.1.5 下一个AIGC：AIGCs”）：生成下一个动作。
下一个可能的生成式AI：AIGL（AI Generated Logic），通过推理空间的学习及搜索，生成下一个逻辑，结合AIGCs实现在现实空间中的规划及行动的闭环，可以作为达到AGI奇点的标志。实现AIGL存在以下约束：
1、可用来学习/训练的数据的有限性。
2、现实世界的未来无法预测 & 哥德尔不完备性定理。
《On the consistent reasoning paradox of intelligence and optimal trust in AI:The power of ‘I don’t know’》
一致性推理悖论（Consistent Reasoning Paradox）：任何试图模仿人类智能并进行一致性推理的AI都会不可避免地出现错误/产生幻觉（生成错误但看似合理的答案）。这些错误不仅仅是偶然的，而是在某些问题上会无限次发生。CRP的提出促使我们重新思考AI系统在模仿人类智能时的局限性，并探索如何构建更可信赖的AI系统。
CRP的核心观点：
1、一致性推理与错误的不可避免性：CRP指出，任何试图进行一致性推理的AI都会不可避免地出现错误。这些错误在某些问题上会无限次发生，而检测这些错误比解决原问题更难。这意味着，AI在模仿人类智能时，必须面对这种内在的局限性。
2、可信赖AI的设计原则：为了构建可信赖的AI，系统必须能够在无法确定答案时说“I don’t know”。这需要AI隐式计算一个新的概念，即“I don’t know”函数，这是目前现代AI所缺乏的。通过引入这一功能，AI可以避免生成错误答案，从而提高其可信赖性。
3、人工通用智能（AGI）的行为特点：CRP还揭示了AGI的行为特点。AGI不能“几乎确定”自己是正确的，要么100%确定，要么完全不确定。此外，AGI可能会给出正确答案，但无法总是提供正确的逻辑解释。这一发现对AGI的设计和应用具有重要的指导意义。
4、图灵测试与一致性推理的关系：为了通过图灵测试并被认为是真正的AGI，AI系统必须具备一致性推理能力。然而，这种能力也带来了人类般的易错性。CRP表明，通过图灵测试的AI系统在处理等价问题时，仍然会面临一致性推理带来的挑战。
5、数学与递归理论的结合：论文结合了递归理论和随机算法的新技术，解决了证明CRP的关键问题，建立了数学分析、递归理论和可证明性理论的新连接。这一创新不仅丰富了理论研究的工具箱，也为实际应用提供了新的思路。
https://arxiv.org/pdf/2408.02357
https://mp.weixin.qq.com/s/Yllya5LbdVyI3ofHNmBIIQ
1、概念定义
《技术之外：社会联结中的人工智能》凯特·克劳福德
第五章 情感
情感：从面相学到摄影
一组稳定的、离散的、有限的标签，人类可以使用它对面部照片进行分类，以及一个用于生成测量值的系统，该系统声称，能够将展现内心世界的艰巨任务，从艺术家和小说家的凌乱视野中解放出来，并将它们置于一个可被实验室、公司以及政府使用的理性的、可知的和可衡量的规则中。
对埃克曼理论的诸多批评
埃克曼方法的基本循环递归路径：首先，他假设在实验中使用的照片中的面部表情一定没有文化污点，因为它们得到了普遍认可。同时，他的结论是这些面部表情是普遍认可的，因为它们没有文化污点。
在情绪研究领域，研究人员对情绪究竟是什么还没有达成共识。什么是情绪，它们如何在我们体内形成和表达，它们的生理或神经生物学功能可能是什么，它们与刺激的关系如何，甚至如何定义它们，所有这一切都仍然是尚未解决的科学问题。
2、数据
“所有形式的数据充满了各种潜在的意义、无法解决的问题和矛盾”
1）数据中的偏见
第四章 分类
循环逻辑系统
“认知机制”：需要观察历史上的不平等模式是如何影响资源和机会的获取，进而对数据产生影响的。这些数据随后被提取，并被用于可进行分类和模式识别的技术系统，从而产生被认为是客观的结果。结果是产生了一种统计学上的循环形态：一种自我强化的歧视机器，以技术中立为幌子，放大了社会不平等。
偏见的多重定义
用于训练机器学习系统的每个数据集，无论是在有监督还是无监督机器学习的背景下，无论是否在技术上被视为“有偏见”，都包含一种特定的世界观。创建训练集，即是将一个几乎无限复杂和多变的世界，固定为一个由被谨慎分类的数据点组成的分类体系，这个过程包含了内生性的政治、文化与社会选择。通过关注这些分类，我们可以窥见内置于AI世界架构中的各种形式的权力。
2）测量工具及方法的有限性
3、模型
统计学家博克斯(George Box)：“所有模型都是错的，但是有一些是有用的（All models arewrong, some are useful）。”
4、预测
未来是无法预测的，只能给出可能发生结果的概率。使用AI会在一定程度上提高预测可能发生结果概率的准确性。由于以上1、2、3的限制，AI的提升也是有限度的。
问题：随着AI的广泛使用，会不会带来 “1.1.2.4 进化中的创新” 的减少（限制了搜索空间）？
1、复制 + 变异 + 选择
《点燃理性的火焰》克里斯特·斯图马克
第十章 人类起源之争：进化论、神创论和反科学
智能设计
同时掷出20个骰子，它们都是6点的概率是（1/6）^20：1/3,656,158,440,062,976。但进化的原理并非如此。想象你每次扔的时候，可以把所有得到6点的骰子放在一边。第一次也许得到了3个6点，现在抛出剩下的17个骰子，也许只得到一个6点，把它放在一边，然后抛出剩下的16个骰子，如此往复。大概只要花几分钟就能得到20个6点，而这其实就是进化的过程：每次进步一点点，利用每一点进步的优势。微小的变化发生了，有利的变化被选择保留。
2、涌现、共生、自组织、自催化、自适应
《从热力学第二定律到第四定律：关于物理、生命、信息、认知的大统一理论》Rod Swenson
https://mp.weixin.qq.com/s/8iZILEjALp5Yd_jAHaqqFg
自催化：贝纳德对流是“自催化动力” (autocatakinetic，ACK) 系统的一个成员，这个术语比历史上常用来指代同一类系统的“自组织系统”（self-organizing system）或“耗散结构”（dissipative structure）术语定义得更精确。自催化动力系统是这样一种实体，其在经验上源于一组非线性（循环因果）关系（称作构成关系（constitutive relations）），并由这组关系所构成，该实体的组成成分在持续的协同运动中不断耗散或分解环境中的势能 (资源)，并以之维持“自身”的存在。
最大熵产生定律（law of maximum entropy production，LMEP），也称热力学第四定律：一个系统（世界）将在满足约束的条件下选择所有可选路径中使势能最小化或熵最大化的速度最快的路径或路径组合。
第四定律本身并没有直接谈到自发秩序构建，但结合第二定律的平衡方程，很容易推导出普遍的秩序构建原理，即：
自适应层级组织
《穿越小径分岔的花园：赫伯特·西蒙和他的科学迷宫》第十三章 人工的科学家
“复杂性的结构” (The Architecture of Complexity) 赫伯特·西蒙 1962年
如果进化是自然的基本机制，那么层级就是它的启发式。
自适应系统能够把行为单元组装成“稳定的二级组件”，这是一个因式分解成子问题的分析过程的反向过程。这个组装过程对于在一切环境下从简单到复杂的生成都是基础性的。如果承认这种稳定的二级组件存在，那么复杂生命和复杂行为的进化几乎不可避免。
科学知识按照层级来组织，不是因为简化为原则是不可能的，而是因为大自然是按层级来组织的，每一层级的模式可以从对下面很多层的细节的抽象中最清楚地辨别出来。世界几乎可以被分拆，就是我们能够在系统周围画出边界的原因。如果系统内部元素与系统外部元素的相互作用持续得与系统内部元素之间的相互作用一样长，那么它们就是同一个系统的组成部分。
世界的层级结构的一个重要结果就是，尽管关于世界的完整知识是不可能得到的，但让我们成功地适应环境的知识是可得的。当然，这种知识不易取得，因为甚至有限的相关子系统集合都可能复杂到惊人的程度，尤其当子系统本身就是自适应的，并因而能够改变自己的行为以应对观察者的行动。完美的知识是不必要的。知识就算是局部的也很有价值。
所感觉的世界与所作用的世界之间的区别，决定了自适应有机体生存的基本条件。有机体必须在所感觉的世界中的目标和所作用的世界中的行动之间发展出相关性。有机体可以理解世界，因为复杂系统的层级结构让简洁描述当前状态和目标状态成为可能。与此同时，有机体的行为程序（模拟自然的选择性搜寻过程的启发式程序）使它能够让现有的手段适应其目的的实现过程。
状态描述和过程描述之间的相关性是所有自适应有机体机能的基础，也是有目的地作用于环境的能力的基础。