月：2023年2月

2.1.1.3《生命3.0》

by admin
2.1.1.3《生命3.0》

07 目标

三个阶段：

  • 第一阶段，所有物质似乎都在努力实现耗散的目标，即熵增；
  • 第二阶段，其中一些物质拥有了生命，转而聚焦于子目标；
  • 第三阶段，生物重新排列的物质越来越多，以实现自己的目标。

人工智能可以被设计来拥有任何目标，但是，几乎所有足够野心的目标都会带来一些共同的子目标，比如自我保护、获取资源、想要更理解世界的好奇心。前两个子目标可能会让超级智能为人类带来麻烦，最后那个可能会阻止人工智能保持我们赋予它的目标。

图7-2　超级智能的终极目标和子目标

注：不管超级智能拥有什么样的终极目标，都会导致图7-2显示的这些子目标。不过，在“目标维持”和“改进世界模型”之间会产生一个冲突，使人怀疑随着超级智能变得越来越聪明，它是否真的会保持最初的终极目标。

 

古往今来，哲学家都希望能用清晰明白的原理和逻辑，从零开始推出伦理标准，也就是规定我们应当如何行事的原则。可惜，几千年过去了，人类唯一的共识就是：没有共识。虽然从目前来看，从零开始推导出共同伦理标准的尝试是失败的，但许多人都认同，一些伦理原则是从更基本的原则发展而来的，就像终极目标的子目标一样。总而言之，虽然人类今天还远未在伦理上达成共识，但在一些基本原则上已经达成了一些广泛的共识。大多数人的观点都可以归入以下4个原则：

  • 功利主义：积极的意识体验应当被最大化，而痛苦应当被最小化；
  • 多样化：多样化的积极体验比重复单一的积极体验更好，即使后者被认为是所有可能性中最积极的体验；
  • 自主性：有意识的实体／社会应当拥有追寻自己目标的自由，除非与某些重要原则相违背；
  • 遗产：符合当今大多数人认为幸福的情景，不符合当今几乎所有人认为糟糕的情景。

当今的人类真的想让1500年前的老古董决定今天的世界要如何运行吗？如果不是，我们为什么要试着把我们的伦理标准强加给可能比我们聪明千万倍的未来生命呢？

 

尼克·波斯特洛姆在他的著作《超级智能》中提出了“正交性论点”（orthogonality thesis）。他认为，一个系统的最终目标（final goal）可以独立于智能。根据定义，智能就是完成复杂目标的能力，而无论这些目标是什么。正交性论点是赋权的，宇宙的终极目标不是事先注定好的，我们有自由和力量去塑造。它认为，趋近于同一个特殊目标并不会发生在未来，而是已经发生在过去——正是在生命进化出“复制”这个单一目标时。随着宇宙时间的流逝，日益聪明的智能得以有机会反抗和摆脱“复制”这个平庸的目标，并选择自己的目标。从这个意义上讲，我们人类还没有达到完全的自由，因为我们追寻的许多目标都是被基因“硬连”到我们身上的，但人工智能却可以享受这种不受预定目标限制的终极自由。或许，这种不受进化偏差影响的自由度能使人工智能在某种深层次上比人类更为道德。

 

虽然人类有一些广为接受的伦理原则，但我们不知道如何将它们赋予其他实体，比如非人类的动物，以及未来的人工智能。我们不清楚如何才能赋予超级智能一个既可定义又不会导致人类灭绝的终极目标。

2.1.1.2 《大图景：论生命的起源、意义和宇宙本身》

by admin
2.1.1.2 《大图景：论生命的起源、意义和宇宙本身》

第35章 目的涌现而来

为什么罗比会这样行动？我们可以简单地说：“这些行动是在遗传算法过程中生存下来的策略的一部分。”或者我们可以说：“罗比有一种需求，它不想忘记在两边都有空罐。”这种说明方式有意义吗？机器人罗比并不是真的有什么需求。当我们将人类的思考或者感情赋予无生命的对象时，心理学家有时候会说这是“拟人化谬误”。讨论罗比的时候当作它好像真的有什么需求，这可能很有趣也没什么害处，但这事实上并不是真的。

考虑一下我们倒果为因的可能性。当我们说机器人罗比并没有在人类意义上的需求时，我们采取了一个隐含的立场，就是存在某种被称为“需求”的事物，它能被正确地赋予到宇宙中的某些事物上（比如人类），而不是别的事物（比如说虚拟机器人）。这种“需求”到底是什么？某种东西有做某件事的需求，在正确的情景下这种想法可能是一种有用的说明方式。这个想法很简单，却能方便地概括相当数量的复杂行为。如果我们看到猴子在爬树，描述这件事的方式可以是列出一张猴子在每个时刻在做什么的清单，甚至是明确写出猴子和环境中每个原子在每个瞬间的位置和速度。但简单得多而更为有效的说法是：“猴子有得到树上那些香蕉的需求。”事实上我们能这样说，这是超出所有那些位置和速度的一项有用的知识。在理念空间中，并不存在一种有关“需求”的柏拉图式理念能够与某类事物正确联系起来，但却无缘于其他事物。反过来说，在某些情况下将事件描述为某个存在对某个事物有需求，这会很有用，但在其他情况下就不见得了。这些情况会出现宇宙内物质的不定向自然演化之中。这些“需求”和别的事情一样真实。

在罗比这个特别的例子里，用需求、目的或者渴望来界定它的行为，既不必要也没什么用。直接说出它收集空罐的策略到底是什么也同样简单。但它与一个人之间的差异，就“需求”的本体论状态而言，只是程度上的差异。我们可以想象一个机器人，它的程序比小罗比的远远复杂得多。我们可能对具体的程序所知不多，但也许我们可以观察这个机器人的行动。也许理解这个机器人的行为最好的方式就是：“这个机器人有强烈的需求去捡起那些空罐。”在自然主义中，人类和机器人之间的差异并没有那么大。我们都只是一大堆结构复杂的物质，以某种规律运动，在一个拥有时间箭头的环境中遵循着冷冰冰的物理法则。需求、目的和渴望都是在这个过程中自然产生的事物种类。”

在机器上实现的罗比到更复杂的AlphaGO的策略，都应该只是机器算法的自然结果，没有需求/目的（只是在人类“拟人化”看起来有是有策略、有目标而做出的决策，同时通过这种方式的描写，其他人更容易理解、传播——价值网络、决策网络的描写比较准确但难于理解），算法层面是黑箱（不论是遗传算法还是深度学习），更低层次分子原子层面的描写会是一团乱麻。

每一个神经元、皮质柱、气泡都可以看作一个更简单或更复杂的“罗比”。人类意识（包括需求/目的/意义）也只是更高层面上的大量算法的自然涌现的结果，通过大脑解释器解释为“意识”并存储在记忆中。

在自然主义中，人类和机器人之间的差异并没有那么大。我们都只是一大堆结构复杂的物质，以某种规律运动，在一个拥有时间箭头的环境中遵循着冷冰冰的物理法则。需求、目的和渴望都是在这个过程中自然产生的事物种类。

第45章 三十亿次心跳

在有关量子场的核心理论，也就是我们日常生活背后的物理学中，没有“意义”“道德”和“目的”这类概念的栖身之地。这些概念在世界的高层次涌现理论中都各自扮演了关键的角色。它们并没有嵌入在宇宙结构之中，而是通过涌现成为人类尺度环境的不同说明方式。

这些价值观的源泉并不是外部世界，而是我们内心。我们是世界的一部分，谈论自身最好的办法就是将自身看成有思考、有目的、能作出选择的客体，其中无法避免的一个选择就是我们到底想过上什么样的生活。

我们不是各种渴望的奴隶；我们有能力反思这些渴望并努力改变它们。但渴望的确塑造了我们。从来自自身的这些倾向出发，我们才能构筑生命的目的和意义。作为起点的个人渴望和关怀，它们可能单纯而只关注自身，但以它们为基础，我们能构建出指向外部、遍及更广阔世界的价值观。这是我们的选择，而我们作出的这个选择可以是去拓宽我们的视野，在比自身更宏大的事物中寻找意义。

构筑意义，从本质上来说，就是一项个人主观而富有创造性的事业，也是令人生畏的责任。卡尔·萨根：“我们都是星尘，但我们用双手抓住了自己的命运。”生命的有限让我们的处境更为深刻动人。我们每一个人都会说出最后一句话，读过最后一本书，堕进最后一次的爱河。在每个瞬间，我们到底是谁，又应该怎么行动，这是我们每个人要做的抉择。

第49章 聆听世界

宇宙不关心我们，但我们关心宇宙。正是这一点让我们如此特别，而跟非物质的灵魂或者宏大宇宙规划中的特殊目的没有关系。数十亿年的演化创造了能够思考世界的造物，他们能在心中构筑世界的图景，并对它进行彻底的验证。我们对世界感兴趣，无论是它的物质表现还是我们的人类同胞以及其他生物。这种包含在我们心中的关怀，就是在任何宇宙意义上“意义”的唯一来源。无论我们什么时候自问某件事是否有意义，答案必须来自这件事对于某个人或者某些人有没有意义。我们看着这个世界，给它附加上价值，这是一项成就，我们应当为之自豪。

生命的本质是改变，而我们的目标可以是让改变成为对生命意义寻求的一部分。

我们渴望到达比幸福更高的地方。我们已经学到了许多有关宇宙的范畴以及运作的知识，还有如何共同生活以及如何在生命中寻找意义和目的。这正是因为我们终究不愿意将令人舒心的幻觉当成最后的答案。

2.1 目标、目的与需求层次

by admin
2.1.1 目标、目的

进化是否有目标/目的？人类是否有目标/目的？个人是否有目标/目的？AI是否有目标/目的？

《雅克和他的主人》米兰·昆德拉

“那咱们往哪走啊？“

“往前走。“

“哪是前啊？”

“我对您透露一个大秘密，这是人类最古老的玩笑。往哪走，都是往前走。“

2.1.1.1 目的论

目的论（Teleology）致力于探讨事物产生的目的、本源和其归宿。目的论认为自然界的一切事物都有其存在的目的。在如何解释世界的事物和现象以及它们之间关系的问题上，目的论认为某种观念的目的是预先规定事物、现象存在和发展以及它们之间关系的原因和根据。目的论认为事物的存在源于“最终目的”，有两种主要的表现形式，即外在的目的论和内在的目的论。

  • 外在最终目的（extrinsic finality）：某东西的存在目的是为了其他东西的福祉。
  • 内在最终目的（Intrinsic finality）：某东西的存在目的，是为了自然而然达成完善自己这个目的。内在最终目的提供了上帝或其他超自然力量存在的论据，也是智能设计论的理论基础。

1 基础层面：基于基因的基本生存要求（基本目的）。“生命的演化，包括人类生命的演化，都是盲目力量所致，并不服务于显见的目的”

2 高级意识的能动性层面：高于基因需求的主动目的（exp：基因的嗜糖要求–>高级层面的减肥要求）–>人的需求层次

传统上目的论与哲学自然论（或偶然论）是对立的。自然论即所谓“形式决定功能”（function follows form），目的论即是所谓的“功能决定形式”（form follows function）。

  • 亚里士多德（目的论）：大自然里，生物的器官顺着功能而演变，功能不是顺着器官而来。亚里士多德认为，将所有事情都视为必然是错误的，因为这样忽略了事情的目的、秩序和背后的最终原因。亚里士多德将事物的发展因分四种：物质因、形式因、动因和目的因。
  • 卢克莱修（自然论）：身体不是因应我们的需要而造，存在是功能的因。

罗素《哲学问题》哲学的价值:

哲学是用来研究的，而不是用来寻找哲学问题的确切答案的，因为没有一种确定答案可以被当作不变的真理。相反，哲学本身就是寻找问题。正是这些问题拓展了我们对可能性这一概念的认知，丰富了我们的智慧想象，让我们放弃执念，引导心智不断去猜想。但更重要的是，哲学思考的是宇宙之浩瀚，而人类心智也会随着这种思考变得深邃，并逐渐与宇宙融为一体，臻于至善。