约翰·布罗克曼
04 人工智能第三定律 乔治·戴森
第一定律 阿什比（W. Ross Ashby）定律：任何有效的控制系统必须与它控制的系统一样复杂。
第二定律 冯·诺伊曼定律：一个复杂系统的定义特征一定包含对其行为的最简单的描述。生物体最简单的完整模型是生物体本身。试图减少系统行为，达到任何形式化描述的程度，只会使得事情变得更复杂，而不是变得更简单。
第三定律：任何一个简单到可以理解的系统都不会复杂到可以智能化行事，而任何一个复杂到足以智能化行事的系统都会太过于复杂而无法理解。Any system simple enough to be understandable will not be complicated enough to behave intelligently, while any system complicated enough to behave intelligently will be too complicated to understand. （佛曰：第一义皆因言说，言说是世俗，是故若不依世俗，第一义则不可说。禅宗：教外别传，不立文字。直指人心，见性成佛。维特根斯坦：凡于不可言说之物，我们都应保持沉默。）
我们完全有可能在不理解时构建某个东西。无论程序员及其伦理顾问如何监控计算程序，他们都永远无法解决这个漏洞。“好的”人工智能是个神话。我们与真正的人工智能之间的关系将永远是一个信仰问题，而不是证据问题。对那些相信他们能制造机器来控制一切的人，大自然对此的反应将是允许他们建造一台机器，来控制他们。
05 我们将如何应对？丹尼尔·丹尼特
我们不需要有意识的人工主体。我们需要的是智能工具。不让人工主体有意识的原因之一是，不管它们变得多么有自主性（原则上，它们可以像任何人一样有自主性、能自我提高或自我创造），如果没有特殊规定的话，它们不会像我们这些有自然意识的人类一样，有弱点，会死亡。我们创造的不应该是有意识的类人主体，而应是一种全新的实体，更像是圣人，没有良知，没有对死亡的恐惧，没有令其分心的爱和恨，没有个性，但是各种各样的弱点和怪癖毫无疑问会被看成是系统的“个性”：一箱箱的真理（如果我们幸运的话）几乎可以肯定会被零星的谎言所污染。学习与它们共存却不被这些人工智能奴役我们的奇点论所分心，真的很难。人有人的用处将很快改变，再次、永远地改变，但如果我们对自己的行为负责，我们就可以在危险之间掌握主动权。
07 智能的统一 弗兰克·维尔切克
1）激励驱动行动：大卫·休谟在1738年写下了“理性是，并且只应该是，激情的奴隶”这一番引人注目的言论。当然，这番话是指人类的理性和人类的激情。但休谟的逻辑、哲学观点也对人工智能有效。简单地说：驱动行为的是激励，而不是抽象的逻辑。
2）涌现：菲利普·安德森（Philip Anderson）《多就是不同》（More Is Different）：“还原论假设，也就是基于简单部分的已知相互作用的物理解释具有完备性这一假设，可能仍然是哲学家们争论的话题，但对于大多数活跃的科学家，我认为他们会毫无疑问地接受这一假设。对于大而复杂的基本粒子聚集体的行为，不能用几个粒子表现出来的性质进行简单外推。”大小和复杂性每升到一个新级别，都会有新的组织形式出现，其模式以新方式编码信息，其行为以新概念进行描述。
从两个得到有力支持的假设中，我们得出一个简单的结论：
◎ 人类的心智源于物质。弗朗西斯·克里克《惊人的假说》（Astonishing Hypothesis）：“心智只不过是一个巨大的神经细胞组群及其相关分子之间的交互作用”。
◎ 物质是物理学定义的。
◎ 因此，人类的心智是从我们能够理解并可以人工再现的物理过程中涌现出来的。
◎ 因此，自然智能是人工智能的一个特殊情况。
3）人工智能胜过自然智能的优势是永久的，而自然智能胜过人工智能的优势，虽然目前是实质性的，但似乎这只是暂时。The advantages of artificial over natural intelligence appear permanent,while the advantages of natural over artificial intelligence, though substantial at present, appear transient.
我们可以展望在接下来的几代人里，人类通过智能设备变得更强，将与越来越有能力的自主人工智能共存。那时将有一个复杂的、迅速变化的智能生态系统，并因此迅速进化。考虑到工程化设备最终将具有的内在优势，进化的先锋将是机器人和超级头脑，而不是微不足道的智人。我们的不受太阳系、银河系限制的未来，如果没有人工智能的帮助，将永远无法实现。
奥拉夫·斯塔普雷顿（Olaf Stapledon）1935年《怪约翰》（Odd John）小说中的英雄，一个突变超人，将我们智人形容为“精神的始祖鸟”。“始祖鸟是一种高贵的动物，它能进化成更高级的生物。”他充满深情地把这句话说给他的一个普通人类的朋友和传记作家听。