奇点临近

 《奇点临近》

 雷·库兹韦尔

 214个笔记

 点评

• 2024/12/24 认为好看
  
  

 摘要

• 人类与机器的联合，即嵌入我们大脑的知识和技巧将与我们创造的容量更大、速度更快、知识分享能力更强的智能相结合。
• 在这个时代，我们的智能会逐渐非生物化，其智能程度将远远高于今天的智能——一个新的文明正在冉冉升起，它将使我们超越人类的生物极限，大大加强我们的创造力。

 前言

• 正确的思想有能力战胜貌似无比强大的困难。
• 发明的意义在于它能够为技术和市场力（这种力量在发明被引入时就存在）提供能量，以构建远不同于原来世界的新世界。
• 我发现大多数的发明之所以失败，并不是因为研发部门不能将发明创意变为现实，而是因为发明出现的时机不对。发明创造与冲浪很像，必须预见并恰到好处地捕捉海上的波浪。
• 生物智能必将与我们正在创造的非生物智能紧密结合。

 第1章 六大纪元

• “每个人都将自身所感知的范围当做世界的范围。” ——叔本华
• 什么是奇点呢？奇点是未来的一个时期：技术变革的节奏如此迅速，其所带来的影响如此深远，人类的生活将不可避免地发生改变。
• 加速回归定律的本质内涵（发展变革的本质加速，包括技术的进化作为生物进化的延续）
• 奇点临近暗含一个重要思想：人类创造技术的节奏正在加速，技术的力量也正以指数级的速度在增长。
• 本书将会讨论在未来的几十年里，基于信息的技术将会容纳人类所有的知识和技能，甚至包含识别模式的能力、解决问题的技巧，以及人类大脑中内在的情感与道德的智慧。
• 奇点将允许我们超越身体和大脑的限制：我们将获得超越命运的力量；我们将可以控制死亡；我们将可以活到自己想达到的年龄（这与“永生”有细微的差别）。
• 在21世纪行将结束的时候，人类智能中的非生物部分将无限超越人类智能本身。
• 在21世纪中期以前，我们的技术增长率（与我们自身的增长速度大不相同）将以近似垂直线的速度增长。
• 奇点将代表我们的生物思想与现存技术融合的顶点，它将导致人类超越自身的生物局限性。
• 尽管奇点有很多方面，但其最重要的内涵是：我们的技术将能够和人类最优秀最精妙的品质相媲美，并超越它们。
• “一旦超越人类的智能被创造，并且该智能可以周而复始地自我改进，这将是对世界颠覆性的变革，我还不能预测这种变革所带来的后果。” ——迈克尔·安西莫夫，科技图书作家
• 20世纪50年代，伟大的信息理论学家冯·诺依曼指出，“技术正以其前所未有的速度增长……我们将朝着某种类似奇点的方向发展，一旦超越了这个奇点，我们现在熟知的人类社会将变得大不相同。”冯·诺依曼在这里提到了两个重要概念：加速与奇点。
• 第一个概念说明了人类的发展正以指数级的速度增长（以一个常量重复相乘的速度）而不是线性增长（以重复增加一个常量扩张）
• 第二个概念说明指数级增长的速度是多么令人震惊，开始的时候增长速度很慢，几乎不被觉察，但是一旦超越曲线的拐点，它便以爆炸性的速度增长。
• 从数学的观点审视这个问题，指数曲线在一段很短的时间内看起来就像是一条直线。这就导致了那些最具经验的批评家在思考未来的时候，也都是以当前的技术发展速度来预测未来十年或者百年的发展情况。
• 指数级增长是所有进化发展的重要特征，技术是其中的主要实例。
• 事实上，我们发现那不是简单的指数级的增长，而是双倍指数级增长，这意味着指数级的增长速度本身是以指数的速度增长的
• 大多数技术预测和预测者都忽略了技术以指数趋势增长这一事实。的确，几乎我见过的所有人都以线性发展观看待未来。这就是为什么人们往往高估短期能够达到的目标（因为我们常常忽略必要的细节），却容易低估那些需要较长时间才能到达的目标（因为忽略了指数增长）。 
• 人类智能与人类技术的结合。展望未来几十年，奇点将从第五纪元开始。
• 我们把超智能的机器定义为一台能力远远超过任何人的全部智能活动的机器。一旦机器设计成为一项智能活动，超智能机器就能设计出更好的机器——毫无疑问，这就是“智能爆炸”，人类的智能将被远远抛到后面。第一台超智能机器将是人类最后一个发明。 ——欧文·约翰·古德
• “奇点”（Singularity）是一个英文单词，表示独特的事件以及种种奇异的影响。数学家用这个词来表示一个超越了任何限制的值，如除以一个越来越趋近于零的数，其结果将激增。
• 如果一个大质量恒星经历了超新星爆炸，其残余部分最终变成体积为零、密度无穷大的点，这时“奇点”便在该点的中心诞生。当这个星球达到了无限密度后，连光都无法摆脱它的吸引，所以称为黑洞。黑洞构成了空间和时间结构中的一种破裂。
• 约翰·冯·诺伊曼第一次提出“奇点”，并把它表述为一种可以撕裂人类历史结构的能力。20世纪60年代，I.J.古德描述的“智能爆炸”是指智能机器在无需人工干预的情况下，不断设计下一代智能机器。
• 约翰·斯玛特在其系列著作中把奇点描述为他所谓的"MEST"（物质、能量、空间和时间）压缩所导致的必然结果。
• 查尔斯·达尔文：我可以打断一下吗？在我看来，一旦机器的智慧超过人的智慧，它们就会自己设计下一代机器。

 第2章 技术进化理论：加速回归定律

• 你能向后看得越久，就能向前看得越远。 ——温斯顿·丘吉尔
• 世界上本没有绝对的难题，只有相对于一定智力水平的难题。若智力水平向上提升了一点，一些原来不能解决的难题就变得容易了；如果智力水平提升了一大步，所有的问题就都能被解决。
• 技术的不断加速是加速回归定律的内涵和必然结果，这个定律描述了进化节奏的加快，以及进化过程中产物的指数增长。
• 进化增加秩序，但可能不增加复杂性（通常情况是增加的）。其主要原因是生命形式的进化和科技的加速是建立在增加其秩序、用更加复杂的方式来记录和操作信息的基础上。进化的革新将促进更快的进化。
• 创新是乘法而不是加法。技术进步与进化过程一致，建立在其自身的基础上。技术将继续加速发展，并将在第五纪元完全控制自己的前进步伐。
• 总结加速回报定律的原则，主要有以下几点： ●进化运用了正反馈：由进化过程的某个阶段所产生的更好方法来创造下一个阶段。
• 进化过程不是一个封闭的系统；它在一个更大的系统内引起混乱，从而增加选择的多样性。因为进化以其本身持续增长的秩序为基础，所以进化过程中的秩序也呈指数增长。
• 上述观察的关联性源于进化过程的“回报”（比如速度、效率、功耗和进程的综合力量）总是呈指数增长。
• 在性能和性价比等方面，除了计算机产业，其他信息技术领域（包括人类知识）同样以指数速度发展。另外需要指出的是，信息技术有巨大的包容性，随着时代的发展，它最终将包括经济活动和文化事业的方方面面。
• 在另一个正反馈循环中，一个进化的效果越好，（例如，计算的容量和功耗越大）就会为进程的进一步发展配置越多的资源。
• ●生物进化就是这样一个演变过程。事实上，这是典型的进化过程。因为它发生在一个完全开放的系统中（不是人为的限制于某个进化算法），多个层次的系统演变在同一个时间进行。
• ●技术进化同样遵循以上的进化过程。事实上，第一个能够创造技术的物种的出现，造就了新的技术进化。技术进化既是生物进化的产物，又是生物进化的延续。
• ●一个具体的范式（解决问题的方法或途径，例如，在计算机集成电路中使用晶体管来制作功能强大的计算机）在应用传播中将成指数增长，直到它的潜力耗尽。这时，范式将发生迁移，从而在全局上保证指数增长的继续。
• 范式的生命周期。每个范式的发展都分为三个阶段：1）缓慢增长阶段（指数增长的早期阶段）；2）快速增长阶段（随后的，爆炸性的指数增长期），就像图2-1中的S形曲线图显示的一样；3）趋于平缓的成熟阶段。
• 该S形曲线图显示了当前的指数趋势是如何由级联的S形曲线组成的。
• 每个后继的S形曲线比前一个S形曲线更快（花更少的时间，如X轴所示）和更高（性能更高，如Y轴所示）
• 基因提供设计信息，但一个生物体的细节要远大于遗传的设计信息。
• 整个人类基因组只有8亿比特的信息，经过压缩后，有效信息量大约只有3000万比特到1亿比特。
• 即将到来的主要范式迁移将由生物思想向生物和非生物的相结合的混合思想转变（第五纪元），其中包括源于生物大脑逆向工程的“生物启发”的处理。
• 范式迁移正在加速
• 关键元件尺寸已小于100纳米（通常认为100纳米是应用纳米技术的极限）
• 处理器的MIPS（每秒的指令执行数目）性能，每1.8年提升一倍
• 根据加速回归定律，范式迁移（也称为创新）可以将任何特定模式的S形曲线转变为持续的指数增长。
• 宇宙的基石不是能源，而是信息转换
• 爱德华·弗雷德金，他在20世纪80年代早期提出了一种“物理学新理论”，这一理论基于宇宙最终由软件组成这一思想。根据他的理论，现实不是由物质和能量组成的，而是由根据计算规则不断变化的比特数据构成的。
• 世上有三大哲学问题：什么是生命？什么是意识、思想和记忆？宇宙是如何运转的？……信息的观点涵盖了以上三者……我的意思是说复杂性的最基础层次应该是运行于物理空间的信息处理过程。在复杂性的更高层次，例如生命、DNA（生化机能），都是由数字化信息处理控制的。在另外一个层次上，思考的过程也是基本的信息处理
• 弗雷德金相信宇宙是一个规则化的计算机，它正在被一些人或事物利用去解决一个问题。
• 一个非常重要的事实是完全确定的过程能产生出完全不可预测的结果，因为它解释了，虽然这个世界以确定的规则为基础，但本质上这个世界是不可预知的
• 这些现象源于分形、混沌、复杂性理论和自组织系统（例如神经网络和马尔科夫模型），自组织系统从简单网络开始，最终将产生明显的智能行为。
• 进化（有时称作遗传）算法的结果将为复杂问题提供优雅、美丽并且智能的解决方法。
• 计算本质上是非常简单的：我们能够以最简单的信息处理为基础，构建任意的复杂程度。
• 图灵机是阿兰·图灵在1950年提出的关于通用计算机的理论概念，它只提供7种非常基本的命令，但可以组织执行任何可能的计算
• 沃尔夫勒姆论证了计算的普适性和简单性，为我们理解世界上信息的根本重要性做出了重要贡献。
• 世人莫不怀着一种与生俱来的欲望，要把支出超过收入，此乃一切进步的动力。 ——英国作家萨缪尔·巴特勒
• 知识统领经济还将需要几十年的时间，但那必然是一场深刻地变革。
• 这些基于线性模型的关于寿命提高和经济增长的预测是非常错误的：一方面，寿命的延长会远远超过政府的预期；另一方面，那时人们在65岁时不会要求退休，因为他们有30岁的身体和大脑。
• 经济潜在的指数增长力量要远远强于经济周期性衰退。最重要的是，经济衰退（包括萧条）只是表示暂时地偏离基本曲线。甚至“大萧条”也只是根本模式增长大背景下的一个小插曲。
• 生产率（每个工作者的经济产出）同样以指数级速度增长。
• 经济学家担心的是，如果消费者花更少的钱就可以买到他所需要的东西，经济就会紧缩（以美元来衡量）了。不过，这忽视了消费者永远无法满足的需求和欲望。
• 人类知识将以指数级的速度增长
• 由于信息的快速传播、网上采购方式的日益成熟、各行各业市场的日趋透明，这些无不减弱了衰退周期的不良影响，经济衰退对我们生活水平的直接影响也正在减小。
• 从长远来看，经济增长将继续以指数级的速度增长。
• 加速回归定律的另一个内涵是教育和学习的指数增长。

 第3章 达到人脑的计算能力

• 2004年最先进的芯片中，逻辑门仅有50纳米宽，这已经完全是纳米级别（100纳米或以下即属于纳米技术范畴）的数值了。
• 我们发现了一条新的‘欧姆定律’，电子的自旋不需要减少或耗散任何能源就可以进行传输。
• 这种潜质能够在室温下实现超导效应（也就是以接近光速的速度传播信息而保证没有信息丢失）。它还允许将每个电子的多重属性用于计算，从而尽可能增加存储和计算密度。
• 像硬盘驱动器一样，MRAM不需要能量来保留数据，而是使用无需移动的部件，同时它的速度和重写能力可与常规RAM相媲美。
• 俄克拉荷马大学的科学家展示了一种“分子摄影”技术——仅仅一个由19个氢原子组成的液晶分子就存储了1024比特的信息。
• 量子计算能够解决许多有趣的问题，例如破解密码（依靠因式分解大素数）。还有另一个问题是，量子计算机的计算能力取决于处于激发态的量子的数量，而以目前的技术水平大约只局限于10个比特。
• 1990年以来，人工智能和机器人程序的能力每年增加一倍，到1994年增加到30MIPS，1998年就已经是500 MIPS了。贫
• 对奇点（人类智慧通过与非生物形式的结合而扩展上万亿倍）未来几十年的发展的预测，并不依赖于这些计算的精确性。
• 人类使用的确定声源位置的方法之一是双耳的时间差（ITD），即声音到达两耳时间的不同。
• 1014~1016cps内就可能实现所有大脑的功能了。
• 今天的个人计算机提供的计算速度超过109cps。根据图2-15所示的预测，到2025年将实现1016cps。
• 实现人的功能存储需要1013（10万亿）比特。
• 到2030年的时候，价值1000美元的计算机将会达到一个村庄的人（约1000人）的脑力。而到2050年时，1000美元计算机将超过地球上所有人类大脑的处理能力，当然，也包括那些仍然只应用生物神经元的大脑。
• 人类复杂的神经元大部分用于维持生命保障功能，而不是它的信息处理能力。最终，我们会使神经处理过程变得更加适合计算，那时我们的思维空间将不再一直这么小了。
• 我们将最终通过利用更大的非生物计算能力来应用和扩展人类的智力，从而使得我们的智力不断地增加。所以，与其问计算的最终极限，不如问人类文明的命运是什么。
• 计算能力在物理定律的基础上是有限制的。 考虑计算限制的一个主要因素就是能源需求。计算设备在单位时间内执行同样数量的指令时，它所需要的能源一直在下降
• 采用更多的并行处理而不是速度更快的单处理器，这将是减少能源消耗和进行有效散热的可行办法
• 10年后，爱德华·弗雷德金和托马索·托夫勒对可逆计算思想进行的全面审查。基本概念是这样的，如果你在完成运算后保存所有的中间结果，然后将算法向后执行，最后在你开始的地方结束，这将不会使用能量也不会产生热量。然而最终你却得到了算法运算的结果。
• 在计算方面，单纯考虑电磁作用，在2.2磅重的岩石内，每秒至少会有1015比特的状态在改变，这实际上相当于约每秒1042次的计算。然而，岩石并不需要能源的投入，并且没有明显的热量产生。
• 在岩石中的原子结构实际上大部分是随机的。从另一方面来说，如果我们组织一个目的性更强的粒子，我们就可以拥有一个零耗能的计算机
• 如果计算机是建立在微观可逆元件上的，那么，它就可以变得极其有效。为了计算，一个完全有效的计算机会耗散多少能量呢？答案是，计算机不需要任何的能量耗散。
• 关于奇点的一个关键结论是：信息处理（计算）将最终推动所有重要事务的发展。以此为基础的未来科技似乎就不需要能源了。
• 2.2磅的“终极便携式计算机”也将能够在10μm时间内执行相当于过去一万年所有人类的思维量（假设一万年有100亿人的大脑）。
• 在21世纪30年代初我们将开始生产计算速率达到1026~1029的非生物计算机。这大约相当于我们估计的所有活着生物的智力总和。
• 我把奇点的日期设置为极具深刻性和分裂性的转变时间——2045年。非生物智能在这一年将会10亿倍于今天所有人类的智慧。
• 这些比较的目的是，评估生物进化已经能够从基本上没有任何智能的系统（也就是一个执行没用计算的普通岩石）到有目的地执行计算的终极能力，到底需要走多远。生物进化已经帮助我们前进了一步，同时技术发展（正如我刚才指出的，代表了生物进化的延续）将使我们更加接近这些极限。

 第4章 达到人类智能的软件：如何实现大脑的逆向工程

• 大脑是好的：它可以证明物质的某一排列可产生思维，进行智能推理、模式识别、学习以及许多其他重要的工程兴趣的任务。
• 一个隐藏在奇点期望下的重要设想是非生物媒介能够模拟大脑思维的丰富度、精度和深度。但是实现一个单一人类大脑的硬件计算能力（甚至是一个村庄和国家的集体智力）将不会自动产生人类水平的能力。（我说的“人类水平”包括所有使人类智能化的多样而微妙的方式，如音乐和艺术才能、创造力、穿越世界的物理运动、理解和适度的回应情绪。）
• 非生物智能的一个关键优势在于机器能够轻松共享它们的知识
• 虽然这些神经元以极其缓慢的速度（通常是每秒200次）执行计算，但是大脑整体上是大规模并行的：大多数的神经元都在同一时间工作，这使得多达100万亿次计算同步进行。
• 人类大脑的大规模并行机制是其模式识别能力的关键，而模式识别正是人类思维的支柱之一。
• 我相信复制自然的设计范式将成为未来计算的主要趋势。
• 一个大脑区域的设计比一个神经元的设计还要简单。在更高层次的模拟常常会更简单，而不是更复杂。
• 感觉包含一系列神经元层次，每一层次的神经元都能感知到更复杂的图像特征。
• 自组织系统的一个关键要求就是非线性：一些创造的产出不是通过简单地投入总和得到的。
• 反向传播不是实际的生物神经网络突触重量训练的可行模式，因为实际调节突触连接强度的逆向连接似乎不存在于哺乳动物的大脑中。
• 纳米机器人就是人类血细胞大小（7微米~8微米）甚至更小的机器人
• 尽管人们在理解一个高水平系统前必须理解水平较低的那个，但往往也没有必要用低级别的系统动力学的复杂性来表达更高水平的效果。
• 记忆动态地分布在神经元的整个区域。
• 要使神经元产生长期变化，必须在这一小时内四次刺激神经元。
• 直接将观察到的球的移动翻译成运动者的适当移动，并改变其胳膊和腿的位置。
• 即直接将视野中感知到的运动转化为所需的肌肉运动。
• 如果我们真的要去抓住一个特定人物的心理过程的话，那么思维的重现将需要一个实体，因为我们那么多想法都是为了满足生理上的需求和欲望。
• 人体2.0版本将包括完全逼真的虚拟环境下的虚拟身体，以纳米技术为基础的肉体，以及更多种的身体形态

 第5章 GNR：三种重叠进行的革命

• 一旦我们能够完全理解生物运作的原理，并付诸工程设计中，那么生物本身的智能将无法企及机器的智能。
• 所有的生命奇迹和疾病痛苦的背后都蕴含着信息的处理过程，从本质上说，是软件程序，它出乎想象的精炼。人类的整个基因组是一段有序的二进制代码，大约只包含8亿字节的数据信息。
• 去除其内的大量冗余后，可以只剩下大约3000万~1亿字节的数据，相当于当代软件程序的平均规模。一套生化机器支撑着这段代码，它能够将这些DNA“字母”的线性序列（一维空间）转变为字符串的简单类似积木结构，即所谓的氨基酸。氨基酸依次折叠组成三维结构的蛋白质；这些蛋白质进而又构成小到细菌大到人类的所有生物（病毒介于生命与非生命之间，它也是由DNA和RNA片段组成）。
• 基因很重要，但是我们的本性——技能、知识、记忆、个性——会反作用于我们基因中信息的形成，因为我们的身体和大脑通过我们的经历自组织。这在我们的健康上也是很明显的。
• 纳米技术的革命可以彻底使我们以分子的方式来重新设计和组建我们的身体和大脑以及与我们所交互的世界。
• 德雷克斯勒的“分子汇编器”可以制造世界上几乎任何的物质。
• 我们发现所有的疾病都因为生物体在自我复制的过程中出错而产生的。
• 全世界每天生产的能量大约为14万亿瓦特，其中33%来自石油，25%来自煤，20%来自天然气，7%来自核裂变反应，15%来自生物和水力资源，只有0.5%来自可再生的太阳能、风能和地热能。
• 纳米技术革命主要影响的是物理技术，像制造业和能源业，将由加速回归定律所支配，包括能源在内的所有技术都会彻底变成信息技术。
• 绝大多数能源虽然形式多样，但都是太阳能的载体。
• 我们仅仅需要获得太阳传递到地球总能量的万分之三，就能满足所有的能源需求。
• 非生物智能将达到并超过每个领域的高精尖人才的技能。
• 一旦实现强人工智能，它会立即成为迅速增长的超级智能，从而失去控制。
• 在缺乏足以了解大脑的工具的情况下，人工智能科学家和工程师开发了自己的技术。正如航空科学家没有模拟鸟儿的飞行能力，早期的人工智能并不熟悉基于反向设计自然智能的方法。
• 人类决策的预感通常受很多先前经历的多种证据综合的影响，而并不是局限于自身。我们甚至常常不自觉地意识到我们使用的许多规则。
• 贝叶斯网。
• 贝叶斯网络的概率规则。该技术最初是由英国数学家托马斯·贝叶斯所设计并在其1763年去世后发表，该方法旨在确定未来事件可能是基于过去发生的同类事件
• 最有前景的一类垃圾邮件过滤技术就是基于该方法的。我个人使用一个名为Spam-Bayes的垃圾邮件过滤器，它可以帮你把电子邮件分辨出“垃圾”还是“正常”。
• 马尔科夫模型。另一种模型基于马尔科夫过程，这种模型的特点是将概率随机网络转换为复杂序列。
• 这个理论提出了一种估计一个可能发生事件序列概率的方法。
• 在语音识别领域，马尔科夫模型将会估计各种不同的音符模式
• 神经网络模型。
• 我在使用神经网络进行上述研究的经验就是最具挑战性的工作不是如何编码实现它，而是为它们提供自动学习的能力。
• 遗传算法（Genetic Algorithms,GA）。另一个源于自然的自我组织的灵感是遗传算法，或称为进化算法。
• 就像神经网络一样，遗传算法也是一种从杂乱无章的数据中挖掘出隐藏其中的精妙关系的方法。
• 遗传算法善于处理拥有大量参数的问题，这些问题的参数数量庞大到无法精确地分析或者寻找最优解。
• 遗传算法作为混沌和复杂性理论的一部分，越来越多地应用在解决复杂的商业业务问题上，比如优化供应链。
• KurzweilAI.net网站上，我们几乎每天都会报告至少一个梦幻般的系统。
• 所有的军事服务都正在采用机器人技术。
• 假如你只用一种方式去理解某件事，那么你并不能真正地理解这件事。这是因为假如有一个步骤发生错误，你将会被自己的思维所束缚。一件事对于我们的意义取决于如何把这件事同其他的事关联起来。
• 如果你有几种不同的思路，那么当其中一种失败时，你就可以用另一种思维去尝试。
• 良好的连接可以使你多方位的转变思路，直到找到一个合适你自己的。这就是我们所说的思考！ ——马文·明斯基
• 对人工智能体的教育将比没有经过强化训练的人类快得多。一个生物人类需要25年的时间来完成基础教育，而人工智能体则可以压缩到数周或者更短的时间。并且，因为非生物智能具有分享学习和知识的模式，所以只需有一个人工智能体掌握特殊技能。
• 到21世纪40年代，我们将有机会将整个人类文明所累积的知识和技能应用到计算平台上，这样的计算平台的智能将是没有外部工具辅助的人类智能的数十亿倍。

 第6章 影响的盛装

• 当我们的大脑也可以上网时，我们就可以把新的知识和技能下载下来。工作的职责会变为创造各种知识，从音乐、艺术到数学、科学等。娱乐的职责也一样会变为创造知识，所以工作和娱乐之间将不会有明显的差别。
• 我们的机器将变得越来越像我们，而我们也会越来越像我们的机器。 ——罗德尼·布鲁克斯
• 心脏通常是身体衰弱最早的部位，而且往往非常早。
• 很多技术正在研发当中，以提供生物信息处理的微模拟世界与数字电子之间沟通的桥梁。
• 不久之后，我们将把它们放入我们的身体和大脑中。到了21世纪30年代，我们将变得更加非生物一些。正如第3章中提到的，到21世纪40年代，非生物智能将拥有数十亿倍于生物智能的能力。
• 生物进化被限制在一类物质中，即蛋白质。蛋白质是由一维的氨基酸序列折叠组成的。它使用非常缓慢的化学转换，限制了思维的过程（模式识别、逻辑分析、技能的形成和其他认知能力）。生物进化过程本身的工作就非常缓慢。
• 在大约2029年，虚拟现实将展现它的另一个好处：会有数百万的人造人供你选择。
• 在生物科学里，尚未找到任何表明死亡必然性的证据。这暗示我，死亡并非是不可避免的。
• 从历史上看，人类的精神寿命长于有限的生物寿命，唯一的手段只有将价值观、信仰和知识传递给后代
• 虽然我们的软件不必永远继续存在，但其寿命在本质上是独立于硬件的，并且与其所运行的硬件是断开的。
• 当我们人类的硬件发生故障时，我们生命的软件——个人的“思想文件”也会随之逝去。
• 一个人思想文件的寿命将不依赖于任何硬件媒介的持续生存能力（例如，一个生物身体和大脑的存在）。最终基于软件的人将大大超越今天我们所知的人类的严重限制。他们将会在网络上生活，在他们需要或想要时设计出躯体
• 我们世世代代的精神软件的寿命无情地被关联在我们生物硬件的存亡上。
• 信息需要不断地保养与支持来保持“生命力”。不管是数据还是智慧，只有我们想要信息生存，它才能生存下去。推而广之，只有我们关心自己，才能继续生存。我们控制疾病和衰老的知识已经进步到你对自己寿命的态度成为长期健康最重要的影响。
• 科学是有组织的知识，智慧是有组织的生活。 ——伊马纳尔·康德
• 我们最终将走向分散的教育体系，在这个体系中，每个人将有权使用最高质量的知识和指导。
• 新时代的教育软件将能为每个学生的优势和弱点建模，发展出焦聚于每个学员问题领域的策略。
• 在任何时间、任何地点、任何年龄的学生，从幼儿到成人，都将可以得到世界上最好的教育。
• 当我们与非生物智能混合时，教育的性质将会再次改变。届时，我们将可以下载知识和技能，至少对于我们智慧的非生物部分是这样的。
• 技术通常以买不起且性能不好的产品作为开始；接着是价格昂贵、性能稍微好一点的版本；再然后是便宜、性能相当好的产品；最后是，技术变得高效，无处不在，并且几乎免费。
• 制造产品的成本的一部分取决于用于其创造的信息过程。这一部分的价值可以将一种产品区别于其他产品。
• 到21世纪20年代后期，实际上所有产品的真正价值，如服装、食品、能源以及电子产品将几乎完全取决于它们的信息。正如今天的情况，专利和每种产品和服务类型的开源版本将共存。
• 在未来的20年，几乎所有的日常的体力和脑力劳动将会被自动化。

 第7章 我是奇点

• 从道德角度来看，人是在硅上还是在生物神经上运行，都没有关系。
• 奇点人就是那些了解奇点内涵且能将其运用在生活中的人。
• 信息不是知识。世界淹没在信息的海洋中，而智慧的作用就是寻找并且作用于它们中主要的部分。
• 智能选择性地销毁信息以创造知识。
• 当下我们不能解决的主要问题是那些我们不能清楚表述的问题，通常是我们根本没有意识到的问题。对于那些我们已经遇到的问题，关键是要用适当的文字（有时候用方程）来表述它们。做到了那些，我们就能找到面对和解决这些问题的想法。
• 我们将会超越生物智能。我们首先将会与它结合，但是最终我们智慧中的非生物部分将会占据主导地位。
• 当我们做梦时，它们很真实，但我们能说比生活更真实吗？
• 当机器——非生物智能可以令人信服地为它自己辩论，它/他/她的感情需要得到尊重，这种争论将会改变。当它可以用幽默感做这些时——这对使他人信服十分重要，它可能会赢得辩论。
• 正是因为我们不能通过客观的测量和分析（科学）来完全地解决意识问题，所以哲学起到了决定性的作用。如果我们完全想象出一个没有主观体验的世界（只有旋转的物质，没有有意识的实体来体验它），那么这个世界也许就不存在了。
• 帆布上任意的几笔只是画，但当以合理的方式排列时，它们就从物质材料升华为艺术。任意的音符只是声音，但当以合理顺序排列时，它们就是音乐。一堆元素只是一个流水账，但当以创新的方式排列，或许加上软件系统（其他形式） ，就会实现技术的魔法（超越） 。
• 我们假定人类是有意识的，至少人类看起来是这样的。另一方面，我们认为简单的机器是没有意识的。在宇宙感官中，现代宇宙行为更像是一台简单的机器，而不是有意识的物体。
• 奇点会最终把宇宙打上意识的烙印。
• 进化会变得更加复杂、更加高雅、更多知识，更加美丽，更加富有创造性。在信仰中，上帝被描述为这些美好特点的集合体
• 进化会无情地向着上帝概念发展，虽然不会完全达到这个理想。因此，我们可以认为，把我们的思想从生物形式的严格限制中解放，这是一种根本的精神事业。

 第8章 GNR：希望与危险的深度纠结

• 基因工程可以通过技术的手段使用大量有效的设备修改细菌和病毒性病原体的结构，从而制造新的疾病。[插图]在破坏者或者粗心人的手中，这些改造的病原体可以组合成具有高度传染性、隐蔽性和破坏性的联合体。
• 那是最美好的时代，那是最糟糕的时代；那是智慧的年代，那是愚昧的年代；那是信仰的时期，那是怀疑的时期；那是光明的季节，那是黑暗的季节；那是希望之春，那是失望之冬；我们面前应有尽有，我们面前一无所有；我们都将直上天堂，我们都将直下地狱。——查尔斯·狄更斯， 《双城记》
• 这些技术将创造非凡的财富，从而克服贫困，并且通过把廉价的原料和信息转化成任何产品来使我们可以提供人们需要的所有物质。
• 极权主义是不太可能出现的，因为知识的日益分布是一种内在的民主化力量。
• 一个已经发生并将越发稳定的具有深远意义的趋势是从集中技术向分布技术的发展，从现实世界向上述虚拟世界的发展。
• 分布式技术往往是灵活、高效、相对环保的。典型的分布式技术是互联网。
• 随着这些技术的发展，把人们聚集在大型建筑和城市的需求会下降，人们将会分散地住在各自想住的地方，然后在虚拟世界聚集在一起。

 第9章 回应评论家

• 如果科学家说某事是可能的，那么他很可能是正确的；但是如果他说某事是不可能的，那么他很可能是错误的。
• 逆向设计大脑来捕获其运作原理，然后再在有大脑能力的计算平台上执行这些原理。
• 每当人们认为一个具体的计算模式接近极限时，总会有不断增长的研究兴趣和压力来创造下一个范式。在计算的指数增长一个世纪的历史中（从电磁计算机到继电器到真空管到分散的晶体管到集成电路），这已经发生了4次。
• 所以，一个现有范式的即将结束并不代表真正的极限。
• 生物进化“丢失了轮子”（因为没有一个生物进化拥有它）。
• 事实上，研究人工智能的人都会遇到这种挫折：一旦人工智能的目标实现，便不再认为它属于人工智能的领域，而只是一个一般的有用技术。因此人工智能经常被认为是一些尚未得到解决的问题。
• 没有一件事是模拟方法可以完成而数字方法不能完成的，数字方法可以模仿模拟方法（通过使用浮点表示），反过来却不一定。
• 在一个非生物实体中创造人类级别智能的任务，不仅是创建一个由无数规则和代码组成的庞大的专家系统，而是一个能学习的、无序的、自组织的系统，一个有生物创造力的系统。
• 一个简单的设计规则就可以创建巨大的复杂度。
• 这些不可证明的命题就像可被证明的命题一样常见。哥德尔的不完全性定理从根本上表明逻辑、数学甚至计算的能力是有限的
• 人的思维被人脑执行（身体也有一些影响），即人脑（和身体）包括物质和能量，这物质和能量遵循自然法则，这些法则能够用数学术语描述，而算法能够在任何精度上模拟数学。因此，存在着算法可以模拟人的思想。
• 和人类相比，机器通常可以找到更快的更彻底的解决方案。
• 药物本质上就是信息技术
• 理想的信息技术会迅速普及并且免费。只有当它们没有运转良好（在发展的早期阶段），它们的价格才如此昂贵，并且局限于在精英中应用。

 后记

• 在数学中，奇点是一个值，它实质上超越任何限制，是无穷大的值。（一般来说含有奇点的函数在这个点是没有定义的，但我们可以证明，函数在这个奇点附近的值是超过任何具体的有限的值的。）
• 在物理学中，“奇点”在理论上是指密度无限大的零点，以及其无限大的万有引力。
• 物理学中的奇点表示的是难以想象的巨大的值。

 来自微信读书