奇点更近：AGI临界与脑机接口终极猜想

 

《奇点更近：AGI临界与脑机接口终极猜想》

 [美]雷·库兹韦尔

 108个笔记

 通过图灵测试，实现人机融合

• 当AI系统真的通过图灵测试时，它必须在很多领域内故意表现得不那么聪明，否则人们将很容易识破。
  
• 21世纪30年代的一个关键进展将是，人类大脑新皮质的上部连接到云，这将直接扩展我们的思维。到那时，AI不再是我们的竞争对手，而是人类个体的延伸。当这个时刻来临时，我们大脑的非生物部分的认知能力将比生物部分强数千倍。 随着这种指数级趋势的发展，到2045年，人类的思维能力将扩展数百万倍。
  

 AI的诞生与两大流派之争

• 图灵将哲学思想转变为科学思想的尝试，激发了科研人员高涨的热情。
  
• 在筹备一次科学会议时，约翰·麦卡锡提出将这个未来有望革新其他所有领域的新兴科学领域命名为“Artificial Intelligence”（人工智能，简称AI）。
  
• 明斯基教导我，创建问题的自动化解决方案的技术主要有两种：一种是符号主义方法，另一种是联结主义（也称连接主义）方法。
  
• 联结主义主张通过网络化的节点结构来生成智能，而非依赖于内容。与使用智能规则不同，通过哑节点，它们能直接从数据中挖掘出深层次的洞见。这样的系统可以发现那些人类程序员在设计符号规则时未曾想到的细微模式，它们甚至能在完全不理解问题的情况下解决问题。
  
• • 第i层中神经元的输入并不一定需要来自层i-1中神经元的输出。相反，每一层中神经元的输入可以来源于任何更低层或更高层。
  
• 在异步方法中，每个神经元不断扫描输入，并且在加权输入之和超过阈值（或者其输出函数指定的任何值）时触发。
  
• 在标注正确率只有60％的情况下，神经网络仍能以超过90％的高准确度掌握所学知识。在某些情况下，甚至使用更小比例的准确标注也取得了有效的学习结果。
  
• 我们可能会不解，一个老师如何能让自己的学生“青出于蓝”，同样，错误百出的数据如何能够训练出表现出色的神经网络。其实，错误可以相互抵消。
  
• 今天AI领域的巨大发展，就得益于在罗斯布拉特提出这一构想50多年后，多层神经网络的广泛使用。
  

 小脑：用模块构建“无意识的能力”

• 在最初的原子形成和地球上第一批能自我复制的分子出现之间，大约有100亿年的时间间隔。
  
• 根据科学家们的最新推断，从地球上出现第一批生命到多细胞生命的诞生，大约过去了29亿年。接着又过了5亿年，动物才开始在陆地上活动。又过去了2亿年的时间，哺乳动物才出现。
  
• 掌握某项体育技能，关键在于通过充分练习将技能内化为肌肉记忆。原先需要有意识思考和保持专注才能完成的动作，渐渐变得自然而顺畅，这实际上就是从大脑运动皮层控制向小脑控制的转变。
  
• 不管是投掷球、还原魔方还是弹钢琴，所需要的有意识的心智努力越少，你就越有可能表现得更好。你的动作会变得更快、更流畅，可以将注意力用于其他可以提升表现的方面。
  
• 这就是心理学家和教练们所说的“无意识能力”，因为我们并不需要有意识地去想它。
  
• 依靠基因驱动的行为适应环境的速度要远慢于通过学习驱动的行为。学习使得生物可以在其一生中有意识地调整自己的行为，而先天行为的变化仅限于历经多代的渐进性改变。
  

 新皮质：层次分明、可自我调整的灵巧结构

• 为了取得更快的进展，进化需要设计出一种方法，让大脑在无需等待基因变化重新配置小脑的情况下发展出新的行为。新皮质应运而生，字面意思是“新的皮质”，大约在2亿年前随着哺乳动物的诞生而出现。
  
• 新皮质的各个模块采用了大规模并行的处理方式，也就是说，许多不同的事情可以同时发生。这种机制让大脑成为一个充满活力的系统，也使得对它进行计算建模变得极具挑战性。
  
• 人类历史上许多重要的智力飞跃，都与新皮质具有的在不同领域间类比的能力密不可分。
  

 深度学习：新皮质魔力的数字化再现

• 尽管有些人怀疑这样的指数级增长趋势能否持续下去，他们认为，当晶体管密度达到原子尺度的物理极限时，摩尔定律将不可避免地走向终结。但他们忽略了一个更深层次的事实：摩尔定律实际上是“加速回报定律”的更基本力量的一个示例，信息技术创造了创新的反馈循环。在摩尔做出他的伟大发现之前，电机、继电器、真空管和晶体管引领的四种主要技术范式的计算性价比呈指数级提高，而在集成电路达到其极限之后，纳米材料或三维计算技术将占据主导地位。
  
• 1997年，IBM用深蓝(Deep Blue)击败国际象棋世界冠军加里·卡斯帕罗夫(Garry Kasparov)，这台超级计算机装载了程序员从人类专家那里收集到的关于国际象棋的所有知识。
  
• AlphaGo Zero没有获得任何关于围棋的人类知识，在与自己进行约三天的自我对弈后，它从随机走棋进化到以100: 0的战绩轻松击败了先前用人类知识训练的AlphaGo。
  
• 零样本学习正是类比思维和智能的核心。
  
• DeepMind推出了Gato，这是一个能够胜任从玩电子游戏、文本聊天，到为图像添加文字说明、控制机器人手臂等多种任务的单一神经网络。这些功能本身并不是什么新功能，但将它们整合到一个统一的类脑系统中，是朝着人类式泛化智能迈出的一大步，预示着未来的进步将非常迅速。
  
• 推动这些趋势的关键，是逐渐让这些模型的复杂性逼近人脑。我长期以来一直坚信计算量对于提供智能答案极为关键
  

 通过图灵测试的意义

• 人类通常会在回顾过去时轻视AI取得的成就，将其说得轻而易举。这种现象通常被称作“AI效应”。
  
• AI很可能在掌握图灵测试中的常识性社交细节之前，就在编程方面超越人类水平。
  
• 我们必须认识到，如果有一天AI通过了更强版本的图灵测试，那么它在所有可以通过语言来检验的认知测试中都将超越人类。
  
• 图灵测试的含义远超过了理解人类语言本身，它涵盖了我们通过语言展示出来的认知能力。当然，成功的AI在测试中还必须避免表现得过于优秀。如果参与测试的对象能即刻回答任何问答题，比如迅速判断一个庞大的数字是否为质数，流利地说100种语言，那它显然不是一个真正的人。
  
• 这意味着，AI要通过传统的图灵测试，实际上需要在智力上自我降级。
  

 扩展大脑新皮质至云端

• 这个过程不需要任何科幻式的脑部手术，我们可以通过毛细血管无创地将纳米机器人送入脑内。这意味着，未来人类大脑的大小将不再受到出生时头部通过产道的物理限制，而是可以无限扩展。
  

 几乎生活的每个方面都在逐步变得更好（一）

• 信息技术之所以呈指数级发展，因为它直接促进了自身的进一步创新。与此同时，这一趋势也助推了其他领域众多相互强化的进步机制。
  
• 教育、医疗保健、卫生设施和民主化等相互交织的因素形成了相互强化的反馈循环，这些领域的任何改善都可能给其他领域带来益处。
  
• 我们可以在一定程度上通过改变生活方式、饮食和服用营养补充剂来降低这些风险，我称之为通向大幅延长寿命的第一座桥梁。
  
• 幸运的是，在21世纪20年代，我们正在走上第二座桥梁：将AI和生物技术结合起来，战胜那些退行性疾病。
  
• 在21世纪30年代，我们将跨上彻底延长寿命的第三座桥梁：医用纳米机器人，它们能够在我们的身体内智能地进行细胞层面的维护和修复。
  
• 第四座桥梁——能够以数字化方式备份我们的思维文件，将是21世纪40年代的技术。
  

 几乎生活的每个方面都在逐步变得更好（二）

• 这些良性反馈循环本质上是由技术驱动的，这可以说是一种对未来的关键洞见。
  
• 2021年太阳能发电量占全球发电总量的3.6％左右，自1983年以来，这一比例平均每28个月翻一番。
  
• 信息技术长期以来一直在促进社会的民主进程。
  
• 2021年，太阳能约占全球总发电量的3.6％。
  
• 从2021年的3.6％开始，需要大约4.8倍就能达到100％。这意味着在2032年，仅利用太阳能就能满足我们所有的能源需求。
  

 勤奋的人将在2030年左右实现长寿逃逸速度

• 到21世纪20年代末，生物模拟器将足够先进，可以在几个小时内生成一些关键的安全性和有效性数据，而不是像临床试验那样通常需要数年时间。
  

 更轻松，更安全，更丰富，更美好

• 信息技术关乎思想，它以指数级增长的方式提高了我们分享和创造思想的能力，从更广泛的意义上来说，它赋予了每个人更大的力量来实现人类的潜力，并让我们可以共同解决社会面临的诸多问题。
  
• 指数级发展的信息技术就像不断上涨的潮水，推动着人类生活的方方面面不断向上发展。而我们现在即将进入一个前所未有的高潮时期。关键在于AI，它让我们能将许多种线性发展的技术转化为指数级发展的信息技术，从农业、医疗、制造业到土地利用，无一例外。这种力量将使人类未来的生活以指数级的速度变得更加美好。
  

 新工作亟待被创造，旧工作注定要毁灭

• 通过大幅降低全球运输成本，集装箱运输使经济真正实现了全球化。
  

 这一次会有所不同吗

• 第一次浪潮通常被称为“去技能化”(Deskilling)。
  
• 去技能化的主要影响之一是，人们无须经过长期培训就可以从事新工作。
  
• 第二次浪潮是“技能提升”(Upskilling)。
  
• 技能提升通常出现在简单重复性工作被机器取代之后，它引入了比之前需要具备更多技能才可以掌握的技术。
  
• 这样的趋势往往意味着用数量较少但薪酬较高的岗位来取代低薪岗位。
  
• 然而，即将到来的第三次浪潮可以称为“无需技能”(Nonskilling)。
  
• 即使你过去20年的名义工资没有增长，但你现在用同样的工资购买的计算能力将比过去高数千倍以上。
  
• 21世纪20年代和21世纪30年代，AI和技术融合将使越来越多的商品和服务转变为信息技术，它们也能从数字领域已经出现的指数级增长趋势中获益，这种趋势已经给数字领域带来了巨大的通货紧缩。
  
• 在21世纪30年代，人们将能够以相对低廉的成本过上今天被认为是奢侈的生活。
  

 那么，我们将走向何方

• 就业本身不是目的，而是达到目的的手段。工作的一个目标是满足生活的物质需求。
  
• 工作的另一个目标是赋予生活目的和意义。
  
• 电子设备已经成为我们身体的一部分。
  
• 搜索将从熟悉的文本字符串和链接页面的范式转变为无缝衔接、直观易用的问答模式。
  
• 到21世纪30年代初，发达国家将有效实行全民基本收入制度或与之相当的制度，到21世纪30年代末，大多数国家也将实现这一目标。届时，人们将能够靠这笔收入过上按照今天的标准衡量非常不错的生活。这将涉及定期向所有成年人支付现金，或提供免费商品和服务。
  
• 当我们在21世纪30年代的某个时候开始以数字方式增强大脑皮层时，我们将能够创造出现在无法想象或理解的有意义的表达方式。
  
• 适应技术变革的一大挑战在于，它们往往会给广大的群体带来分散的利益，但给小部分群体带来集中的危害。
  
• 我们不会与AI竞争，就像我们现在与智能手机的关系一样。人机共生关系并不新鲜：自从石器时代以来，技术的目的就是在身体和智力层面扩展人类的能力。
  
• 当人们觉得他们未来可以过上更长久、安全的生活时，他们会更倾向于通过政治手段来消除分歧，而不是冒着失去一切的风险诉诸武力。
  

 21世纪30年代和21世纪40年代：开发和完善纳米技术

• AI与纳米技术革命的结合，将使我们能够在分子层面上重新设计和重构我们的身体、大脑以及与我们交互的世界。
  
• 一旦我们拥有先进的纳米制造技术，任何物理物体（包括分子装配机本身）的边际成本将仅为每磅几美分，基本上只是原子原材料的成本。
  
• 产品的真正价值将体现在它们所包含的信息上。从本质上说，是投入其中的所有创新，从创意到控制其制造过程的软件代码。这种情况已经发生在可以数字化的商品上。
  
• 大多数产品的信息内容正在迅速增加，最终将非常接近其价值的100％。
  
• 当商品真正丰富时，囤积它们是毫无意义的。没有人会为自己囤积空气，因为空气很容易获得，而且每个人都有足够的空气可以呼吸。
  

 附录一 卡珊德拉与库兹韦尔的对话：2029年之前，AI将全面超越人类

• 具有较强处理能力的神经网络能够在2029年之前在所有能力方面超越人类。
  
• 尽管目前的脑部扩展装置在体外，但如果没有这些装置，我们现在所从事的工作将无法完成，即使它们尚未在物理层面连接到我们的大脑。
  

 作者小传

• 他创立了加速回报定律（也称“库兹韦尔定律”），提出计算机技术等通用技术将会以指数倍级，而非线性级发展，未来15～30年人工智能将呈现爆炸式的突破性发展，更多超乎我们想象的事物也会出现。
  
• 在对未来的设想中，库兹韦尔将人体视为一个由数千个“程序”组成的系统，并认为了解它们的所有功能可能是构建真正有感知的人工智能的关键。
  

 引言 人类迈向奇点的千年征程已步入冲刺阶段

• 我们将与AI融为一体，并利用比人类强数百万倍的计算能力来增强自己的能力，这种智能和意识的提升影响深远
  
• “加速回报定律”(Law of Accelerating Returns)之上：随着技术的不断进步，计算和其他信息技术的成本呈指数级下降，因为每一次的进步都会让它们下一阶段的迭代变得更为简单。
  

 第1章 我们在六个阶段中的哪个位置

• 自宇宙诞生以来的六个发展时代或阶段，每一阶段都是基于前一阶段的信息处理而创造出来的。
  
• 第一个时代是物理定律和化学定律的诞生，它们使后来发生的一切成为可能。
  
• 几十亿年前迎来了第二个时代：生命的诞生。分子变得日益复杂，以至于一个分子就能定义一个完整的生物体。于是，有自己DNA的生物得以进化并繁衍生息。
  
• 紧接着是第三个时代的到来，那些由DNA描述的动物进化出了大脑，一个能存储和处理信息的新器官。随着时间的推移，大脑在数百万年里为动物提供了进化优势，反过来又使得大脑变得更加复杂。
  
• 在第四个时代，动物，特指人类，利用更高级的认知能力，结合灵巧的对生拇指，得以将复杂的思想转化为实际行动。人类开始创造能够存储和处理信息的技术，从纸莎草纸到现代硬盘，这些技术扩展了人类大脑感知、存储和评估信息的能力。这成为推动进化的一大动力，比以往任何时代的进步都更显著。
  
• 第五个时代涉及直接将人类的生物认知与数字技术的速度和力量结合起来，即脑机接口。
  
• 在第六个时代，我们的智能将延展至整个宇宙，把普通物质转变为能在最密集计算水平上进行组织的数层计算材料(Computronium)。
  
• AI通过图灵测试表明AI掌握了人类的语言和常识性推理能力。
  

 第3章 我是谁：成为一个特殊的人意味着什么

• 什么是意识呢？人们通常使用“意识”这一术语来描述两种不同但相关的含义。一种是功能性的，即意识到自己周遭的环境，并能够感知到内在思想和一个与之不同的外部世界。
  
• 另一种含义显得更为关键：有在头脑内部拥有主观感受的能力，而不仅仅是外在的表现。
  
• 即便是最原始的生命形式也能展示出基本的智能形式，如记忆。
  
• 意识不仅仅是人类特有的现象的可能性。该宣言声明：“缺少新皮质似乎并不妨碍生物体验情感状态。”
  

 第4章 生活正在指数级变得更好

• 加速回报定律实际上描述的是这样一种现象：某些类型的技术创造了加速创新的反馈循环。广义上讲，这些技术使我们能够更好地掌握信息：收集、存储、操纵和传输信息，从而使创新本身变得更加容易。
  
• 在未来几十年里，生活的大多数方面都将以指数级速度变得更好。我们现在正处于接近这些指数曲线陡然升高的阶段。
  
• 人们对坏消息的偏好实际上是一种进化适应。
  
• 另一个进化适应是一种有充分证据证明的心理偏差，即记忆中的过去比实际情况更美好。
  
• 负面感受消退的速度远远快于正面感受，而愉快的记忆则会持续存在。
  
• 我们还有一种认知偏差，即夸大负面事件在日常生活中发生的普遍性。
  

 第5章 工作的未来：是好还是坏

• 未来20年的融合技术将给全世界带来巨大的繁荣和物质财富。但这些力量也将扰乱全球经济，迫使社会以前所未有的速度适应这一趋势。
  
• 在名单靠后位置的则是那些需要有密切、灵活的人际互动的工作，例如治疗师、社会工作者等。
  

 第6章 未来30年的健康和幸福：从与AI融合到完全突破生理局限

• 要让医学成为一门精确的科学，需要将其转变为一种信息技术，使其能够从信息技术的指数级进步中获益。
  
• 将一种新药推向市场通常需要10年的时间，平均成本估计在13亿～26亿美元
  

 结语 我们将会面临的四个巨大危机

• 由于生物技术的风险，我们仍然可能遭受如新冠疫情这样的大流行的影响。截至2023年，这场大流行已经在全世界造成了近700万人死亡。
  
• 超级AI带来的危险主要可以分为三大类，通过针对每一类进行重点研究，我们至少可以降低风险。第一类是误用，即AI按照人类操作者的意图运行，但这些操作者故意利用它来伤害他人。
  
• 第二类是外部失准(Outer Misalignment)，指的是程序员的真实意图与他们为实现这些意图而教给AI的目标之间存在不匹配的情况。
  
• 第三类是内部失准(Inner Misalignment)，它发生在AI为实现特定目标而学习的方法导致不良行为时。
  
• 绝不应该把夺取人类性命的决定权交给机器。这个立场有一个道德层面，即我们不应该允许机器做出他人或者没有人为此负责的决定。
  
• 到21世纪30年代后期，我们的思维本身将在很大程度上是非生物学的。那么，当我们自己的思维主要依赖非生物系统时，人类决策的作用何在？
  

 AI尚需跨越的三大里程碑

• 今天的AI还存在一些不足之处，大致可以概括为几类：情境记忆、常识理解和社交互动能力。
  
• 把AI的进步看作一系列独立技能的集合揭示了一个重要的事实：尽管我们习惯将人类智能看作一种统一的全知全能，但是将人类智能视为一系列各不相同的认知能力的集合，不仅更精确，也更有意义。
  
• 大脑受损或中风之后，人们仍有可能完全恢复功能，这正是这种神经系统的并行性和适应性的最好证明。
  
• 在未来20年左右的时间里，计算机将能以我们关心的所有方式来模拟人脑。
  

 来自微信读书