第1章 AI该往何处走
在当下的AI研究中，鲁棒性都没有得到足够的重视。一部分原因在于目前的AI研究重点都放在了解决那些容错能力较高的问题上，比如广告和商品推荐。
在事关重大的未来AI应用领域之中，包括无人驾驶汽车、老人照护、医疗规划等，鲁棒性都至关重要。
第2章 当下AI的9个风险
在人工智能从根本上得到重构和改进之前，风险依然存在。这里有9个风险是我们最担心的。
第一个风险是基本超归因错误。AI总是让我们误认为它拥有与人类相仿的智慧，而事实上根本没有。
第二个风险是鲁棒性的缺失。
第三个风险是，现代机器学习严重依赖于大量训练集的精准细节，如果将这样的系统应用于训练过的特定数据集之外的全新问题，就没法用了。
第四个风险是，当需要更微妙的方法时，盲目地过分依赖于数据，还会导致过时的社会偏见长期存在。
盲目的数据挖掘机却无法捕捉到这种变化，只能去强化历史，而无法反映出日新月异的现实情况。
第五个风险是，当代AI对训练集的严重依赖，也会引发有害的回音室效应，系统最后是被自己之前产出的数据所训练的。
第六个风险是，有些程序依赖于公众可任意操纵的数据。这些程序常常陷于被愚弄的境地。
第七个风险是，之前已经存在的社会偏见再加上回音室效应，会进一步加剧社会偏见的程度。
第八个风险是，太容易落入错误目标的陷阱。
第九个风险是，由于AI的潜在影响范围非常之广，即使在非常初级的状态下，也有可能被别有用心的人利用，对公众造成严重伤害。
如果将思路局限于狭义AI，用越来越大的数据集去解决问题，整个行业就会陷入永无休止的“打地鼠”大战，用短期数据补丁来解决特定问题，而不去真正应对那些令此类问题层出不穷的本质缺陷。
第3章 深度学习的好与坏
让机器通过统计学方法利用数据进行学习，有许多不同的思路。深度学习本身只不过是其中一种。
20世纪80年代发生了一件AI史上的重要里程碑事件，日本神经网络先锋人物福岛邦彦（kunihiko Fukushima）将休伯尔和维泽尔的思想在计算机实践中“落地”，打造出了实实在在的“神经认知机”（Neocognitron），并证明神经认知机可以用于计算机视觉的某些方面。
深度学习面临三个核心问题
第一，深度学习是贪婪的。
第二，深度学习是不透明的。
第三，深度学习是脆弱的。
深度学习并没有那么深刻。很重要的一点，就是要认识到，深度学习这个说法中的“深度”二字，指的是神经网络中分层的数量，除此之外别无其他
若想获得真正的智能，你还需要推理能力、语言能力和类比能力，而上述能力中，没有一个是当前技术所能掌握的。
深度学习很可能只是一系列工具的其中之一，而不是独立的解决方案。
深度学习或许可以做一些表面看来有智能的事情，但我们的确认为，深度学习本身缺乏真实智能所具备的灵活性和适应性。
爬上再高的大树，也无法抵达月球。
第4章 计算机若真有那么聪明，为什么还不会阅读
计算机不会阅读的第一个原因是不会建立认知模型。
当你在阅读故事或文章时，你做的是与机器完全不同的事情。你的目标不是去构造统计学上的合理匹配，而是去重建一个作家用文字与你分享的世界。
计算机不会阅读的第二个原因是不理解“不”的含义。
计算机不会阅读的第三个原因是无法应对模糊性。
目前，自然语言理解领域落于两种不同的思路之间：一种是深度学习。深度学习非常善于学习，但在组合性和认知模型构建方面很弱。另一种是经典AI。经典AI将组合性和认知模型的构建囊括了进来，但在学习方面表现平平。
第5章 哪里有真正的机器人管家
第三个能力是态势感知（situational awareness），就是对于随后可能发生的事情的认识。
也就是第四个能力，复杂场景采取行动的能力。
认知模型和深度理解才是关键
第6章 从认知科学中获得的11个启示
人类的认知过程分为两类：系统1和系统2。
系统1，也就是快系统的过程，执行得很快，通常是自动进行的。
系统2，也就是慢系统的过程，需要有意识的、按部就班的思考。
关于这两类系统，我们觉得用“本能反射”和“深思熟虑”这两个说法更加恰当
真正的智能远远不只是深度学习所擅长的感知分类，我们必须对其进行重新组合，形成更高级的思考和符号推理，也就是20世纪80年代经典人工智能试图解决的那些问题。
一旦AI开始利用认知科学，从围绕大数据形成的范式上升成为围绕大数据和抽象因果知识形成的范式，我们就将有能力解决“为机器赋予常识”这个无比困难的挑战。
第7章 常识，实现深度理解的关键
深度学习缺乏直接整合抽象知识的方法，基本对这个问题持完全忽略的态度；经典人工智能曾经付诸努力，尝试了许多方法，但并没有取得成功。
形式逻辑这类思想很可能是以足够的清晰度来对知识进行表征的必经之路。
《纯粹理性批判》的核心主题，该主题从哲学视角出发，认为时间、空间和因果关系是基础
AI一直在两个极端之间横冲直撞：要么一切都由人工编写代码，要么一切都让机器自己学习。
第8章 创造可信的AI
是否有可能建立起这样一个系统，在拥有超级智能的同时完全缺乏常识和基本价值观。
我们目前的系统与常识毫无关联，但我们却越来越依赖它们。真正的风险不是超级智能，而是被赋予权力的“白痴专家”
比如能够瞄准人类作为目标的自主武器，没有价值观能够约束它，再比如人工智能驱动的新闻推送，由于缺少超级智能，只关注短期利益而忽视了长期价值。
人工智能走错了路，目前的大量工作都致力于打造相对没那么智能的机器，这些机器执行的任务都很窄，主要依赖于大数据，而不是我们所说的深度理解。
后记
可信的AI，也就是基于推理、常识性价值和良好工程实践的人工智能
No comments:
Post a Comment