奇点临近

原标题：奇点临近

【美】雷·库兹韦尔 著

逃逸的人工智能

随着纳米技术革命的到来，强人工智能将有更深远的影响。纳米技术是强大的，但不一定是智能的。我们至少可以设计出管理纳米技术的强大权利方式，但超级智能却是天生无法控制的。

一旦强人工智能实现，它可以很轻易地获得提高，其能力也会增倍，因为这是机器能力的根本特质。随着强人工智能的到来，很快便会产生许多强人工智能，后者又开始自身的设计、理解和改进自身，从而很快演变成更多的能力，以及更加智能化的人工智能，这个充分过程会无限循环下去。每个周期不仅会创建一个更智能化的人工智能，而且比上一次循环花费更少的周期，这是科技发展（或任何进化过程）的本质。前提是一旦实现强人工智能，它会立即成为迅速增长的超级智能，从而失去控制。

我个人的看法略有不同，失控的人工智能在逻辑上是有效的，我们需要考虑时机问题。一台机器达到了人类智力的水平并不会马上产生一个失控的现象。这需要考虑到人类的智力水平是有限的。我们现在就有这样的例子——约有60亿个例子：考虑这样一个场景，你从1个购物中心带来由100人组成的1个小组。这个小组由理智的、受过良好教育的人构成，然而，如果这个小组被授予改善人类智慧的任务，进展就不会很大，即使他们也拥有人类智慧的模板。制造一个简单的计算机对他们来说可能也很辛苦。加速他们的思考能力和扩张这100个人的记忆容量也不会立即解决这个问题。

前面的内容已经指出，机器将会匹配（并迅速超越）各个领域顶级的人类技能。因此，我们换成100名科学家和工程师。这是一组在技术上具有良好教育背景的人，他们将有能力改善设计。如果一台机器的能力等效于100（最终1000或100万）个受过技术培训的人的能力，每项操作的速度远远快于自然人，那么一个迅速加快的智能将最终实现。

然而，当计算机通过了图灵测试，这种加速并不会立即发生，图灵测试相当于平均水平的匹配能力，受过教育的人比从商场里面找的人更接近于我们的范例。对计算机来说，管理所有这些必要的技能，并把这些技能与必备的知识基础相匹配是需要时间的。

一旦我们成功地建立了一台机器，并且其能通过图灵测试（大约在2029年），随后将是一个统一的时代，在这个时代里，非生物智能将迅速增长。奇点预期的非凡扩展，人类的智慧数十亿计的翻番，这些将会在21世纪40年代中期发生（就像在第3章讨论的一样）。