厦门原创音乐交流组

人工智能会成为世界的终结吗

2020-06-28 01:31:42

       人工智能会对人类本身构成事关存亡的威胁吗?往简单的方向说,会不会出现像电影《2001太空漫游》里哈尔9000那样不愿配合的人工智能?又或者,往稍微复杂些的方向说,会不会出现电影《终结者》里类似天网的东西?后一点疑问,显然会令埃隆·马斯克、比尔·盖茨、斯蒂芬·霍金等严肃思考着此类问题的聪明人辗转难眠。他们担心,会出现--种“超级智能”(该词由牛津大学哲学家尼克.博斯特罗姆最先提出),它会迅速地把人类当成威胁、麻烦,或可以奴役的生物。换句话说,人工智能有可能是人类的最后一项技术创新。

       对这个争议,我们没有立场加以评判,甚至我们自己都无法达成一.致意见。不过,让我们吃惊的是,这场争论与经济学的关系如此紧密:竞争是一切的基础。

超级智能是一种在大多数认知任务里超越人类的人工智能,并且能够通过问题进行推理。具体来说,它可以进行发明和自我改进。虽说科幻小说家弗诺.文奇(Vernor Vinge)称之为“奇点”,未来学家雷·库日韦尔(Ray Kurzweil)认为人类没有足够的能力预见届时将发生的事,因为按照定义,我们还不够智能,但实际上,经济学家拥有足够能力对此展开思考。

       多年来,人们一直批评经济学家,认为我们的理论得以建立的动因基础是一-些过分理性且不切实际的人类行为模型。没错,可如果说到超级智能,这就意味着我们走对了路。我们已经在分析中假设存在高级智能了。我们将理解建立在数学证明之上,它是一-种关乎事实却又独立于智能存在的标准。

       这个视角很有用。经济学告诉我们,如果超级智能想控制世界,它需要资源。宇宙有很多资源,但即使是超级智能也必须遵循物理定律。获取资源的成本很高。   

       博斯特罗姆讲过一个痴迷回形针的超级智能,它什么也不在乎,只想制造更多的回形针。为了制造回形针,这个超级智能可以不管不顾地消灭一切。这是一个强大的想法,但它忽略了对资源的竞争。不同的人(以及现在的人工智能)有不同的偏好,经济学家尊重这种差异。有些人工智能对探索、发现与合并保持着开放心态,另一些却只想制造回形针。只要存在不同的利益,竞争就会如火如茶,这意味着,回形针人工智能会发现交换资源比抢夺资源更有利,就像受到无形之手的指引-一样,最终会背离它的初始用意,提高与之截然不同的收益。

更多新闻