人工智能的危险论文.pdfVIP

人工智能的危险论文

危险的人工智能?

比核武器还要危险

“我们需要对人工智能(A.I.)超级小心，人工智能可能

比核武器还要危险。”

“希望我们不要在生物学上成为数字超级智能的启动加

载程序。不幸的是，这种可能性越来越大。”

以上是身为特斯拉汽车和太空探索这两家高科技公司

CEO、人称现实版“钢铁侠”的埃伦·马斯克2014年8月在

twitter上发的两条推文。

或许是感到仅靠一个人对人工智能将消灭人类的可能

性发出警告影响力不足，2015年1月12日，以马斯克为首

的企业家及发明家与以物理学家霍金为首的科学家联名发

表公开信，警告公众不能忽视人工智能的安全性及对社会的

负面影响。他们呼吁业界在制造人工智能时，须确保其“系

统依照我们的指令行动”。这封由生命未来研究所(Futureof

LifeInstitute)发出的公开信强调，“必须确保人工智能能

够按人的意志工作。人工智能研究一直在稳步发展，对社会

的影响也在逐渐增加，潜在的收益是巨大的。过去人类文明

的所有产物都来源于人类的智慧，但在人工智能的协助下人

类的智慧可以被放大到什么水平，我们无法预测，或许有一

天，疾病和贫穷可以因此永远消弭。因为人工智能的潜力巨

大，确保它带来收益的同时避免潜在风险，就显得至关重要

了。”信中还附上了一篇研究论文，里面给出了许多致力于

使人工智能社会收益最大化的例子。

空谈无益，马斯克随后还宣布向生命未来研究所捐赠一

千万美元，以帮助这家机构进行能确保让人类“受益”的A.I.

相关研究。所谓受益，指的就是当A.I.智慧高过人类之时，

它们仍会听命于我们而非发动革命。截至目前，工业界和政

府投资已经让A.I.从小众的学术研究演变成了可能改变世

界的技术，但并没多少人愿意投入资金，以确保其最终能为

人类带来积极的改变。因此，这笔首开先河的捐款将产生深

远影响。

所谓“人工智能可能比核武器还要危险”，绝非耸人听

闻，因为核武器不一定能消灭所有人类，但失控的人工智能

却可以。科幻影片《终结者》里的“天网”、《黑客帝国》里

的“母体”，都是人类制造的超级强大的人工智能，最后都

发展到以将人类赶尽杀绝为己任。这是谁都不愿看到的未来。

从解放体力到容纳灵魂

其实，埃伦·马斯克很了解人工智能及其载体机器人。

他拥有的特斯拉汽车制造厂在生产线上就大量使用了工业

机器人。生产线上灯火辉煌，快速移动的机器人被漆成明快

的特斯拉招牌红色，每个机器人都有一条多关节的单臂。大

多数机器人都有两三米高，有点像吓人的“终结者”。当这

些机器臂伸到一个平台上、换只“手”来完成一项不同任务

时，虽然动作看上去很怪异，但却有点像人。许多汽车制造

厂的机器人只能从事单一工种，但在特斯拉的新工厂，一个

机器人最多能完成四项任务：焊接、铆接、粘接，以及安装

零部件。每辆车在装配线的各个工位停留时间只有五分钟，

八个机器人围绕着它像跳芭蕾舞似的施展才华。如果工厂要

生产其他款式的汽车，只需将机器人重新编程，就可以在同

一条装配线上生产。

解放人类体力是发明机器人的初衷。1921年，捷克剧作

家卡尔·恰佩克在名为《罗素姆万能机器人》的戏剧作品中

创造了“robot”(机器人)一词。这个词源于捷克语的

“robota”，意思是“苦力”。在该剧的结尾，不甘心只做苦

力的机器人接管了地球，并毁灭了它们的创造者。

现实中，机器人仍主要充当苦力的角色。目前机器人已

经改变了制造业的面貌，并正在改变世界各地其他劳动密集

型行业。其中之一是配送行业，机器人能以世界短跑冠军的

速度将货物存放、取出或包装起来以备运输，大大高于人的

工作效率。无人驾驶汽车则是一种不像机器人的机器人，它

能够把卡车和出租车司机从乏味的工作中解放出来，代价是

司机们需要掌握从事新工作的技能。

白领工作也日益面临来自人工智能和机器人的挑战。飞

行员在驾驶飞机的大部分时间里依靠自动驾驶仪;广告销售

员因为自动网络广告竞价系统的出现而被迫转行;医生要依

靠面部表情识别软件来了解患儿的疼痛水平。制作美食也不

再是人类的专属：泰国政府引进的一种机器人，能够确定泰

国食物的口味是否足够正宗，是否需要再加点辣酱。甚至连

音乐家和艺术家也能被机器人取代，机器人已经可以创作音

乐了，还有人早就写出了诗歌创作程序。

幸好，人类的某些技能可能是机器永远无法替代的，