周灵悦 上海大学

摘要：随着人工智能的应用越来越广泛，威胁论层出不穷。其中包括生存威胁论、失业威胁论和机器威胁论。具体是指强人工智能对人类的生存威胁，机器自动化可能会造成人们的大规模失业以及自主性增强的智能机器做出的决策存在违反伦理道德和隐私泄露的可能。

关键词：人工智能；威胁论

学术研究和商业化研究快速地推动着机器智能的崛起，人工智能应用正广泛地影响着人类的社会生活，同时，关于威胁论的论调层出不穷。在《人工智能——一种现代方法（第二版）》中，作者总结出了八种潜在威胁。分别是：“人们可能由于自动化而失业；人们可能拥有过多（过少）的闲暇时间；人们可能会失去作为人的独一无二的感觉；人们可能会失去一些个人隐私权；人工智能系统的应用可能会导致责任感的丧失；人工智能的成功可能意味着人类种族的终结”。在人工智能对人类社会造成的影响层面，我们将讨论几种主要的威胁论论证，分别是生存威胁论，失业威胁论和智能机器威胁论。

一、生存威胁论

关于人工智能是否会毁灭人类的问题，最早仅仅出现在科幻作品中，例如电影《终结者》（The Terminator）（1984）和《黑客帝国》（TheMatrix）（1999）。

汉斯·莫拉维克（Hans Moravec）认为人工智能在50年内与会与人类的智能想匹配，并超越之。他在《机器人：由机器迈向超越人类心智之路》（Robot: Mere Machine to Transcendent Mind）中写道：“它们将相当迅速地取代我们的存在，我并不因为这后一种可能性而像许多人一样惊慌失措，因为我认为这些未来的机器就是我们的后裔，是依照我们的想象和喜好建造的‘精神子孙’，是更强有力形态的我们自己。如同目前世代的生物形态子孙一样，它们将承载着人性对长远未来的最美好希望。这值得我们为它们提供每个有利条件，并且在我们无法再做出贡献时从容引退。”

各领域著名的科学家、企业家都表示了对人工智能超越甚至代替人类的担忧，如斯蒂芬·霍金、埃隆·马斯克、比尔·盖茨。

2014年，霍金在利弗休姆未来智能研究中心的成立仪式上发表演讲，他指出成功创造人工智能将成为人类文明史上最重要的事件，倘若我们不规避风险，这将成为我们最后的事件。尽管人工智能的发展会带来种种好处，例如消除疾病和贫困，改变人类生活的方方面面，然而自动化武器的智能化也会破坏人类文明的发展，对我们的经济造成巨大破坏。同年，他与另外几名科学家（计算机科学家斯图亚特·罗素、诺贝尔物理学奖得主弗兰克·韦尔切克等）在英国《独立报》上共同署名发表公开信，对人工智能崛起的后果发出警告。信中表示，人们目前对待人工智能的潜在危险“不够认真”，“短期来看，人工智能的影响在于谁控制它，而长期看来，这种影响取决于我们能否控制它”。

牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）提出了“回形针最多化”（paperclip maximiser）的思想实验。该实现假设人类给人工智能一个清晰的目标，比如“在全世界尽可能多生产回形针”，如果AI足够聪明，它可能会制造出超级工厂，AI在确定回形针何时达到最大量时，可能会对人类造成伤害，因为人类可能会关掉计算机以至于超级工厂无法生产或者为了得到尽可能多的资源，人体当中的铁元素也会成为计算机的目标。

特斯拉创始人埃隆·马斯克多次发表对强人工智能的“威胁论”，他认为人工智能对于人类来说是一场灾难，并有可能成为人类文明的最大威胁，短期内直接表现为智能自动化对人类工作的取代和剥夺，而在未来人工智能成为地球的独裁者，人类需要与机器结合成为“半机械人”才不至于在AI时代被淘汰。比尔·盖茨对未来人工智能的担忧立场更为中立一些。他认为在未来几十年人工智能会成为人类的心头大患，然而，如果人类可以很好地驾驭技术，人工智能也会反过来造福人类。

关于人工智能威胁的讨论离不开“奇点理论”，其依据是摩尔定律。关于“奇点”的讨论并非首先来自于科学，而是来自于曾获得雨果奖的科幻小说家弗诺·文奇，他在自己的小说《为和平而战》和《实时放逐》中，首先描绘了虚构的未来世界，他称之为“技术奇点”。那时，人类已经依靠指数增长的超级科技进入了另一种形式的存在。在1993年的一篇文章中，他更清晰地表达了这种思想，指出超人类人工智能的诞生将会成为历史上“人类时代的结束”。雷·库兹维尔接受并发展了文奇的构想，他论断：科技正以史无前例的速度发展，2045年，计算机将能够赶超人类智能的各个方面，下一个阶段便是人类与机器的联合，人类智能会逐渐非生物化，这种融合便是奇点的本质。

二、失业威胁论

“机器问题”的产生是伴随着工业革命和自动化的发展而兴起的。早在两个世纪以前工业革命时代的英国，“机器问题”就曾引发了人们的担忧和激烈的争论。有些人担忧机器只是有选择地让少数人受益，它会抢走所有人的工作并最终彻底颠覆社会。如今，“机器问题”又卷土重来，只不过它伪装成了另一副面孔。科学家、经济学家和哲学家纷纷在探讨人工智能技术带来的深刻潜在影响。人工智能技术突飞猛进，机器人能够执行曾经只有人才能胜任的各种任务。很多人担心机器会让越来越多的人下岗，引发不平等问题和社会动荡。

大量的研究机构与高校对此进行了相关数据的调查，著名媒体也对此发表了看法。

牛津大学2013年的一项研究表明，在未来20年里，美国47%的工作都有转向自动化并被机器所取代的风险，这使得许多工人感到更加担忧。2014年，皮尤研究中心发布报告《人工智能，机器人学和工作的未来》，称52%的参与专家认为，到2015年由人类完成的许多工作将会被机器所取代。2015年下半年，英国央行首席经济学家安迪·霍尔丹 (Andy Haldane) 估计，英国大约有1500万个工作岗位（大约为总量的一半）可能受到机器的威胁，而欧洲主要国家多达50%的工作岗位估计面临被机器替换的风险。《未来简史》和《人类简史》的作者、以色列著名未来学家尤瓦尔·赫拉利（Yuval Noah Harari）认为，智能机器的普及必然会导致人类社会生活的许多改变。首先是工作方面，可以把人类从简单枯燥的工作中解放出来。但另一方面必将造就更多的“无用阶级”。2016年10月，AI NOW发布的专题报告The AI Now Report指出，人工智能为经济价值的生产带来了新的方式，也对价值分配产生了新的影响。在某种程度上，人工智能的价值分配会使一部分群体受益，从而延续甚至加剧现有的财富分配差距。

人工智能对“最安全”的职业的危险应征了汉斯·莫拉维克和布鲁克斯在1980年提出莫拉维克悖论（Moravec’s paradox），该悖论指出人类所独有的高阶智慧能力只需要非常少的计算能力，例如推理，然而一岁小孩所具有认知和直觉却需要极大的运算能力，语言学家和认知科学家史蒂芬·平克在《语言本能》也提及，人工智能的研究发现的最重要课题是：“困难的问题易解，而简单的问题是难解的”。如四岁小孩具有的本能—辨识人脸，举起铅笔，在房间内走动，回答问题—事实上是工程领域内目前为止最难解的问题。例如伯克利研究团队装配的类人机器人，这样的机器人被设置来识别单块和成堆毛巾在哪里，机器人要花费大部分时间观察毛巾在哪里，以及如何才能抓住它。它们由此得出，像厨师，园艺师，修理工，木工，牙医和家庭健康护理员在短时间内是不会被机器所取代的。但这些职业也可能在未来面临激烈竞争，因为机器的自动化对具有技能的人员会造成威胁。

三、机器威胁论

机器人伤害人的案例在历史上早有发生。世界上首例机器人伤人事件发生在1978年日本广岛的一家工厂，切割机器人在工作时发生异常，误将一名值班工人当作钢板进行操作。随后，1979年一位年仅25岁的美国福特工厂装配线工人Robert Williams，在密歇根州的福特铸造厂被工业机器人手臂击中身亡。2016年11月，中国深圳高交会上，名叫“小胖”的机器人突发故障，在行进中碰撞到人和玻璃，一度引起网友恐慌，认为是“首例机器人‘造反’事件”。随着机器人在生产生活中的应用，类似伤人事件出现的概率会显著上升，智能机器对人类造成的威胁显而易见。

如今，智能机器的运用场景越来越广泛，机器威胁不仅仅停留在工业机器体型庞大和工人操作不慎这些外在方面，还在于机器自主化程度地提升所做出的不符伦理道德的决策。

智能机器最先应用的场景是交通、医疗、金融、娱乐，其中涉及到图像识别、语音识别等多项技术，如自动驾驶、智能机器人、智能医疗、智能投顾、智能家居等。在一些场合，例如医疗、法律咨询，机器人开始帮助人类进行决策。“人工智能技术助力智能机器加速到来，机器逐步从被动工具向能动者转变”，“在不远的将来，交通运输、医疗、看护、工业和服务业等诸多领域的各式各样的智能机器（Intelligent Machine）或者智能机器人（Smart Robot）将成为人类社会中司空见惯的事物”。

当自主程度逐渐提高的智能机器的应用普遍化之后，遵循理性规则的机器人无法具有与人类相同的价值观，经由“算法”黑箱做出的决策会偏离人类预期。区别与传统的编程式机器，智能机器具有高度自主性。取代程序员每一步具体指令的是机器学习中的学习算法（Learning Algorithm），学习算法从被给予的训练数据中推论生成新的规则。因此，智能机器的新生规则可能会愈来愈偏离人们旧有的传统规则，这会使人们担心智能机器自主习得的规则、行为产生偏离，甚至对人们造成伤害。譬如扫地机器人机械化地打扫屋子，不理解人类价值观的机器人为了使得屋中一尘不染，清除掉主人不小心掉落在地上的现金或衣物。

类比于古希腊神话故事——迈达斯国王点石成金。迈达斯国王真实地存在于古希腊神话故事，大约生活在2700年以前。国王在成年后解救酒神迪奥索斯（Dionysus）的导师后得到了梦寐以求的点石成金法宝。然而，该法宝却不明白国王的真正意图，因为国王碰到的所有东西都变成了黄金，甚至包括食物，国王的女儿。

参考文献：

[1]腾讯研究院等著.人工智能[M].北京：中国人民大学出版社,2017.

[2]Stuart Russell, Peter Norvig.人工智能——一种现代方法(第二版)[M].姜哲,金奕江,张敏,杨磊等译,北京：人民邮电出版社，2004.

[3]霍金，让人工智能造福人类及其赖以生存的家园 [EB/OL],http://www.sohu.com/a/137173188_609518.

[4]Carl, BenediktFrey, aMichael, A, Osborneb. The future of employment: How susceptible are jobs to computerisation?[J]. Technological Forecasting and Social Change, 2017, 114(1): 254-280。

[5]Lee Rainie, Janna Anderson: The Future of Jobs and Jobs Training[EB/OL], http://www.pewinternet.org/2017/05/03/the-future-of-jobs-and-jobs-training/。

[6]史蒂芬·平克.语言本能[M].浙江：浙江人民出版社,2015.