张炫炜 中共辽宁省委党校

摘要：自2011年起人工智能进入了蓬勃发展期，随着互联网、大数据、云计算、物联网等信息技术的发展，人工智能大幅跨越了科学与应用之间的“技术鸿沟”，并将为经济社会发展的各个领域带来巨大变革。习近平曾在集体学习时强调“要深刻认识加快发展新一代人工智能的重大意义，促进其同经济社会发展深度融合。”该研究以人工智能自身特点、应用及发展为着手点，研究其在融入经济社会发展时存在的潜在风险，并提出相应对策，希望能够为我国安全发展人工智能提供参照。

关键词：经济社会发展；人工智能；风险研判；风险应对

一、前言

作为引领未来的战略性技术，人工智能技术被世界各国高度重视，世界各国纷纷为其制定发展战略，以期占领这一领域的制高点。^[1]习近平在主持学习时强调“在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的驱动下，人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征，正在对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。”^[2]在第五届世界互联网大会人工智能论坛开幕式上，时任工业和信息化部副部长的陈肇雄指出“人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的重要驱动力量，已经成为国际竞争的新焦点和经济发展的新引擎，在支撑供给侧结构性改革、打造高质量现代经济体系、促进社会进步等方面发挥着越来越重要的作用。”

人工智能技术在加速经济社会发展的同时也存在着一定的安全风险。当前人工智能与经济社会发展相融合的研究，大多数专家学者都是从律法、道德伦理、哲学等角度展开，研究人工智能可能对人类带来的安全威胁及社会问题，少有学者研究发展融合过程中的潜在风险。本文就人工智能的自身特点、应用及发展着手，前瞻性研究其在融入经济社会发展时存在的潜在风险，并提出相应对策。

二、人工智能的特点

（一）依赖于先进的技术

人工智能不是像大数据、区块链那样的IT技术，而能是希冀于开发出能够模拟人类思考行为模式，延伸和扩展人类智能的一种新科学，研究的目的是能够让机器像人一样具有感官，能够自主学习、思考，并具有行动能力。随着网络科技的发展，庞大的数据量和计算资源，先进的算法，使人工智能迅速发展起来。

早期的弱人工智能并不能真自主学习、思考、行动，也不可能拥有自主意识，这些机器并没有达到智能的程度，只是看着像是智能的，它通常是一种自动化传统人类工作的软件，并且在大多数情况下，它在效率和耐力方面优于人类。当拥有等先进的算法后，弱人工智能演化为强人工智能，这使得它已经不需要大量数据样本学习，只要为它制定一定的规则就可以完成推理分析。在强人工智能发展到一定程度之后，有机会制造出真正的超人工智能，这种人工智能被认为可以具有真正的自我意识，可以独立自主的学习并思考，并有能力做出最优决定方案，拥有自己的世界观价值观，拥有像生物一样的本能，从一定意义上来说可以定义为一个全新的生命体。

（二）现实中广泛的应用

人工智能应用的范围很广，包括互联网络、交通运输、医疗诊断、工业、金融业、远程信息通讯、在线和电话服务、法律、科学发现、玩具和游戏、音乐等诸多方面。人工智能可以将人类从重复性的体力劳动中解放出来，其超越人类的可操控性将高效地完成重复性体力工作，提高工作效率，降低成本的同时保证产品质量。人工智能的记忆运算能力很少出错，非创造性的脑力劳动也可以由它完成。创造性的脑力劳动经由技术的发展，也可以与人工智能共同完成。在不久的将来，人工智能将逐步参与到我们生活的每一个方面。

（三）应用中未知的风险

随着人工智能系统的广泛使用和不断研究，人们希望了解这些系统是如何学习和制定决策的。但是，当今大多数人工智能背后的深度学习方法基本上都是黑匣子模型，很难看清它们到底在做什么。模型的复杂性（一个模型通常具有数百万个参数）远远超出了一般人的理解范围，并且系统本身不会解释为什么做出这种决策。使用者不仅不确定当前的人工智能如何做出决策，有时它们还可能在庞大的信息流中学习到错误的数据，当这样的智能系统应用在现实中，如自动驾驶或医疗应用，不可避免就会有一些潜在风险。

三、融入经济社会发展时的潜在风险

（一）经济安全风险

1.发达国家对技术的垄断影响全球经济

在当代，经济增长越来越依赖于科学技术的发展，技术的重要性不言而喻。2019年，^[3]我国科技进步贡献率达到59.5%，世界知识产权组织（WIPO）评估显示，我国创新指数位居世界第14位。随着人工智能技术的不断发展，它的应用范围将逐渐增加，它在生产中将占据更大的比重，对经济增长的推动也会更加显著。

世界主要发达国家都将人工智能定位为引领未来的战略性技术，把发展人工智能作为提升国家竞争力、维护国家安全的重大战略。^[4]拿美国举例，其通过大力发展本国技术研发以及限制其他国家科技进步这两种手段，占领技术优势，以期对人工智能技术进行垄断。他们一边投入巨额资金进行关键基础技术研发，一边配合企业构筑垄断壁垒。我国的高度集成的机器人、人工智能芯片等多项核心技术都受制于欧美发达国家，如果不能加快科研进度，必将对国家安全和经济安全带来不利影响。

2.资本技术深度融合导致企业垄断行业

在人工智能的成长演进过程中，先进的技术和算法对其有着极大的优势；在同样的技术和算法条件下，可供进行训练的样本数据越多，其技术能力就业强；对所需技术与资本的投入越大，得到的技术和数据就缺先进。所以说相对于中小型企业，大企业更具有竞争优势。

优势技术的推广应用使大型企业更具有竞争优势，同时帮助其获得更多的市场份额，在市场竞争过程中，中小企业得不到相应的资源利益难以维持，少数大企业将实行对市场的垄断。

3.新型生产方式改变全球产业结构

当前，发展中国家依靠人口优势从事劳动密集型产业，以低成本的人力资源参与全球分工，而发达国家则依靠对高新技术的掌握占据全球产业链的顶端。然而低端劳动力被机器代替是人工智能机器人发展的必然，这就使发展中国家失去了相应的优势，势必会影响到这类发展中国家的经济安全。^[5]

对于发达国家，得到资本和技术的优势，一定会在国际分工中占领有利位置，获得更多权益，从而加大国家之间的贫富差距。

4.新的财富分配方式拉大贫富差距

人工智能经过发展可以解放人的部分脑力劳动和大部分重复性体力劳动，在这个过程中会产生价值，而这部分价值的拥有者就是对人工智能技术拥有掌控权的人。拥有数据、技术、资本优势的个人、团体或国家可以通过人工智能技术节约人工、降低成本、提升质量，进而创造财富。而低教育水平、低技能的普通劳动力，因不能掌握高科技技术而无法获得人工智能的技术红利，同时还面临失业的风险，进一步拉大了贫富差距。

（二）社会安全风险

1.低成本导致文化产品被海量制造

2017年8月8日四川九寨沟发生7.0级地震，各家媒体争相报道。然而，最先发布该消息的是一个写稿机器人，用时仅25秒，就通过中国地震台网官方的微信平台推送出去，且内容详实数据精准。当人类记者还在惊愕中，机器人已经完成写作并发稿。^[6]

今年8月外媒报道称乔治·R·R·马丁的读者们等不及他来写《权力的游戏》的下一部《冰与火之歌》了，共同委托一名软件工程师，将已有全书的五千多页内容全部输入一个创作型人工智能系统，由其完成对小说内容的预测并书写，结果它写出来的内容通俗易懂，大部分情节与现有主流版本相同。

人工智能机器人“微软小冰”，经过100小时的“学习”，读取了1920年之后519名中国现代诗人的数万首诗歌及作品，先后使用27个化名在不同平台发表诗歌作品，并出版了现代诗集《阳光失了玻璃窗》。

由此可见，不断进化升级的人工智能必将对文化产业产生越来越大的影响。只要设定好规则，人工智能就可以短时间大量的完成文化产品的创作，其低廉的成本将对文化产品市场造成巨大的冲击。

2.不良信息传播能力大幅提升

通过智能控制和盗用的公民信息，不法者可以在网络上创造成千上万个合法的网络身份，并通过各种算法设置，在别社交媒体上与人交流，分析和梳理被交流者的人物特征、社会关系网、成长脉络等信息。这些网络身份会根据被交流者的性格弱点以隐蔽的方式影响其价值判定和传播行为，并通过其社交圈加大信息传播度，大肆传布不实信息，造谣抹黑，煽动群众不满情绪，以达成其虚拟水军的作用。

通过算法识别定位特定人群，将其作为重点对象，长时间有针对性的对其传播信息，潜移默化的渗透，影响其价值观和行为选择。

3.新型技术犯罪手段更新

随着科技的发展，越来越多的日常操作已经由智能程序代替，在方便了人类的生活的同时，也带来了很多风险。人工智能具有很强的信息搜索、识别、整理功能，如果被有心人利用，使用者的个人信息、活动轨迹、社会关系、兴趣爱好，甚至是生活习惯都将被了解得一清二楚。针对这些精准的“画像”有针对性的推送信息，实施诈骗，很大可能会成功。

恐怖分子利用高科技智能手段，延伸其对恐怖行为的操作界限，大幅度增强杀伤力。例如，远程操控无人驾驶汽车、无人机等进行暗杀，入侵飞机、高铁等交通工具的机载系统造成事故，入侵网络发布不实信息造成恐慌等，极大地增加了防恐反恐的难度。

“互联网+政务服务”工程建设日趋完善，越来越方便的政务服务也意味着更多的风险隐患。不法分子借助人工智能更容易找到信息系统的漏洞，并针对漏洞精准攻击，破坏或窃取重要信息，发布虚假政令以损害政府形象扰乱工作秩序。城市交通系统、电网、水利等系统都有可能受到攻击。

4.不能准确定责带来的治理难度

人工智能的核心是算法和数据，二者共同影响着人工智能的行为表现。同样的算法下，接收的信息不同，智能体间的表现也会天差地别。这使得人工智能在实际应用中的行为不被制造者所控制，有可能违背设计初衷。根据现有的法律法规体系，如果人工智能发生相关的责任问题，对其责任主体的认定很难定位，这使得对其的法律裁定及治理很难达成一个统一的标准，也带来相当的不确定因素。

5.机器替代人工导致社会认同感降低

人工智能的精准、可控、廉价等特点使得其可以一定程度上替代人类的重复性体力劳动，大量流水线工作可以由机器来完成，一些非创造性的脑力劳动也可以被人工智能替代。这就造成会有很多企业为了减少成本而使用机器替代人工，减少了人们工作的机会。人们被剥夺感强烈所导致的社会认同感降低，就会滋生对政府对国家对现实社会的不满情绪，甚至通过暴力伤害等犯罪行为博得社会的关注，宣示自己的存在。

四、对策建议

    在科技迅速发展的网络时代，网络安全事件时有发生，每每发生必将造成严重的经济损失，严重的甚至威胁人民生命安全。人工智能技术在为人们带来便利的同时，所带来的潜在风险远超于互联网。因此要做到未雨绸缪，科学预测，将风险控制在隐患形成之前。

（一）以全球化视野解读人工智能安全

中国有句古话“无知者无畏”，通俗的解释就是“最大的风险，是没有意识到风险”。只有全面科学的了解人工智能，才可能尽早谋划、提前布局，防范可能会发生的风险。

人工智能安全发展不仅关系到一个国家的安全稳定，也关系到国际社会的安全稳定，是人类共同的挑战。要以全球化的视野共同解读人工智能安全的相关事宜，使各国之间深化交流合作，共享安全防护资源，组成共利共赢伙伴关系。将全球范围内的专家学者、科研机构、高新科技企业等结合在一起，使人工智能研究在开放的环境下有序的进行，共同应对可能会出现的风险危机，保证人工智能技术安全可控的发展。

（二）国家顶层设计统一领导机构

由国家组织建立统一领导的管理机构。当人工智能技通过机器人或算法等形式，出现于现实或网络世界时，它的影响力已经不仅仅局限于互联网，此时为了系统的完成人工智能安全治理工作，就应该由国家来建立一个事关人工智能安全治理的最高领导机构，来综合协调管理相关事宜。通过这个领导机构可以与相关部门共享信息，合作沟通，共同管理。

（三）建设世界级人工智能安全研究机构

曾经我国对欧美国家高新技术的依赖为国家带来无数惨痛教训，因此，由我国自主研发高新技术，建立高等级人工智能研究机构就至关重要了。目前，人工智能相关高新技术企业的研发能力，对于国家的总体安全规划来说尚有不足，那么由国家来主导牵头的研究机构就是必不可少的。国家可以从人才、资源、技术等方面协调规划，可以多学科之间交叉研究，为人工智能技术研发应用带来便利条件。

安全研究有着公益性，可能无法产生直接经济价值，由国家建立的研究机构可有国家的财政支持，机构内也可以多种形式吸引技术人才。人工智能的设计初衷是服务人民、服务国家的，设计者的很多个人特色会被表现在人工智能当中，因此人工智能的安全研究对于人才的要求应当相对严格，不但业务水平要求很高，还要同时具备很强的责任心、使命感，国家在培养人才、引进人才时应考虑相关因素。

（四）建设国家级人工智能安全试验区

人工智能在实际投入使用前，应用试验排除风险是必须的环节。由国家来建立安全试验区，可以系统全面的进行安全评估，测试综合属性，防止危险进入人民生活。

人工智能由于其特性，衍生出的风险具有复杂性和特殊性，仅由企业在研发制造的过程中进行排查，是不可能全部排除的。国家级人工智能安全试验区可以在这个环节中系统的管控风险，制定统一标准，使人工智能产品只有在确定安全后才会投放市场，减少可能造成的危害。

由国家建设人工智能安全试验区，可以考虑不同的地理环境，也可以协调军队、政府部门、企业、科研组织等各方力量，邀请各领域专家从不同角度进行观察实验，确保人工智能的应用安全。

（五）建设世界级人工智能算法及数据交流平台

加强人工智能技术的流通，建设一个世界级的人工智能算法和数据的交流平台，在保证技术开发者合法权益的前提下，鼓励其合法、公开、有偿的交流人工智能技术，控制防范危险技术扩散。

世界级人工智能算法及数据交流平台的建立，有利于新算法和数据合理合法的流通于全世界，可以促进全世界人工智能技术的进步，也能促进全球经济发展，并有效打击非法应用和“地下黑市交易”，保证社会安全。建立交流平台可以带动我国人工智能技术的发展，把握全球科技动态，了解世界相关人才及组织基础数据，提升安全控制能力。

参考文献：

[1]人工智能具有很强的“头雁”效应[EB/OL].(2019-07-26).http://paper.people.com.cn/rmrbhwb/html/2019-07/26/content_1938122.htm.

[2]促进人工智能与经济社会发展深度融合[EB/OL].(2018-11-08).https://www.sohu.com/a/274029067_354877.

[3]科技部：科技进步贡献率达到59.5%[EB/OL].(2020-05-20).https://tech.sina.com.cn/it/2020-05-20/doc-iirczymk2588986.shtml.

[4]国务院关于印发新一代人工智能发展规划的通知[EB/OL].(2007-07-20)[2019-01-16].http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

[5]蔡万刚.世界主要经济体产业结构变迁:路径与演化研究[J].河南社会科学,2020,28(04):2-10.

[6]人工智能如何影响文化产业[EB/OL].（2017-11-17）. https://www.sohu.com/a/205003485_100002829.

[7]人工智能与新闻生产[J].传媒,2018(02):6-7.