当前位置: 首页 > 智库研究

赵超阳:美军人工智能发展决策的智库评估

时间:2020-11-11 来源:湖南智库网 作者:赵超阳 卢胜军

编者按

在美军人工智能发展决策过程中,智库作为专业政策研究机构,充分利用其专业优势、专业力量,对人工智能战略、政策以及所形成的发展态势进行评估,为战略与政策的优化提供建议,进而也扩大自身的影响。

01

智库评估的关注点

美国智库通过研究报告、会议论坛、政策评论、听证咨询等形式,对美军人工智能发展进行多角度评估,在技术影响、发展态势、管理政策三个方面较为突出。

技术影响评估主要关注国家安全和军事应用两个方面,对产生的问题进行分析评估,为后续的战略政策制定进行铺垫和造势,属于比较典型的事前评估。面对竞争对手在新兴技术领域,特别是人工智能方面的快速发展,美国高层强烈感受到国家安全面临的威胁和挑战,为化解危机、提出对策,新美国安全中心、兰德公司等知名智库多次发布研究报告,分析评估人工智能的深远影响以及美国面临的挑战,并提出政策建议。近几年来,仅以人工智能与国家安全为主题的研究报告就有五份之多,有的机构还先后提出两份。在军事应用方面,众多知名智库围绕情报分析、规划决策、自主系统、人机编队、作战概念、伦理风险等方面,从历史与现实、理论与实践、对手与美军等方面进行了多维度评估,为美军人工智能发展与应用建言献策。

发展态势评估主要是对美军在人工智能组织、人才、机制、应用等方面的评估,属于比较典型的事中评估。要评估态势,需要与国防部和军种相关机构进行多次沟通,充分掌握大量一手信息和数据,尽管美国有信息公开法律保障,但对于军事领域,必须与军方建立较为密切的关系。作为联邦资助的研究与发展中心,兰德公司具有得天独厚的条件,根据国防部的委托,兰德公司对国防部人工智能态势进行了长时间评估,经过对国防部和其他政府机构的中小型企业和利益相关方,以及学术界和私营企业的专家进行访谈并开展案例研究,于2019年底发布《国防部人工智能态势:评估与建议》报告,从组织、进展、应用、创新、数据、人才等六个维度,对美国国防部人工智能态势进行了综合分析与评估。国防创新委员会作为国防部的智囊,2016年成立以来,多次对美军人工智能发展情况进行评估,通过考察对比国防部和商业领域在人工智能领域的发展现状,借鉴商业领域的有效做法,提出设立机构加强统一管理、创新软件采办程序、加强国防部与学术界和私营部门联系等建议。

管理政策评估主要是对涉及美军人工智能发展的相关法律、指令、指示、备忘录等政策进行评估,属于比较典型的事后评估。人工智能在军事上的应用,其中一个重要影响就是增强了武器系统的自主性,但随着系统的自主性越来越高,系统能够自主决策进行杀伤行为,如何提升系统的识别能力、防止对平民的误击等问题随之而来,人在系统中的作用和价值成为涉及武器设计、战争伦理、国际条约的重要问题。2012年,美国国防部就发布3000.09指令《武器系统的自主性》,对自主和半自主武器系统的设计、开发、获取、测试、部署和使用等活动进行规范,要求自主和半自主武器系统的设计应允许指挥官和操作人员对使用武力进行适当程度的人类判断。对于这一问题,海军分析中心专门成立“自主性与人工智能中心”,并发布《人工智能、机器人和集群——问题、疑问和研究建议》《第三次抵消战略的思考:应对自主性与人工智能在军事中的挑战》等报告,对美军自主性发展进行评估并提出系列建议。新美国安全中心专门成立了一个伦理自治项目,主要研究未来武器系统中不断增加的法律、伦理、政策和战略稳定性方面的问题,发表了《自主武器与作战风险》《武器系统中的自主性》等系列报告,对自主武器的风险性进行分析评估。

02

智库评估的影响

智库在对人工智能发展评估的基础上,就投资、人才、标准、数据、机构等方面提出一系列建议,促进了人工智能发展战略与政策的调整和修订。2016年,美国白宫依托科学技术委员会发布人工智能研发战略,经过几年的推行实践,在智库、企业等机构的评估促进下,2019年,又发布了战略文件修订版。新版文件对原版文件确定的七大战略方向进行了坚持与继承,同时又根据需要进行了优化和创新,并增加了“拓展公私伙伴关系以加快人工智能发展”作为第八战略方向。

智库对人工智能发展的评估,也对相关立法产生了重要影响。智库通过开展咨询研究、参加立法听证、参与立法起草等方式,向国会有关委员会、小组委员会以及议员不断输送评估研究成果,提出立法内容建议,推动有关举措进入法律条文。通过分析《2019财年国防授权法》和《2020财年国防授权法》,智库的评估建议都得到不同程度的体现,显示了智库在人工智能立法方面的影响力。《2019财年国防授权法》专门列出关于人工智能主题研究的内容,提出要设立高层次咨询专家组织,在国家层面全面审查人工智能、机器学习和相关技术领域的进步情况,以及国防部在人工智能、机器学习和此类技术方面的竞争力。《2020财年国防授权法》专门设立关于联合人工智能中心方面的内容,要求每半年至2023年年底,国防部长应向国会提交关于联合人工智能中心的报告。

新的机构和部门的设立也是智库评估所促成的重要结果。国防创新委员会的成员大都由知名企业高管担任,在考察和评估国防部人工智能发展情况后,委员会认为,人工智能和机器学习可媲美第一次“抵消战略”的核武器及第二次“抵消战略”的精确制导武器和隐形技术,国防部应沿袭过去为确保核武器技术优势设立专门机构的传统,创建针对人工智能和机器学习的内部中心,以维持国防部在这两个领域的技术优势。在此基础上,要加强国防部、学术界及私营部门之间的交流沟通,采用更加灵活的采办机制,实现创新项目及后续成果在军种的快速部署。2017年10月,时任国防部长卡特正式采纳创建人工智能和机器学习中心的建议,2018年6月,国防部联合人工智能中心成立。

来源:国防科技要闻

作者 | 赵超阳 卢胜军

(编辑:内容管理员002)