申元璋 王璐菲作者 战略前沿技术来源

人工智能与国家安全——构建人工智能生态系统

2018年11月2日,美国智库战略与国际研究中心(CSIS)发布题为《人工智能与国家安全——人工智能生态系统的重要性》的报告(全文78页),阐释了人工智能(AI)生态系统的组成、当前人工智能投资情况、人工智能在国家安全领域中的应用等,并在分析人工智能生态系统构建必要性的基础上,为美国打造强健的人工智能生态系统提出了具体建议。本文由机器之心经授权转载自战略前沿技术(ID:Tech999 ),未经授权禁止二次转载。

背景

人工智能拥有影响全球经济和军事竞争的巨大潜力,但这一潜力尚未充分发挥出来。过去10年间,人工智能领域已初见成果,特别是快速发展的机器学习能力,以及日益经济可承受的计算能力。这些成果固然有其积极意义,但也使人们的注意力集中在了如何控制相关技术上,而掩盖了人工智能正处于早期发展阶段、只能解决特定问题等事实;它强调了私营企业推动人工智能领域发展的巨大能力,掩盖了政府投资和参与人工智能未来成功及其国家安全应用的重要性;它也掩盖了建立强健的人工智能生态系统的重要性。

人工智能生态系统的组成

人工智能生态系统对于人工智能的成功应用至关重要,指的是使用和管理人工智能的配套能力,包括:人工智能技术人才和管理人才;获取、处理和利用数据的数字能力;人工智能相关信任、安全性、可靠性的技术基础;人工智能技术蓬勃发展所需要的投资环境和政策框架。

 人工智能领域当前投资情况

2010年以来,人工智能研究投资呈爆炸式增长。这些投资主要来自私营部门,特别是美国和中国的技术巨头。虽然人工智能的整体发展仍处于初级阶段,但相关投资热潮已在语音识别、图像识别、翻译、复杂游戏等领域收获了极大的回报,也促进了生产力提高从而给经济领域带来了变化。不过,当前的人工智能仍然只能解决特定问题,并具有背景依赖性;人们很难将一些领域的人工智能进步转化到其他领域。

商业公司可以通过重点投资于进步最快、忽略进步较慢的人工智能技术和问题,实现其商业目标。因此,商业投资将继续推动人工智能领域向前发展,但这些投资却远远不够。

政府在人工智能投资中仍将发挥重要作用,包括:投资于对私营领域而言不具备快速投资回报率的技术领域;为关键的政府和国家安全应用开发确立人工智能可靠性(包括信任、可解释性、检验、认证和安全)的工具;构建和加强人工智能生态系统。

人工智能领域当前应用情况  

如今,人工智能已成为一个热词,各方都宣称自己正在发展和使用人工智能。然而,鉴于人工智能对人类及其生活的潜在影响这一问题日益敏感,人们很难就商业部门和公共部门在多大程度上真正实现了人工智能应用达成一致。事实上,成功应用人工智能需解决人才和技术基础设施短缺、技术难题、管理问题, 为克服这些挑战,美国开始必要的投资、重点管理和政策工作。

人才和技术基础设施短缺

对于很多潜在的人工智能用户而言,要想实现人工智能的成功应用,必须首先解决两方面突出问题:一是人才短缺问题,即无法吸引和留住人工智能技术开发方面和相关管理方面的人才;二是技术基础设施短缺问题,即数据能力、运算网络能力等数字能力薄弱。这两方面正是美国政府及美国防部实现人工智能应用需跨越的障碍。

技术难题

人工智能仍然仅能解决特定问题并具有严重的背景依赖性,这意味着,人工智能当前执行的是有限的任务,通过嵌入到较大型系统来发挥作用。作为一种处于早期发展阶段的技术,人工智能促成的能力提高微不足道,这意味着,迫切将人工智能投入使用的当前用户面临着巨大的前期成本,效益不大。

管理问题

许多用户所执行的任务涉及人类生命或高昂设备风险,因此在依靠人工智能来执行任务之前要首先解决人工智能可靠性问题。在私营领域,许多责任和知识产权相关法律问题尚未得到充分研究;在公共部门,大量关键任务尚无明确途径确保人工智能的可靠性。以上都是人工智能管理挑战,只有建立了配套的人工智能生态系统,人工智能用户才能在这些 方面得到满足。虽然人工智能生态系统的大部分可以也将在私营部门中发展起来,但这对很多政府用户特别是国家安全用户来说,只是必要因素而非充分因素。

主要发现与建议

信任方面,人工智能透明度的重要性和必要性因具体的人工智能应用而定;人工智能的算法、数据和结果都必须可信;用户必须能理解人工智能系统可能被愚弄的机制。

安全性方面,为打造强大且富有弹性的数字化能力,需要在研发、操作和安全之间进行平衡;在各机构中树立网络风险管理文化与网络安全负责制至关重要。

人员与文化方面,使用人工智能需要具备相关领域专业知识、接受过技术训练且拥有合适工具的工作人员;各机构必须培养数据卓越文化。

数字能力方面,为了成功运用人工智能技术,各机构必须打造基本的数字能力;通过信息和分析获得竞争优势,需要包括上至总部下至部署作战人员在内的整个系统的全力投入。

政策方面,一是必须制定伦理方面的政策和标准,指导人工智能技术的应用。二是美国政府必须通过一系列政策措施来加强自己的人工智能生态系统:改革人员雇用权限和安全许可流程,以更好地招募和利用人才;改变软件开发方面的预算措施,以提升政府采购和迭代开发软件的能力;与业界进行全面接触与合作,除了利用技术巨头和国防工业巨头外,还要利用中小型数据科学公司;投资于处在早期阶段的研发工作,尤其是那些需要联邦政府支持的领域;开发可解决人工智能可靠性问题的工具。三是美国政府必须认识到国际社会在人工智能方面的活动,并采取措施:保护美国及伙伴国的私营部门人工智能生态环境,使其免遭攻击,免受有害投资的影响;利用伙伴国的资源,主要手段包括:与拥有共同目标、设备和数据共享协议的伙伴合作,同时在与拓展新伙伴时,也要注意打造这些共同性。

结束语

在理解人工智能对国家安全的影响方面,我们仍处于早期阶段。本报告的主要目标之一正是,在准确了解人工智能领域发展现状、人工智能使用和管理所涉关键因素的基础上,确定国家安全应用集成人工智能技术需采取的关键措施。为实现这一目标,未来需围绕以下问题开展分析:

如何更好地打造强健的人工智能生态系统

构建强健的人工智能生态系统以解决人力和技术基础设施两方面短缺问题非常重要。《约翰·麦凯恩2019财年国防授权法案》提出对国防部人事管理系统进行重大改革,从而为招募和留住人工智能技术人才提供了人事工具,进一步的研究可指导国防部使用这些工具,提出对招募对象最具价值的刺激措施;并有助于发现并有效解决推进政府人工智能生态系统所必须解决的关键基础设施短缺。

如何改进软件采购方法

这方面的研究已在开展中。美国防科学委员会近期完成了一项相关研究,国防创新委员会正在进行进一步的研究。在此方面,未来仍有研究空间的潜在方面是:如何为迭代软件开发确定一套成功且持久的商业模式,使政府及其私营部门软件开发伙伴均能获得激励。对于成功的人工智能采购而言,理解人工智能非常重要,检验和认证人工智能的性能也非常重要,国防分析研究所已在相关方面开展了重要研究,后续还要开展很多理论层面和实践层面的工作。

如何解决人工智能相关法律问题

关于如何问责人工智能性能故障和使用人工智能带来的负面效果,目前的研究尚少;关于人工智能所创造知识产权的所有权问题,目前也缺乏明确的法律规定。此外,人工智能相关伦理问题也是未来需要研究的一个重要问题,包括如何确保人工智能的使用不违反战争法、尊重人权,还包括如何保护个人隐私及人的自主权。

本文由机器之心经授权转载自战略前沿技术(ID:Tech999 ),未经授权禁止二次转载。

原文链接:https://mp.weixin.qq.com/s/tpxtiFKm14Hwz5GJtnVViQ

工程报告安全防范
1
相关数据
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

数据科学技术

数据科学,又称资料科学,是一门利用数据学习知识的学科,其目标是通过从数据中提取出有价值的部分来生产数据产品。它结合了诸多领域中的理论和技术,包括应用数学、统计、模式识别、机器学习、数据可视化、数据仓库以及高性能计算。数据科学通过运用各种相关的数据来帮助非专业人士理解问题。

强人工智能技术

强人工智能或通用人工智能(Strong AI或者 Artificial General Intelligence)是具备与人类同等智慧、或超越人类的人工智能,能表现正常人类所具有的所有智能行为。强人工智能是人工智能研究的主要目标之一,同时也是科幻小说和未来学家所讨论的主要议题。相对的,弱人工智能(applied AI,narrow AI,weak AI)只处理特定的问题。弱人工智能不需要具有人类完整的认知能力,甚至是完全不具有人类所拥有的感官认知能力,只要设计得看起来像有智慧就可以了。由于过去的智能程式多是弱人工智能,发现这个具有领域的局限性,人们一度觉得强人工智能是不可能的。而强人工智能也指通用人工智能(artificial general intelligence,AGI),或具备执行一般智慧行为的能力。强人工智能通常把人工智能和意识、感性、知识和自觉等人类的特征互相连结。

语音识别技术

自动语音识别是一种将口头语音转换为实时可读文本的技术。自动语音识别也称为语音识别(Speech Recognition)或计算机语音识别(Computer Speech Recognition)。自动语音识别是一个多学科交叉的领域,它与声学、语音学、语言学、数字信号处理理论、信息论、计算机科学等众多学科紧密相连。由于语音信号的多样性和复杂性,目前的语音识别系统只能在一定的限制条件下获得满意的性能,或者说只能应用于某些特定的场合。自动语音识别在人工智能领域占据着极其重要的位置。

推荐文章
暂无评论
暂无评论~