人工智能面临安全隐忧

中国科学院院士何积丰教授在“2018世界人工智能大会·人工智能安全高端对话”会上指出,在工业安全领域,人工智能既可以进行安全防范,包括攻防对抗、内容分析、代码混淆、异常检测等,也存在开发工具漏洞和算法具有不确定性等问题。针对安全问题,需建立主动防御的智能体系。

以自动驾驶汽车为例,其毫米波雷达、激光雷达、摄像头等感知设备都可以被干扰,而且自动驾驶系统本身可能存在的漏洞,都会导致信息安全问题。腾讯科恩实验室总监吕一平总监在会上表示,汽车行业目前处于网联阶段,通往自动驾驶阶段还需一定时间,除了技术达标以外,更重要的是法律法规的问题。

人工智能的快速发展,可能加剧个人信息泄露,威胁个人隐私安全。对此,华东政法大学人工智能与大数据指数研究院院长高奇琦在去年大会上用了“透明人”概念,认为“未来人是‘透明人’,这恐怕是一个无法阻挡的趋势。”
为研发人智能而大量使用数据过程中,如果数据被滥用,也会触及隐私安全。此前,美国百万人使用的社交app——Ever通过“周末与爷爷”、“最佳时刻”等温情的主题,诱导用户上传照片,未经授权使用人们照片进行面部识别技术进一步开发,并将这项技术出售给私营公司、执法部门和军方,以此来大大提升其财务状况。无独有偶,社交网络巨头Facebook在过去两年被爆出多起侵犯个人隐私的丑闻。

人工智能与安全需要平衡发展
人工智能时代,网络空间安全威胁全面泛化,但是人工智能也可以成为网络安全的“救世主”。如何平衡好人工智能与安全的关系,利用人工智能思想和技术应对各类安全威胁,是国内外产业界共同努力的方向。


在去年大会分论坛,眼神科技创始人兼CEO周军介绍了人工智能在金融安全领域的应用,用人脸、指纹、虹膜等多模态生物识别技术识别技术帮助金融机构降本增效,增强安全认证。
围绕着“人工智能带来信息安全挑战”,大会现场众多专家、学者和产业精英都纷纷建言献策,提出应对之道。

人工智能的安全问题与人工智能的快速发展相伴相随,只有妥善解决安全问题,才能实现人工智能的长期可持续发展,而这个过程不仅是一个技术问题,更是一个社会问题、伦理问题。如何使用好人工智能这把“双刃剑” ,是全世界所需解决的实际问题。

在即将于8月29日-31日举办的2019世界人工智能大会上,关于如何实现由传统安全时代的强管理向AI时代强技术支撑下的核心管理转变,业界权威们将再次为人工智能安全防护提供创新性的解决思路。