网络空间安全cybersecurity

人工智能时代的网络空间安全

如何利用人工智能思想和技术应对各类安全威胁,是国内外产业界共同努力的方向。论坛拟从人工智能技术逻辑角度,结合网络空间安全进行深度思考,探讨人工智能时代网络空间安全的发展趋势。

在移动互联网、大数据、超级计算等新理论技术以及经济社会发展强烈需求的共同驱动下,人工智能呈现加速发展,成为新一轮产业变革的核心驱动力,对网络空间安全的发展带来了深远影响,网络空间安全威胁全面泛化,如何利用人工智能思想和技术应对各类安全威胁,是国内外产业界共同努力的方向。论坛拟从人工智能技术逻辑角度,结合网络空间安全进行深度思考,探讨人工智能时代网络空间安全的发展趋势。

CCF YOCSEF上海于2020年7月25日成功举办了主题为“人工智能时代的网络空间安全”的线上论坛活动,邀请了来自浙江大学纪守领、上海交通大学郁昱、华东师范大学何道敬、桂林电子科技大学丁勇、上海海洋大学魏立斐等人工智能和信息安全领域知名学者,与大家分享他们近期在人工智能及网络空间安全领域的深度学习安全、自然语言处理、中文文本对抗、机器翻译、网络靶场体系结构、网络靶场核心技术及评价体系等方面的最新工作,并围绕人工智能与网络空间安全的利弊关系、安全管控机制以及基础设施架构等热点问题展开深入探讨。

此次线上论坛由CCF YOCSEF上海主办,上海电力大学协办。论坛执行主席为CCF YOCSEF上海AC温蜜,CCF YOCSEF上海AC李晋国,微论坛执行主席为CCF YOCSEF上海AC黄泽良。CCF YOCSEF上海主席熊贇、AC李超、裴颂文、刘通、蒋力等也参加了此次会议。

论坛包括嘉宾引导发言和互动思辨两个环节,140余名观众扫码报名观看。微论坛面向CCF YOCSEF上海微信群近500名成员进行图文直播,并同步转发到多个YOCSEF分论坛群中。线上会议观众通过“举手”发言和发表文字的方式积极参与互动思辨,气氛热烈,直到论坛结束后,观众仍在活动微信群中延展讨论。

引导发言环节邀请了来自高校的2位演讲嘉宾,分别是浙江大学计算机科学与技术学院纪守领、桂林电子科技大学计算机与信息安全学院丁勇。除上述2位嘉宾外,思辨环节还邀请了上海交通大学郁昱、华东师范大学何道敬、上海海洋大学魏立斐一起参与思辨讨论。

纪守领深度学习安全-从自然语言处理的角度

基于深度学习的文本理解(DLTU)是各种应用的基础技术,包括问答、机器翻译和文本分类。尽管DLTU非常受欢迎,但其安全漏洞仍然很大程度上是未知的,尤其是受到高度关注的涉及安全敏感的应用,如情绪分析和有害内容检测。本次报告首先展示了DLTU天生就容易受到攻击性的文本攻击,恶意编写的文本会触发目标DLTU系统和服务的不当行为。然后,报告展示了针对现有对抗性文本生成攻击的潜在对策。

丁勇网络靶场体系结构与关键技术

报告主要介绍了网络靶场概念、背景意义与需求,定义了网络靶场的概念及其业务流程,凝练了网络靶场的科学问题和关键技术,并阐述了网络靶场在网络安全人才培养的重要作用。

思辩环节,执行主席温蜜和李晋国围绕“人工智能时代的网络空间安全”提出三个思辨话题,嘉宾、在线观众以及微论坛观众一起展开讨论。在线观众积极“举手”发表观点或对嘉宾提问,气氛十分热烈。

No.1人工智能对网络空间安全是“利”大于“弊”还是“弊”大于“利”?

纪守领:这个问题比较难回答,人工智能就像一把剑,看握在谁的手里,可以用来做好事也可以用来做坏事,因此是有利有弊。但从研究角度来说是更有好处的,拓宽了研究领域。

郁昱:从个人研究的角度来说比较认同利大于弊的观点,人工智能对密码学和网络空间安全引入了更多更有意思的安全问题,也带来了更多不同的研究视角,但人工智能这把剑目前还不是那么锋利。

魏立斐:目前人工智能在防御方面确实是比较钝的一把刀,对个人研究而言还是利多弊少,对于研究内容而言确实更加丰富了。

何道敬:人工智能和网络空间安全关系可以分三个方面来看。第一个,安全专家会用人工智能技术解决现实安全难题,如APT攻击检测、口令安全、固件安全检测、网络入侵检测等;第二个,人工智能本身有安全脆弱性,另外缺乏约束机制的情况下人工智能可能威胁人类;第三个,人工智能和网络安全技术可以有效紧密结合,如,基于人工智能和同态加密解决金融领域下的多方金融机构合作应用。两者之间的利弊要基于具体场景来考虑,从安全人员来说总体是利大于弊,但也带来了更大的挑战。

观众提问:人工智能的发展对于维护网络空间安全提供了新的防护手段,个人认为总体来说是利大于弊的,那么人工智能技术对于个人隐私方面是否提供了更好的保护?

何道敬:一方面隐私需要考虑到人工智能使用的各个环节可能存在泄露的部分,需要安全人员具体详细的去分析,另一方面人工智能提供了很多安全检测方案,如基于流量的安全检测可以发现一些信息泄露和特殊攻击。如果能用好人工智能技术是能够更好的提供隐私方面的安全保障的。

No.2 人工智能时代的网络空间安全关键在于“术”还是“人”?

纪守领:解决安全问题靠技术是没有办法解决的,举个例子,我们家里的门或者窗户小偷有所忌惮,不敢闯进来偷东西,门窗是有一定的作用但不是决定性作用,决定作用的应该是背后的公安、法院、监狱等机构,门窗相当于技术,因此背后的政策、法律和人是更为重要的东西。

郁昱:国家出台了很多安全法规,中华人民共和国密码法,数据安全法。有相关的立法和对应的有力的执法机构,由人管控来补充技术的短板。

魏立斐:我的观点也是在于人,技术给好人和坏人用造成的后果完全不同,攻击者是半诚实和恶意的造成的破坏完全不同,因此关键应该是把人管控好。

何道敬:可以更加进一步,是技术管控还是人管控还是规章制度管控,规章制度管控应该是最重要的,国家的安全还是要靠等级保护,依靠网络安全法、密码法等制度进行管控,依靠责任人制度对安全进行推动,技术和人在安全中也是很关键,因此重要的是顶层的安全制度和法律法规的设计,技术和人两者之间也需要相互结合。 

观众提问:个人的观点是倾向于技术,因为网络空间安全一旦上升到国与国之间的竞争,超出人与法的管理的时候,技术就会是第一位的,这个想法是否片面?

纪守领:这个观点比较新颖,上升到国家层面,考虑到国家之间的战争行为目前确实无法律约束,这种人力不可控的情况下,确实只能依赖技术。但在国家范围内还是可以依赖法律来依靠人力管控。

郁昱:国家层面管控确实需要依赖各种技术手段,最极端的是直接物理隔离。

魏立斐:我的观点还是在于人,技术取决人的道德和素质。

何道敬:国与国之间的安全问题应该是依赖技术和法律相结合,一方面各个国家的政策对安全行为均有一定的约束,另一方面各国之间的安全事件都需要依靠技术进行追踪溯源,找到真正的攻击者,找出凭证。

No.3 人工智能时代网络基础设施架构,边缘计算的分布式架构和云计算的集中式架构哪个更具优势?

纪守领:边缘计算和云计算从个人理解的角度,各有千秋,从隐私保护角度,边缘计算可能更好一些,例如联邦学习等等更希望数据分散存储而不是集中在一个地方,做迁移学习的时候云计算这时候会有更大的优势和更好的效果。 

郁昱:分布式的会有更多更有意思的问题和研究,例如密码学中的安全多方计算等。云计算对于安全方面的可以研究的东西可能更传统更少。

魏立斐:需要和具体的应用场景相结合,集中式的在效率上和实用性上更具有优势,需要考虑到场景的适用性。

何道敬:边缘计算和云计算需要考虑场景,需综合考虑功能需求、资源需求以及安全需求,例如通信开销、计算开销、存储开销、安全需求等实际情况。有时候甚至是二种架构相互结合。

CCF YOCSEF上海
CCF YOCSEF上海

CCF YOCSEF上海是由中国计算机学会青年计算机科技论坛于1999年在上海创建的分论坛。其宗旨是开展活动、吸纳人才、创造机会,促进IT青年人才成长。

产业边缘计算云计算自然语言处理网络靶场网络空间安全人工智能
暂无评论
暂无评论~