2018WAIC“高光”时刻系列回顾:人工智能与信息安全需要平衡发展

人工智能面临安全隐忧

中国科学院院士何积丰教授在会上演讲 人工智能技术威胁网络空间安全。

中国科学院院士何积丰教授在“2018世界人工智能大会·人工智能安全高端对话”会上指出,在工业安全领域,人工智能既可以进行安全防范,包括攻防对抗、内容分析、代码混淆、异常检测等,也存在开发工具漏洞和算法具有不确定性等问题。针对安全问题,需建立主动防御的智能体系。

自动驾驶汽车为例,其毫米波雷达、激光雷达、摄像头等感知设备都可以被干扰,而且自动驾驶系统本身可能存在的漏洞,都会导致信息安全问题。腾讯科恩实验室总监吕一平总监在会上表示,汽车行业目前处于网联阶段,通往自动驾驶阶段还需一定时间,除了技术达标以外,更重要的是法律法规的问题。

车辆会因为地上的三个贴纸驶入旁边车道(示意图)
人工智能安全领域,隐私性问题也是民众普遍关心的问题。

人工智能的快速发展,可能加剧个人信息泄露,威胁个人隐私安全。对此,华东政法大学人工智能与大数据指数研究院院长高奇琦在去年大会上用了“透明人”概念,认为“未来人是‘透明人’,这恐怕是一个无法阻挡的趋势。”

为研发人智能而大量使用数据过程中,如果数据被滥用,也会触及隐私安全。此前,美国百万人使用的社交app——Ever通过“周末与爷爷”、“最佳时刻”等温情的主题,诱导用户上传照片,未经授权使用人们照片进行面部识别技术进一步开发,并将这项技术出售给私营公司、执法部门和军方,以此来大大提升其财务状况。无独有偶,社交网络巨头Facebook在过去两年被爆出多起侵犯个人隐私的丑闻。

人工智能与安全需要平衡发展

      人工智能时代,网络空间安全威胁全面泛化,但是人工智能也可以成为网络安全的“救世主”。如何平衡好人工智能与安全的关系,利用人工智能思想和技术应对各类安全威胁,是国内外产业界共同努力的方向。

腾讯公司安全管理部副总经理杨鹏致辞为应对网络安全,腾讯基于其黑产对抗经验技术和反欺诈 AI 模型建造能力,打造出“宾果反诈骗防控系统”,自投入使用以来,全国重点诈骗区域诈骗号码大幅下降接近70%,有效遏制了诈骗态势蔓延。

阿里巴巴开发出云盾内容安全系统,该系统可以基于深度学习技术,提供文字、图片、视频等多媒体的内容风险智能识别服务,有效减少涉及恐怖、暴力、色情等违法违规信息。

作为人工智能领域的先行者,百度人工智能安全平台目前已有近百家合作伙伴,覆盖超过1亿部智能设备。可帮助厂商有效应对智能终端、智能车机面临的各类安全风险,全面确保云、内外部通信、操作系统、应用、硬件、数据和手机终端安全。

在去年大会分论坛,眼神科技创始人兼CEO周军介绍了人工智能在金融安全领域的应用,用人脸、指纹、虹膜等多模态生物识别技术识别技术帮助金融机构降本增效,增强安全认证。

围绕着“人工智能带来信息安全挑战”,大会现场众多专家、学者和产业精英都纷纷建言献策,提出应对之道。

联合国人工智能和机器人中心主任伊莱克利•伯利兹在会上演讲联合国人工智能和机器人中心主任伊莱克利•伯利兹建议对现阶段人工智能的发展充分评估,并建立起各方参与的协同合作模式;中国移动研究院首席科学家冯俊兰女士指出,5G网络服务众多垂直工业,数据挖掘技术更易保护用户隐私信息,并提出了“通信改变社会”的愿景,强调电信运营商应当加强与垂直行业的互信和协作;在碁震KEEN公司创始人兼CE王琦看来,最重要的是法律保障,用法律的手段让人工智能行业的从业者加强自律,保持敬畏之心;上海优刻得信息科技公司CEO季昕华则表示,还需要技术手段对人工智能进行约束,“让AI可以分析数据,但是不获取数据,这应该是技术层面努力的方向”

人工智能的安全问题与人工智能的快速发展相伴相随,只有妥善解决安全问题,才能实现人工智能的长期可持续发展,而这个过程不仅是一个技术问题,更是一个社会问题、伦理问题。如何使用好人工智能这把“双刃剑” ,是全世界所需解决的实际问题。

在即将于8月29日-31日举办的2019世界人工智能大会上,关于如何实现由传统安全时代的强管理向AI时代强技术支撑下的核心管理转变,业界权威们将再次为人工智能安全防护提供创新性的解决思路。

产业数据挖掘信息安全百度
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

激光雷达技术

自动驾驶车辆传感器的一种,采用激光扫描和测距来建立车辆周围环境的详细三维模型。Lidar 图像具有高度准确性,这使得它可以与摄像头、超声波探测器和雷达等常规传感器相提并论。然而激光传感器面临体积过大的问题,同时,它的机械结构非常复杂。

感知技术

知觉或感知是外界刺激作用于感官时,脑对外界的整体的看法和理解,为我们对外界的感官信息进行组织和解释。在认知科学中,也可看作一组程序,包括获取信息、理解信息、筛选信息、组织信息。与感觉不同,知觉反映的是由对象的各样属性及关系构成的整体。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

异常检测技术

在数据挖掘中,异常检测(英语:anomaly detection)对不符合预期模式或数据集中其他项目的项目、事件或观测值的识别。 通常异常项目会转变成银行欺诈、结构缺陷、医疗问题、文本错误等类型的问题。 异常也被称为离群值、新奇、噪声、偏差和例外。

自动驾驶汽车技术

自动驾驶汽车,又称为无人驾驶汽车、电脑驾驶汽车或轮式移动机器人,是自动化载具的一种,具有传统汽车的运输能力。作为自动化载具,自动驾驶汽车不需要人为操作即能感测其环境及导航。

数据挖掘技术

数据挖掘(英语:data mining)是一个跨学科的计算机科学分支 它是用人工智能、机器学习、统计学和数据库的交叉方法在相對較大型的数据集中发现模式的计算过程。 数据挖掘过程的总体目标是从一个数据集中提取信息,并将其转换成可理解的结构,以进一步使用。

操作系统技术

操作系统(英语:operating system,缩写作 OS)是管理计算机硬件与软件资源的计算机程序,同时也是计算机系统的内核与基石。操作系统需要处理如管理与配置内存、决定系统资源供需的优先次序、控制输入与输出设备、操作网络与管理文件系统等基本事务。操作系统也提供一个让用户与系统交互的操作界面。

阿里巴巴机构

阿里巴巴网络技术有限公司(简称:阿里巴巴集团)是以曾担任英语教师的马云为首的18人于1999年在浙江杭州创立的公司。 阿里巴巴集团经营多项业务,另外也从关联公司的业务和服务中取得经营商业生态系统上的支援。业务和关联公司的业务包括:淘宝网、天猫、聚划算、全球速卖通、阿里巴巴国际交易市场、1688、阿里妈妈、阿里云、蚂蚁金服、菜鸟网络等。 2014年9月19日,阿里巴巴集团在纽约证券交易所正式挂牌上市,股票代码“BABA”,创始人和董事局主席为马云。 2018年7月19日,全球同步《财富》世界500强排行榜发布,阿里巴巴集团排名300位。2018年12月,阿里巴巴入围2018世界品牌500强。

https://www.alibabagroup.com/
百度机构

百度(纳斯达克:BIDU),全球最大的中文搜索引擎、最大的中文网站。1999年底,身在美国硅谷的李彦宏看到了中国互联网及中文搜索引擎服务的巨大发展潜力,抱着技术改变世界的梦想,他毅然辞掉硅谷的高薪工作,携搜索引擎专利技术,于 2000年1月1日在中关村创建了百度公司。 “百度”二字,来自于八百年前南宋词人辛弃疾的一句词:众里寻他千百度。这句话描述了词人对理想的执着追求。 百度拥有数万名研发工程师,这是中国乃至全球最为优秀的技术团队。这支队伍掌握着世界上最为先进的搜索引擎技术,使百度成为中国掌握世界尖端科学核心技术的中国高科技企业,也使中国成为美国、俄罗斯、和韩国之外,全球仅有的4个拥有搜索引擎核心技术的国家之一。

http://home.baidu.com/
腾讯机构

腾讯科技股份有限公司(港交所:700)是中国规模最大的互联网公司,1998年11月由马化腾、张志东、陈一丹、许晨晔、曾李青5位创始人共同创立,总部位于深圳南山区腾讯大厦。腾讯由即时通讯软件起家,业务拓展至社交、娱乐、金融、资讯、工具和平台等不同领域。目前,腾讯拥有中国国内使用人数最多的社交软件腾讯QQ和微信,以及中国国内最大的网络游戏社区腾讯游戏。在电子书领域 ,旗下有阅文集团,运营有QQ读书和微信读书。

http://www.tencent.com/
5G技术

第五代移动通信系统(5th generation mobile networks),简称5G,是4G系统后的延伸。美国时间2018年6月13日,圣地牙哥3GPP会议订下第一个国际5G标准。由于物理波段的限制,5G 的网络也将会与其他通信技术并用,包含长距离的其他传统电信波段。

推荐文章
暂无评论
暂无评论~