AI换脸让朱茵变杨幂引争议,阿里安全专家揭秘技术原理

近日,一则AI换脸的视频在网络上广为流传,引发广泛热议。视频中,《射雕英雄传》里朱茵饰演的角色,通过AI技术被换成了杨幂的脸,而且整个视频清晰、流畅,完全看不出来是换了脸。

图说:网络上流传的AI换脸视频,《射雕英雄传》中朱茵饰演的角色被换成了杨幂的脸

如此高阶的换脸技术也引来了网友的恐慌,“怎么实现的换脸?如果这一技术被用在其他地方,会怎么样?我会不会被别人假冒了都不知道?”对此,阿里安全图灵实验室高级算法专家觉奥在接受记者采访时表示,换脸技术并不新鲜,很久之前在影视制作中就有,是通过大量人工和计算机图形图像工具来实现,而现在由于技术的发展,纯用技术就能实现完美的换脸。

具体来说,觉奥指出,当前主流的换脸技术是基于深度学习模型的,其核心是一个“自动编码器”,具体而言,通过人脸检测技术,把视频中两个人,比如朱茵和杨幂的脸抓取下来,数量需要几千到几万张,之后训练这一个自动编码器和两个解码器,一个解码器生成朱茵,另一个生成杨幂,训练好以后,输入朱茵的脸就能生成杨幂的脸了。

这一技术的应用会引发何种问题?觉奥表示,除了换脸引发的道德和伦理问题,黑灰产利用AI换脸,是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击。”

图说:用户在体验阿里安全实验室带来的“实人认证-酒店入住核身”技术

举个例子,2017年11月下旬,阿里安全图灵实验室就发现,有犯罪团伙通过3D软件控制人脸照片进行攻击操作,共发起过几百次攻击,导致近百名受害人驾照分被盗刷。通过3D合成“假脸”认证账号注册或登陆后,黑灰产人员可在受害人毫不知情的情况下,用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。

阿里安全图灵实验室基于安全AI的方法来很好地解决这一攻击问题。“通过深度学习技术,训练模型,来通过两者的纹理、肤色、反光等特性的不同而识别出来。”觉奥表示,可实现在毫秒级时间内揪出假人脸,目前识别准确率达到99.9%。

“这几年,由于深度学习的迅猛发展,攻、防的技术都在不断进步,这是一个持续、动态对抗的过程,我们有信心和能力做好。”觉奥表示。

当前,无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,但一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。阿里安全图灵实验室于今年年初提出了安全AI的概念,包含AI本身的安全性、用AI手段去解决安全问题和强对抗场景下诞生的新一代AI,希望提升行业对这一领域的关注,并推动AI更好的发展。

产业自动编码器深度学习人脸识别AI换脸阿里巴巴
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

自动编码器技术

自动编码器是用于无监督学习高效编码的人工神经网络。 自动编码器的目的是学习一组数据的表示(编码),通常用于降维。 最近,自动编码器已经越来越广泛地用于生成模型的训练。

计算机图形技术

图像数据处理、计算机图像(英语:Computer Graphics)是指用计算机所创造的图形。更具体的说,就是在计算机上用专门的软件和硬件用来表现和控制图像数据。

人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

准确率技术

分类模型的正确预测所占的比例。在多类别分类中,准确率的定义为:正确的预测数/样本总数。 在二元分类中,准确率的定义为:(真正例数+真负例数)/样本总数

推荐文章
暂无评论
暂无评论~