机器之心编译

黑科技DeepFake检测方法:利用心跳做信号,还能「揪出」造假模型

DeepFake 真的可以达到以假乱真的效果吗?未必。来自宾汉姆顿大学、英特尔公司的研究人员利用心跳做信号判别真假视频,还能「揪出」背后的生成模型。

伪造人像视频生成技术给社会带来了新的威胁,例如利用逼真的伪造图像和视频进行政治宣传、名人模仿、伪造证据以及其他与身份有关的操作。伴随着这些生成技术的发展,出现了一些被证实有效的 deepfake 检测方法,这些方法具备较高的分类准确率。然而,目前几乎没有任何工作关注 deepfake 视频的来源(即生成 deepfake 视频的模型)。

来自宾汉姆顿大学、英特尔公司的研究人员提出了一种方法,利用视频中的生物信号检测该视频是否伪造。该方法不仅可以区分真假视频,还能够发现 deepfake 视频背后的特定生成模型(其中,生成模型是在 DeepFakes、Face2Face、FaceSwap、NeuralTex 中进行选择)。

一些纯粹基于深度学习的方法尝试使用 CNN 来分类造假视频,CNN 实际上学习的是生成器的残差。该研究认为这些残差包含了更多的信息,可以通过将它们与生物信号分离来揭示伪造细节。观察结果表明,生物信号中的时空模式可以看作是残差的代表性投影。为了证明这一观察结果的合理性,研究人员从真实和虚假视频中提取 PPG 单元,并将其输入到当前最优的分类网络中,以检测每个视频的生成模型。

实验结果表明,该方法对假视频的检测准确率为 97.29%,对假视频背后生成模型的识别准确率为 93.39%。

论文地址:
https://arxiv.org/pdf/2008.11363.pdf

该论文的贡献如下:
  • 提出一种新型 deepfake 视频源头检测方法,为 deepfake 检测研究开启了新的视角;

  • 提出一项新发现:将生成噪声投影到生物信号空间,可以为每个模型创建唯一标识;

  • 提出一种先进的通用 deepfake 检测器,在真假视频分类方面优于现有方法,同时还能预测假视频背后的生成模型,即源生成模型。

利用生物信号检测假视频及其生成模型

生物信号已被证明可以作为真实视频的真实性标志,它也被用作 deepfake 检测的重要生物标志。正如我们所知,假视频中的合成人物无法具备与真视频中人物类似的心跳模式。该研究的关键发现基于这一事实:这些生物信号可以被解释为包含每个模型残差标识变换的假心跳。这催生了对生物信号的新探索,它们不仅可以用来确定视频的真实性,还可以对生成该视频的源模型进行分类。

于是,该研究提出了既能检测 deepfake 视频,又能识别源生成模型的系统,如图 1 所示:

为了连续地捕捉生物信号的特征,研究人员定义了一种新的时空块——PPG 单元。该时空块结合了多种原始的 PPG 信号及其功率谱,并从一个固定的窗口提取。PPG 单元的产生首先需要使用人脸检测器在每一帧中找到人脸。

第二步是从检测到的人脸中提取感兴趣区域 (ROI)(图 1d),该区域具有稳定的 PPG 信号。为了有效地提取,研究者使用眼睛和嘴之间的面部区域,以最大限度地增加皮肤暴露。

由于来自人脸不同区域的 PPG 信号之间存在相关性,因此定位 ROI 并测量其相关性成为检测的关键步骤。

第三步需要将非线性 ROI 与矩形图像对齐。该研究使用 Delaunay triangulation [26],随后对每个矩形使用非线性仿射变换,从而将每个矩形转换为校正图像(rectified image)。

在第四步中,研究者将每个图像分成 32 个相等大小的正方形,并在 ω 帧大小的固定窗口中计算每个正方形的原始 Chrom-PPG 信号,并且这不会干扰人脸检测(图 1e)。然后,计算校正图像中的 Chrom-PPG,因为它能产生更可靠的 PPG 信号。对于每个窗口,现在有 ω × 32 个原始 PPG 值。

现在将它们重组成 32 行、ω 列的矩阵,就形成了 PPG 单元的基础,如图 1f 和图 2 最下面一行的上半部分所示。

最后一步将频域信息添加到 PPG 单元。计算窗口中每个原始 PPG 值的功率谱密度,并将其缩放到 ω 大小。

图 2 的最下面一行显示了从同一个窗口生成的 deepfake PPG 单元示例,第一行是每个窗口的示例帧。

定义完 PPG 单元后,研究者展示了其主要假设:将 deepfake 生成器的残差投影到生物信号空间,可以创造一个独特的模式,并用于检测 deepfake 背后的源生成模型。

实验

该研究提出的系统采用 Python 语言实现,使用 OpenFace 库进行人脸检测,OpenCV 进行图像处理,使用 Keras 实现神经网络

表 1 列出了在测试集上的 PPG 单元分类结果,其中 VGG19 在区分 4 种不同生成模型和检测 FaceForensics++(FF)真实视频方面达到了最高准确率(图 1f)。像 DenseNet 和 MobileNet 这样的复杂网络由于过拟合,虽然达到了非常高的训练准确率,但在测试集上的效果不如人意。

在视频分类方面,表 2 记录了过程中的不同投票方案。研究者设置 ω=128,比较了使用大多数投票、最高平均概率、两个最高平均概率以及对数几率平均后 VGG19 的单元预测结果。

如图 3 所示,该方法对五类 FF(1 个真视频和 4 个假视频)的真实视频检测率为 97.3%,对生成模型的检测准确率至少为 81.9%。

研究人员在不同的设置上进行训练和测试:1)训练集中没有真实的视频;2)PPG 单元中没有功率谱;3)没有生物信号;4)使用全帧而不是面部 ROI,其中 ω = 64,FF 数据集分割设为常数。结果见表 3:

使用前述设置,用不同的窗口大小 ω = {64, 128, 256, 512} 帧来测试该论文提出的方法。结果参见下表 4:

为了证明该论文提出的方法可以扩展到新模型,研究人员将 FF 设置与单个生成器数据集 CelebDF 相结合并重复分析过程。该研究提出的方法在整个数据集上达到了 93.69% 的检测准确率,在 CelebDF 数据集上达到了 92.17% 的检测准确率,这表明该方法可以泛化到新模型(参见表 5)。

表 6 列出了测试集上不同模型的准确率。由结果可知,该论文提出的方法甚至超过了最复杂的网络 Xception,准确率高出 10%。

理论DeepFake
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

图像处理技术

图像处理是指对图像进行分析、加工和处理,使其满足视觉、心理或其他要求的技术。 图像处理是信号处理在图像领域上的一个应用。 目前大多数的图像均是以数字形式存储,因而图像处理很多情况下指数字图像处理。

人脸检测技术

人脸检测(face detection)是一种在任意数字图像中找到人脸的位置和大小的计算机技术。它可以检测出面部特征,并忽略诸如建筑物、树木和身体等其他任何东西。有时候,人脸检测也负责找到面部的细微特征,如眼睛、鼻子、嘴巴等的精细位置。

视频生成技术

视频生成是指利用深度学习等技术生成视频的任务。

推荐文章
暂无评论
暂无评论~