「AI Yoon」是首个使用 deepfake 技术合成的官方「候选人」。
近日，DeepFake 技术被用到了韩国大选中，构造了是世界上第一个官方 deepfake 政界候选人。这个名为「AI Yoon」的数字人以韩国国民力量党候选人尹锡悦（Yoon Suk-yeol）为原型。借助尹锡悦 20 小时的音频和视频片段、以及其专门为研究人员录制的 3000 多个句子，当地一家 deepfake 技术公司创建了虚拟形象 AI Yoon，并在网络上迅速走红。此前也有 AI 技术被用于选举，比如纽约市长候选人杨安泽（Andrew Yang）曾在虚拟世界中进行竞选。但 「AI Yoon」 的创造者认为这是世界上第一个官方 deepfake 候选人。乍一看，「AI Yoon」 可能会被误认为是一个真正的候选人，梳着整齐的黑发，穿着正式的西装，从外表上看几乎和尹锡悦本人一模一样。但为了吸引年轻选民，研究者让「AI Yoon」使用一些风趣的语言和俏皮话。自 1 月 1 日首次亮相以来，已经吸引了数百万的观看次数。实际上 AI Yoon 表达的内容是由竞选团队撰写的，而不是候选人本人。首尔女子大学信息安全教授 Kim Myuhng-joo 告诉当地媒体，AI Yoon 参加活动使用的脚本借鉴了网络游戏中使用的语言。她说：「AI Yoon 按照其创造者编写的脚本进行朗读。」「AI Yoon」研发团队负责人 Baik Kyeong-hoon 则表示：尹锡悦在现实世界中常说的话在 AI Yoon 中也得到了很好的体现。
AI Yoon 的迅速蹿红为候选人尹锡悦提高了人气。在年龄 20 多岁的选民群体中，尹锡悦的人气领先于竞争对手李在明。这和 AI Yoon 的语言风格及其研发团队有很大关系。AI Yoon 的创作者 Baik 和另外两名技术成员是尹锡悦竞选团队中最年轻的员工。争取年轻选民的选票可能是他们的用意之一。该团队为 AI Yoon 的头脑风暴式问答生成回应，可能只需要 30 分钟。这与通常在公共政策辩论中经过精心打磨的言辞形成鲜明对比。Baik 认为：使用 deepfake 技术创建大量内容非常容易，AI 将为未来的竞选活动提供支持。在能被识别出是 deepfake 技术合成，且不传播错误信息的条件下，韩国的选举监管机构允许使用此类「AI 候选人」。
2018 年，美国新闻网站 Buzzfeed 联合喜剧演员 Jordan Peele 利用 deepfake 技术伪造了一段前美国总统奥巴马的视频，之后 Buzzfeed 又警告网友不要相信相关的视频信息。
2018 年，美国新闻网站 Buzzfeed 联合喜剧演员 Jordan Peele 利用 deepfake 技术制作了一段美国前总统奥巴马的视频，之后 Buzzfeed 又警告网友不要相信相关的视频信息。类似地，2019 年陌陌推出了一款名为 ZAO 的 AI 换脸应用，上架几天就冲到应用榜榜首，但很快就因存在滥用隐患而下架了。2021 年，一段用换脸技生成的「蚂蚁呀嘿」视频及其制作软件 Avatarify 再掀风波，并在一周之后火速下架。实际上，换脸所带来的隐私安全问题确实令人担忧。一方面技术滥用会导致虚假信息泛滥；另一方面，如使用明星等他人的照片来制作相关视频，就可能涉及名誉权、肖像权、知识产权等法律问题。此外，个人隐私泄漏可能会涉及资产安全、人身安全等问题。因此，deepfake 技术虽已日渐成熟，但其广泛应用仍需更多的安全和法律保障。https://www.france24.com/en/live-news/20220214-deepfake-democracy-south-korean-candidate-goes-virtual-for-votes 
这是发生在2017年科技圈那些「不堪回首」的重大失败，每一件都与你有关
