---

  新智元原创  

科技是把双刃剑：令人担心的事情还是发生了。

自DeepFakes技术诞生以来，造假脸、假视频的恶搞消息不断，而基于GAN的相关技术让这种恶搞“更上一层楼”——真人？假人？傻傻分不清。

先来看下两个例子。

2015年，教皇方济各 (Pope Francis) 访美期间，“一个出人意料之举”震惊了世界：只见他在向圣坛礼拜后，转身顺手将桌布一抽，上演了一出绝妙的“抽桌布”戏法，动作之行云流水，令人膜拜。

相关视频很快火遍了全美乃至全世界。但是，这是一个假视频。

2015年现任教皇访美，上演绝妙“抽桌布”戏法，美国主教看后表示不爽。当然，这段视频是假造的，但这并不影响其流行。来源：CNN

今年2月，英伟达StyleGAN开源，而后一波“造假热潮”来了——假猫、假人、假房源网站如“雨后春笋般”崛起。人们不禁感叹：实在太逼真了！

StyleGAN生成的假房源

但在惊叹之余，人们不禁对诸如此类的AI技术表示担忧：若是被滥用，会严重影响人们的安全和隐私。

事情还是发生了。

根据美联社报道，一名间谍使用 AI 生成的个人资料和图片在知名全球职场社交平台LinkedIn上欺骗联系人！

文章地址：

https://apnews.com/bc2f19097a4c4fffaa00de6770b8a60d

Katie Jones在LinkedIn中的虚假信息

据称，凯蒂·琼斯(Katie Jones)在一个高级智库工作, 与政治专家和政府内部人士联系在一起。其中包括一些零散的政府人物，如参议员的助手、副助理国务卿，以及目前正在考虑加入美联储的经济学家保罗•温弗里(Paul Winfree)。

但其实，她并不存在。

图灵奖得主、Facebook首席科学家Yann Lecun对此发推表示：

显然，GAN在LinkedIn上被用来创建虚假的个人资料照片，并用于国际工业间谍活动。

Katie Jones似乎很关注华盛顿的政治局势。

这位30岁的红发女郎声称在一个顶级智库工作，是美国国际战略研究中心（CSIS）的研究员。她与美国的一位副助理国务卿、一位参议员的高级助理以及正在考虑就职美联储席位的经济学家Paul Winfree均有联系。

但是美联社已经确定，Katie Jones并不存在。

相反，这个人是隐藏在专业社交网站LinkedIn上的大量幻影资料之一。美联社联系的几位专家表示，Jones的个人资料照片似乎是由一个计算机程序创建的。

CSIS航空安全项目和国防预算分析主任Todd Harrison发推表示：

现在我开始怀疑我的 CSIS 同事中有多少是真正的人类, 而不是 AI 产生的。

他还调侃道：“Sam，你是真人吗？”

“我相信这是一张假脸，”Mario Klingemann表示。Mario是一位德国艺术家，多年来一直在试验人工生成的肖像，他说自己已经审查了数万张这样的肖像图。“这张头像有所有的特征。”

看了Jones个人资料和活动的LinkedIn专家表示，这是职业社交网站间谍活动的典型表现。作为全球名片簿，LinkedIn成为吸引间谍的强大磁铁。

丹麦民主联盟基金会智囊团的项目主任Jonas Parello Plesner说，“它看起来像某种国营业务。”几年前，Jonas是LinkedIn上间谍活动的目标。

与Facebook的朋友和家庭聚焦点不同，LinkedIn面向求职者和猎头，这些人通常会放出简历，建立庞大的联系网，向陌生人推销项目。这种“把他们都联系起来”的方式有助于填补网站上数百万个招聘职位的空缺，但它也为间谍提供了一个丰富的猎场。

过去几年，英国、法国和德国官员都发出警告，详细说明外国间谍如何利用LinkedIn与数千人取得联系。

在一份声明中，LinkedIn表示它经常对假帐户采取行动，在2019年的前三个月中对其中数千个帐户进行了处理。它还说“我们建议您与您认识和信任的人联系，而非任何人。”

Katie Jones的个人资料规模不大，有52个联系人。

但是这些联系人具有足够大的影响力，接受Jones邀请的一些人也会因此对她信任。美联社在今年3月初至4月初期间与其他大约40名与Jones有联系的人进行了交谈，其中许多人说他们经常接受他们不认识的人的邀请。

“我可能是LinkedIn历史上最糟糕的用户，”特朗普总统的国内政策委员会前副主任Winfree说，他在3月28日确认了与Jones的联系。

上个月，联邦储备委员会理事会的一个职位空缺，Winfree的名字出现了，他表示，自己很少登录LinkedIn并倾向于批准他所有堆积的邀请。“我真的接受了我的每一个朋友邀请，”Winfree说。

在日内瓦韦伯斯特大学教东亚事务的Lionel Fatton说，他不认识Jones的事实让他在3月份与她联系时有短暂停顿。“我记得犹豫不决，”他说：“然后我想，~q~有什么害处？~q~”

Parello-Plesner指出，潜在的伤害可能是微妙的：连接到像Jones这样的个人资料邀请意味着与背后的人进行一对一的对话，网站上的其他用户可以将连接视为一种认可。他说：“你降低了自己的警惕，也让别人放松警惕。”

Jones的个人资料首先由伦敦Chatham House智囊团的俄罗斯专家Keir Giles举报。Giles最近陷入了针对俄罗斯反病毒公司卡巴斯基实验室的批评者的完全独立的间谍活动。所以当他收到Katie Jones在LinkedIn上的邀请时，他很怀疑。

Jones声称自己多年来一直在华盛顿战略与国际研究中心担任“俄罗斯和欧亚大陆研究员”，但Giles表示，如果这是真的，“我应该听说过她。”

CSIS发言人Andrew Schwartz告诉美联社，“没有一位名叫Katie Jones的人为我们工作。”

Jones还声称已获得密歇根大学俄罗斯研究学位，但学校表示“无法找到任何一个以此名字从大学获得这一学位的学生。”

在美联社联系网络寻求评论后不久，Jones账户就从LinkedIn上消失了。通过LinkedIn和相关的AOL电子邮箱帐户发送给Jones本人的邮件也没有回复。

美联社采访的众多专家表示，Katie Jones最吸引人的地方可能是她的脸，他们说这似乎是人为创造的。

Klingemann和其他专家说，这张照片—— 一张蓝绿色眼睛、褐色头发和神秘微笑的女人的肖像——似乎是使用称为生成对抗网络（GAN）的一系列计算机程序创建的，这可以创造出想象出来的人的逼真面孔。

GAN，有时被描述为一种人工智能形式，已经受到越来越政策制定者的关注，尽管他们已经在努力处理数字虚假信息了。周四，美国立法者举行了他们的第一次听证会，主要讨论人为生成图像的威胁。

南加利福尼亚大学创意技术研究所负责图形实验室愿景的Hao Li发布了一份数字报告清单，他认为Jones的照片是由计算机程序创建的，包括Jones眼周围的不一致、她头发周围的光和左脸颊上留下污迹。

这个造假技术到底有多厉害？

基于GAN的架构一个又一个推出，英伟达StyleGAN就是其中一个，多上几张图有助于你回忆：

这个模型并不完美，但确实有效，而且不仅仅可用于人类，还能用于汽车、猫、风景图像的生成。

英伟达研究人员在论文中写道，他们提出的新架构可以完成自动学习，无监督地分离高级属性（例如在人脸上训练时的姿势和身份），以及生成图像中的随机变化，并且可以对合成进行更直观且特定于比例的控制。

换句话说，这种新一代GAN在生成和混合图像，特别是人脸图像时，可以更好地感知图像之间有意义的变化，并且在各种尺度上针对这些变化做出引导。

例如，在上面的动图中，其实面部已经完全变了，但“源”和“样式”的明显标记显然都得到了保留。为什么会这样？请注意，所有这些都是完全可变的，这里说的变量不仅仅是A + B = C，而且A和B的所有方面都可以存在/不存在，具体取决于设置的调整方式。

而StyleGAN之所以强大，就在于它使用了基于风格迁移的全新生成器架构：

传统生成器架构和基于风格的生成器架构对比

在传统方式中，隐码(latent code)是通过输入层提供给生成器的，即前馈网络的第一层(上图中的a部分)。而英伟达团队完全省略了输入层，从一个学习的常量(learned constant)开始，从而脱离了传统的设计(图1b，右)。在输入隐空间Z中，给定一个隐码z，一个非线性网络 f：Z→W首先生成w∈W(图1b，左)。

英伟达团队的生成器架构可以通过对样式进行特定尺度的修改来控制图像合成。可以将映射网络和仿射变换看作是一种从学习分布(learned distribution)中为每种样式绘制样本的方法，而将合成网络看作是一种基于样式集合生成新图像的方法。修改样式的特定子集可能只会影响图像的某些方面。

之前，大多数研究都集中在如何提高“换脸”技术上，也就是如何让计算机生成超逼真的人脸。

谁料，这种技术发展的滥用造成了反效果，也即所谓的“DeepFake”。现在，DeepFake已被用于指代所有看起来或听起来像真的一样的假视频或假音频。

针对 Deepfake 视频中人脸识别的漏洞，两人在论文中对基于VGG和Facenet的人脸识别系统做了漏洞分析，还使用SVM方法评估了 DeepFake 的几种检测方法，包括嘴唇动作同步法和图像质量指标检测等。