当我们进入下一届总统竞选季节时，你会想要小心使用虚假网络视频带来的潜在危险人工智能(AI)而且机器学习(ML)．使用人工智能软件，人们可以进行创作deepfake(“深度学习和假”的简称)视频，其中ML算法用于执行人脸交换，以制造一种幻觉，即某人要么说了他们没有说的话，要么是他们不是的人。Deepfake视频出现在从娱乐到政治再到企业界的各个领域。深度造假视频不仅会以虚假信息不公平地影响选举，还会给个人带来尴尬，或者造成误导性的品牌信息，比如，如果视频显示首席执行官宣布一项产品发布或一项实际上并未发生的收购。
深度造假是一种名为“生成对抗网络”(GANs)的人工智能类别的一部分，在这种人工智能中，两个神经网络相互竞争，以创建看起来真实的照片或视频。GANs由一个生成器和一个鉴别器组成，前者创建一组新的数据，如假视频，后者使用ML算法合成和比较来自真实视频的数据。生成器一直尝试用旧视频合成假视频，直到鉴别器无法判断数据是新的。
McAfee高级副总裁兼首席技术官(CTO)史蒂夫·格罗布曼(Steve Grobman)在会上指出2019年RSA大会自摄影术发明以来，假照片就一直存在。他说，修改照片是一项简单的任务，你可以在应用程序中执行Adobe Photoshop．但现在这些类型的先进编辑功能也正在进入视频领域，他们正在使用功能强大且易于访问的软件工具。
深度造假是如何产生的
尽管理解人工智能的概念是有帮助的，没有必要成为一个数据科学家来建立一个deepfake视频．格罗布曼表示，这只需要在网上遵循一些指导即可。在2019年RSA大会上(见上图)，他与McAfee首席数据科学家和高级首席工程师Celeste Fralick博士一起发布了一段deepfake视频。deepfake的视频说明了这项技术带来的威胁。格罗布曼和弗拉里克在一段视频中展示了一名政府官员如何说一些危险的事情，从而误导公众认为信息是真实的。
为了制作视频，格罗布曼和弗拉里克下载了deepfake软件。随后，他们拍摄了格罗布曼2017年在美国参议院作证的视频，并将弗拉利克的嘴叠加在格罗布曼的嘴上。
“我利用[格罗布曼]免费提供的公众评论来创建和训练一个团队毫升模型；这让我制作了一个深度造假视频，让我的话从他嘴里说出来，”弗雷里克在台上对RSA观众说。弗拉利克接着说，深度伪造视频可以用于社会剥削和信息战。
为了制作deepfake视频，格罗布曼和弗拉里克使用了Reddit用户开发的FakeApp工具，该工具使用ML算法和照片在视频中交换人脸。在他们的RSA演示会上，格罗布曼解释了接下来的步骤。“我们把视频分割成静态图像，提取出人脸，通过分类和Instagram上的清理来清理它们。”
Python脚本允许McAfee团队构建口型，使弗拉里克的讲话与格罗布曼的嘴相匹配。然后他们需要编写一些自定义脚本。格罗布曼说，制作令人信服的深度假体的挑战在于性别、年龄和肤色等特征不匹配。
然后，他和弗拉利克使用最终的人工智能算法将格罗布曼在参议院作证的图像与弗拉利克的演讲相匹配。Grobman补充说，训练这些ML算法花了12个小时。
McAfee概述了在2019年RSA大会上展示的deepfake视频的制作步骤。它使用名为FakeApp的深度伪造软件，并训练ML模型，用Fralick的演讲来改变Grobman的视频。(图片来源:McAfee)。
深度造假的后果
黑客制作的深度伪造视频有可能引发许多问题——从政府官员传播虚假信息，到名人因为出现在他们实际上并没有出现的视频中而感到尴尬，再到公司损害竞争对手的股票市场地位。意识到这些问题，议员们在9月发出了一份致丹尼尔·科茨的信他要求对深度造假构成的威胁进行审查。信中警告称，俄罗斯等国可能会利用社交媒体上的深度造假来传播虚假信息。去年12月，立法者提出了《2018年恶意深度造假禁止法案》，将与“视听记录”相关的欺诈行为定为非法，“视听记录”指的是深度造假。该法案能否通过还有待观察。
正如前面提到的，名人会因为视频中他们的脸被叠加在色情明星的脸上而感到尴尬，比如盖尔·加朵(Gal Gadot)。或者想象一下，一位CEO在宣布产品消息的同时，导致公司股价下跌。安全专业人员可以使用ML来检测这些类型的攻击，但如果没有及时检测到，就会给一个国家或一个品牌带来不必要的损害。
弗雷斯特研究公司首席分析师蔡斯·坎宁安博士说:“对于深度造假，如果你知道自己在做什么，知道目标受众是谁，你就可以制作出非常有说服力的视频，对品牌造成很大损害。”他补充说，如果你在领英(LinkedIn)或推特(Twitter)上发布这些信息，或者利用机器人的形式，“你可以毫不费力地凭借完全伪造的视频摧毁一家公司的股票。”
通过深度伪造视频，消费者可能会被欺骗，相信产品可以做一些它不能做的事情。坎宁安指出，如果一家大型汽车制造商的首席执行官在一段虚假视频中表示，该公司将不再生产汽油动力汽车，然后在该视频中将这一消息传播到Twitter或LinkedIn上，那么这种行为很容易损害一个品牌。
坎宁安说:“根据我的研究，有趣的是，人们在37秒内根据头条新闻和视频做出决定。“所以你可以想象，如果你能得到一个超过37秒的视频，y你可以让人们根据(视频)是否真实来做出决定。这太可怕了。”
自社交媒体深度造假视频在这里极易传播，社交媒体网站正在积极努力打击深度造假的威胁。例如，Facebook部署了工程团队，可以识别经过篡改的照片、音频和视频。除了使用软件，Facebook(和其他社交媒体公司)还雇人手动寻找深度造假。
“我们已经扩大了打击操纵媒体的持续努力，包括打击深度造假，”Facebook的一名代表在一份声明中表示。“我们知道，各种形式的被操纵媒体的持续出现给社会带来了真正的挑战。这就是为什么我们投资新的技术解决方案，从学术研究中学习，并与业内其他人合作，以了解深度造假和其他形式的被操纵媒体。＂
并非所有深度造假都是坏事
正如我们在McAfee的deepfake教育视频和深夜电视上的deepfake喜剧视频中看到的那样，一些deepfake视频不一定是坏的。事实上，虽然政治可以暴露深度造假视频的真正危险，但娱乐行业往往只展示了深度造假视频轻松的一面。
比如，在最近的一集《斯蒂芬·科尔伯特深夜秀》一段有趣的deepfake视频显示，演员史蒂夫·布西米的脸是叠加在女演员詹妮弗·劳伦斯的身体上(在新窗口打开)．在另一个案例中，喜剧演员乔丹·皮勒用前总统奥巴马讲话的视频(在新窗口打开)用他自己的声音。网上也出现了这样幽默的深度伪造视频，在视频中，特朗普总统的脸被叠加在德国总理安格拉·默克尔的脸上。
同样，如果深度造假视频是出于讽刺或幽默的目的，或者只是为了娱乐，那么社交媒体平台甚至电影制作公司都会允许或使用它们。例如，Facebook允许这类内容出现在其平台上，而且在《星球大战外传:侠盗一号》中，卢卡斯电影公司使用了一种数字娱乐方式，让年轻的凯莉·费雪出现在女演员英格维尔·黛拉的身上。
McAfee的格罗布曼指出，深度造假背后的一些技术在电影制作中被很好地用于特技替身，以保证演员的安全。“背景决定一切。如果它是出于喜剧目的，而且很明显不是真实的，那就是技术的合法使用。”格罗布曼说。“认识到它可以用于各种不同的目的是关键。”
(图片来源:Statista(在新窗口打开)）
如何检测Deepfake视频
McAfee并不是唯一一家尝试检测假视频的安全公司。在其纸(在新窗口打开)他在2018年黑帽大会上发表了题为“人工智能失控:在深度造假造成威胁之前消灭它们”的演讲，赛门铁克的两名安全专家，安全响应主管Vijay Thaware和软件开发工程师Niranjan Agnihotri写道，他们已经创建了一种基于谷歌FaceNet识别假视频的工具。谷歌FaceNet是谷歌研究人员开发的一种神经网络架构，用于帮助人脸验证和识别。用户在特定的图像上训练FaceNet模型，然后可以在之后的测试中验证他们的身份。
为了阻止深度造假视频的传播，人工智能基础(在新窗口打开)该公司提供名为“现实卫士”(Reality Defender)的软件来识别虚假内容。它可以扫描图像和视频，看看它们是否被人工智能修改过。如果他们有，他们将得到一个“诚实的AI水印”。
另一个策略是保持概念零信任记住，这意味着"永远不要信任，永远要核实" -这是一个网络安全格言，意思是IT专业人员在授予访问权限之前应该确认所有用户都是合法的。对视频内容的有效性保持怀疑是必要的。你还需要数字软件分析识别虚假内容的能力。
小心深度造假
展望未来，我们需要更加谨慎地对待视频内容，并牢记它们如果被滥用可能给社会带来的危险。正如格罗布曼所指出的，“在短期内，人们需要对他们所看到的更加怀疑，并认识到视频和音频可能是捏造的。”
所以，在我们进入下一个选举季之际，对你所观看的政治视频保持怀疑的态度，不要相信所有以企业领导人为主角的视频。因为你听到的可能不是真正说的，误导性的深度伪造视频有可能真正损害我们的社会。
