在2017年末,主板报道(在一个新窗口中打开)在一个人工智能t工艺参数它可以在视频中交换面孔。当时，技术人员后来打电话给deepfakes -产生粗糙、粗糙的结果，主要用于制作名人和政客的虚假色情视频。
两年后，这项技术取得了巨大的进步，用肉眼更难发现。除了假新闻，伪造视频已经成为国家安全问题，尤其是在2020年总统选举临近之际。
自从深度造假出现以来，一些组织和公司已经发展起来检测人工智能篡改视频的技术(在一个新窗口中打开)．但有人担心，有一天，深度造假技术将无法检测。
萨里大学的研究人员开发了一种可能解决这个问题的方法:它将证明什么是真的，而不是检测什么是假的。拟于即将举行的“计算机视觉与模式识别”会议(CVPR(在一个新窗口中打开))，这项技术被称为大天使(在一个新窗口中打开)，使用人工智能和区块链为真实视频创建和注册防篡改数字指纹。指纹可以作为验证网络传播或电视播放的媒体有效性的参考点。
使用人工智能签署视频
证明二进制文档真实性的经典方法是使用数字签名。发布者通过一种加密算法(如SHA256、MD5或Blowfish)运行文档，该算法产生一个“散列”，这是一个简短的字节字符串，表示该文件的内容，并成为其数字签名。在任何时间通过哈希算法运行相同的文件将产生相同的哈希，如果其内容没有改变。
哈希对源文件二进制结构的更改非常敏感。当您修改散列文件中的单个字节并再次通过算法运行它时，将产生完全不同的结果。
但是，据萨里大学计算机视觉教授、Archangel项目负责人John Collomosse说，尽管哈希运算在文本文件和应用程序中工作得很好，但对于可以以不同格式存储的视频来说，它们提出了挑战。
“我们希望签名是相同的，不管视频压缩用的是什么编解码器，”Collomosse说。“如果我把视频从MPEG-2转换成MPEG-4，那么这个文件的长度将完全不同，比特将完全改变，这将产生不同的哈希值。我们需要的是一个内容感知的哈希算法。”
为了解决这个问题，Collomosse和他的同事开发了一个深度神经网络，它对视频中包含的内容非常敏感。深层神经网络是一种通过分析大量实例发展其行为的AI结构。有趣的是，神经网络也是深度造假的核心技术。
在制作深度造假时，开发者向网络提供被测者的脸部照片。神经网络学习面部特征，经过足够的训练，能够在其他视频中找到和交换与受试者的脸。
大天使的神经网络根据视频训练过它的指纹。“网络关注的是视频的内容，而不是其底层的比特和字节，”Collomosse说。
经过训练后，当你通过网络运行一个新视频时，无论格式如何，当它包含与源视频相同的内容时，它都会验证该视频;当它是不同的视频或被篡改或编辑过的视频时，它会拒绝该视频。
根据Collomosse的说法，这项技术可以检测到空间和时间上的篡改。空间篡改是对单个帧进行的更改，比如在深度伪造中进行的脸部交换编辑。
但深度造假并不是篡改视频的唯一方式。较少被讨论但同样危险的是故意改变视频帧的顺序、速度和时长。最近，广为流传篡改了众议院议长南希·佩洛西的视频(在一个新窗口中打开)没有使用深度造假，而是通过谨慎使用简单的编辑技术创造出来的，让她看起来很困惑。
“我们可以检测到的篡改形式之一是删除视频的短片段。这些是时间篡改器。我们可以检测到长达三秒的篡改。所以，如果一段视频有几个小时长，而你只删除其中的三秒，我们就能检测到，”科洛摩斯说。他补充说，大天使也能检测到原始视频速度的变化，就像在佩洛西的视频中所做的那样。
在区块链上注册指纹
大天使计划的第二部分是区块链这是一个防篡改数据库，可以存储新信息，但不能更改，这对视频档案来说非常理想，因为视频一经注册就不会更改。
区块链技术是数字货币的基础，例如比特币和醚。这是一个数字账本，由几个独立的部门维护。大多数政党必须就区块链的改革达成一致，这使得任何一个政党都不可能单方面干预分类账。
在技术上，如果超过50%的参与者串通，就可以攻击和更改区块链的内容。但在实践中，这是极其困难的，特别是当区块链是由许多目标和利益不同的独立党派维护的时候。
大天使的区块链和公共区块链有点不同。首先，它不产生加密货币，只存储存档中每个视频的标识符、内容感知的指纹和验证者神经网络的二进制散列(区块链不适合存储大量数据，这就是为什么视频本身和神经网络都存储在链外)。
另外，它是一个被允许的或“私有的”区块链。这意味着，与人人都可以记录新交易的比特币区块链不同，只有获得许可的方才能在大天使区块链上存储新记录。
目前，来自英国、爱沙尼亚、挪威、澳大利亚和美国的国家政府档案网正在对《大天使》进行测试:为了存储新信息，每个相关国家都必须承担新增信息的费用。但是，虽然只有参与国的国家档案馆有权添加记录，但其他所有人都有区块链的读访问权，可以使用它来验证其他视频的存档。
“这是区块链的公益应用，”Collomosse说。“在我看来，区块链的唯一合理使用是当你有独立的组织，这些组织不一定相互信任，但他们确实在这个相互信任的集体目标中有既得利益。我们希望做的是保护世界各地政府的国家档案，这样我们就可以使用这种技术保证它们的完整性。”
因为制作伪造视频变得更容易、更快、更容易，每个人都需要尽可能多的帮助来确保他们视频档案的完整性——尤其是政府。
“我认为深度造假几乎就像一场军备竞赛，”科洛摩斯说。“因为人们正在制造越来越有说服力的深度赝品，有一天可能会无法检测到它们。这就是为什么你能做的最好的事情就是试图证明视频的来源。”
这个可怕的深度伪造工具可以让人说出他们从未说过的话——未来闪现
