如果有一天机器起来推翻人类,期待它们使用deepfakes,而不是核武器,来搞垮我们的社会,导演詹姆斯·卡梅隆如是说《终结者》特许经营。
“所有天网(在一个新窗口中打开)就是深度造假一群人,让他们相互对抗,激起大量的怒火,然后让这个巨大的深度造假在人类身上运行,”卡梅隆告诉(在一个新窗口中打开)上周在接受BBC采访时。
他在讨论人工智能生成的“深度造假”视频的威胁时提出了这个话题,这种视频可以操纵某人的脸来表达其他内容。卡梅伦担心,同样的技术可能被滥用,导致政治混乱或引发战争。为了证明自己的观点,他引用了天网,即邪恶人工智能从《终结者》《特许经营权》这部电影最初通过核打击消灭了一半的人类。
卡梅隆认为,如果天网真的出现在我们的世界,邪恶的人工智能可以很容易地策划人类的衰落,它可以制作看似真实,但最终是假的视频,欺骗人们互相憎恨。他说:“它实际上很像现在正在发生的事情。虚假信息而且阴谋论在我们这个数字时代很容易传播。
他说:“天网不需要用核武器摧毁整个生物圈和环境。让我们的思想反目成仇要容易得多,消耗的能量也少得多。”
卡梅伦并不是唯一一个警告公众警惕深度造假的人。多年来,安全专家和议员们也一直如此听起来人工智能视频对国家安全构成威胁的警告。卡梅伦补充说,深度造假利用了视频证据经常能让我们相信某事是真的。
“这是我们依赖视频的一大问题。新闻周期发生得如此之快,人们的反应也如此之快,在深度造假事件出现和被曝光为假货之间的这段时间里,可能会发生重大事件,”他说。
目前,由于视频渲染的缺陷,许多深度造假仍然可以被识别为人为的。“但随着时间的推移,这些限制将会消失,”卡梅伦警告说。“你看到并完全相信自己看到的东西可能是假的。”
作为回应,他敦促公众使用批判性思维技巧,但在审查新闻时也要避免接受“荒谬的阴谋偏执”。
“科学界的人不会说,‘哦,太棒了!你知道,当一些科学家发表他们的研究成果时。不,你要参加一段时间的同行评议。必须经过审查和检查。一个发现越激进,同行评议就越多。”所以优秀的同行评议科学是不会说谎的。但出于某种原因,人们的思维会倾向于对现实更性感、更惊悚的电影解读,而不是显而易见的那种。”