的风险人工智能生成“deepfake搅乱2020年大选的内容，促使两名美国参议员呼吁Facebook、Twitter和YouTube提出行业标准，以检测和消除潜在威胁。
周三，美国参议员马可·卢比奥(佛罗里达州共和党人)和马克·沃纳(弗吉尼亚州民主党人)发出了信(在新窗口中打开)向包括Reddit、Snapchat、TikTok、Twitch和linkedin在内的主要社交媒体平台发出了关于深度造假向公众传播错误信息的危险的警告。
参议员们写道:“我们认为，至关重要的是，你们的组织应该制定计划，以应对试图使用这些技术的行为。”“我们还敦促你们制定共享、删除、存档和应对合成内容共享的行业标准。”
虽然任何人都可以编辑照片，但今天的人工智能程序可以将图像和视频调整到一个新的、逼真的极致。功能包括把你的脸换成一个著名演员的身体，利用现有的镜头和操纵主题的脸来表达别的东西，以及生成那些不存在的人的逼真头像。
Deepfake技术也可以应用于音频。最近，一个基于人工智能的软件程序被用来模仿(在新窗口中打开)用公司CEO的声音来欺骗员工进行欺诈性的电汇。
卢比奥和华纳担心，同样的技术将被用来制造虚假信息，这些信息将欺骗公众，并迅速在社交媒体上传播开来，没有任何阻止。“如果公众不能再相信记录下来的事件或图像，它将对我们的民主产生腐蚀性影响，”参议员们写道。
主要科技公司都同意深度造假带来的潜在危险，但卢比奥和华纳声称，在制定全行业标准来解决这一问题方面“进展有限”，并要求社交媒体平台回答七个问题，涉及其阻止深度造假并警告用户的政策。
上个月，Facebook和微软开幕这是一场招募想要开发工具来检测人工智能生成视频的研究人员的比赛。
拥有YouTube的谷歌也有发布(在新窗口中打开)一个由3000个深度伪造视频组成的数据集被创建给了学者，希望他们能够创建出从真实图像中检测伪造图像的系统。“我们致力于投资于技术和团队，使我们能够理解这一挑战，并保持我们平台的完整性，”YouTube在回应参议员的信时告诉PCMag。
这些公司能否成功监管内容则是另一回事。Facebook、YouTube和Twitter都经常因未能阻止错误信息和仇恨言论而受到批评，同时也招致言论自由倡导者的愤怒，他们抨击这些网站的在线审查制度。Facebook首席执行官马克·扎克伯格此前表示，他的公司正在制定一项针对深度造假的政策。但这家社交网络在很大程度上没有删除假新闻，而是集中把内容降级，放在经过事实核查的新闻文章旁边。
卢比奥和华纳表示，他们主张“为媒体认证制定明确的战略和政策”。深度造假的内容也应该被贴上标签并存档，这样研究人员就可以追踪虚假信息活动，尤其是在宣传活动背后可能有外国政府的情况下。
他们写道:“深度造假的威胁是真实存在的，只有透明地处理它，我们才能希望保持公众对它使用的平台的信任，并限制一次成功的深度造假可能造成的广泛破坏、破坏和混乱。”
马克·扎克伯格表示，Facebook将“评估”深度造假政策
