人工智能擅长用简单的数据集和定义的特征解决问题和自动化过程,但在面对微妙的、主观的决策时却很困难。这些弱点在中国越来越明显人工智能驱动的内容审核在社交媒体平台上。
Facebook在其最新发布的公告中详细介绍了其内容审核实践(以及算法的有效性)社区标准执行报告(在新窗口打开),一些趋势(在新窗口打开)都是显而易见的。
脸书的人工智能几乎完全准确地识别垃圾邮件内容、恐怖主义宣传、暴力和裸体。这种不一致是在检测仇恨言论时出现的,该平台在标记欺凌和骚扰方面仍然存在重大问题:在用户报告之前,它只识别出了14%的这类内容。Facebook表示,它一直在这么做在仇恨言论方面有所改善他指出,从2017年第四季度的24%上升到2019年第一季度的65%。最后禁止白人民族主义在站台上也不疼。
检测违反Facebook规则的内容只是成功的一半。另一半则持续执行其政策,并对这些账户和被标记的帖子采取行动。Facebook扮演着一个永无止境的打地鼠游戏通过禁用数十亿个自动生成的虚假账户,但就删除实际内容而言,最大的份额是直接的垃圾邮件。
2019年第一季度,Facebook对18亿条垃圾邮件采取了行动。这比其他所有类型的内容加起来还要多。相比之下,Facebook社区标准团队对仇恨言论和骚扰采取行动的帖子只有660万个。Facebook的内容审核仍然存在问题还有很长的路要走。