交友应用Bumble开发了一个开源版本的私人检测器人工智能功能,可以标记未经请求的裸照。
当淫秽图片在私人聊天中被分享时,该系统模糊它,并将其标记为不合适;这取决于用户是否查看或阻止图片,或报告给审核团队。
虽然熊并不是第一个构建人工智能算法来捕捉裸体的应用程序(Facebook曾经是做了很多年),这款由女性创办的约会应用正在分享它从中学到的经验,以帮助其他网络社区打击网络闪光。
我们“认识到有必要在Bumble的产品生态系统之外解决这个问题,并就如何解决未经请求的淫秽照片(也称为网络闪光)问题展开更广泛的讨论,以使互联网对每个人来说都是一个更安全、更友好的地方,”该公司表示说(在新窗口打开).
考虑到这一点,该应用程序发布了一个版本的私人探测器,希望“使我们的技术获得民主化,并帮助世界各地面临同样挑战的科学家和工程师改善他们的在线安全方法。”
图像分类器的源代码是现在可以通过GitHub获得(在新窗口打开),用户还可以下载预先训练的SavedModel和检查点,以及大量的文档和执行必要操作的指南。
Bumble创始人惠特尼·沃尔夫·赫德(Whitney Wolfe Herd)于2019年推出了这一功能,同时还游说德克萨斯州议员成功通过一项法案(HB 2789),将发送未经请求的裸体图片定为刑事犯罪,最高可处以500美元的罚款。该公司今年帮助弗吉尼亚州(SB 493)和加利福尼亚州(SB 53)通过了类似的法律。
班布尔说:“这些新法律是为这种日常形式的骚扰建立问责制和后果的第一步,这种骚扰导致受害者(主要是女性)在网上感到痛苦、被侵犯和脆弱。”