交友应用Bumble已经开发了一个开源版本的私人探测器AI功能,该功能可以标记未经请求的裸照。
当在私人聊天中分享淫秽图片时,该系统模糊它并标记为不合适;这取决于用户是否查看或阻止图片,或者将其报告给审核团队。
虽然熊是不是第一个建立人工智能算法来捕捉裸体的应用程序(Facebook是做了很多年),这款由女性创建的约会应用正在分享它的经验,以帮助其他在线社区打击网络闪光。
我们“认识到有必要在Bumble的产品生态系统之外解决这个问题,并就如何解决未经请求的淫秽照片(也称为网络闪光)问题进行更广泛的讨论,以使互联网成为一个对每个人都更安全、更友善的地方,”该公司表示说(在新窗口中打开).
考虑到这一点,该应用程序发布了一个版本的私人探测器,希望“使我们的技术大众化,并帮助世界各地面临同样挑战的科学家和工程师改进他们的在线安全方法。”
图像分类器的源代码是现在可以通过GitHub获得(在新窗口中打开),用户还可以下载预训练的SavedModel和检查点,以及执行必要操作的大量文档和指南。
Bumble创始人惠特尼·沃尔夫·赫德(Whitney Wolfe Herd)于2019年推出了这一功能,同时还游说德克萨斯州立法者成功通过一项法案(HB 2789),该法案将发送未经请求的裸照列为刑事犯罪,最高可处以500美元的罚款。该公司今年帮助弗吉尼亚州(SB 493)和加利福尼亚州(SB 53)通过了类似的法律。
班布尔说:“这些新法律是为这种日常形式的骚扰建立问责制和后果的第一步。这种骚扰导致受害者——主要是女性——在网上感到痛苦、受到侵犯和脆弱。”