Twitter的新的赏金计划(在新窗口打开)将奖励在8月6日之前发现并披露该公司图像裁剪算法存在偏见迹象的DefCon AI Village参与者。
该算法被用于确定图像的哪一部分应该显示在Twitter的移动应用程序中,以及该公司说(在新窗口打开)今年5月,该公司收到了投诉,称该算法由于“基于性别和种族的偏见”,“没有公平地为所有人服务”。
推特的分析支持了这些抱怨:它说,“对不同种族和性别的个体进行了随机链接图像的实验”,该实验对1万张图像进行了分析,结果显示,其图像裁剪算法确实偏向女性和白人。
作为回应,推特公司让推特用户直接控制图片在发送前如何在移动时间轴上裁剪,该公司表示,这“减少了我们对……机器学习我们认为,使用我们产品的人才能最好地发挥这种功能。”
现在,Twitter正在挑战DefCon AI村的参与者,让他们在相同的算法中找到类似的问题。该公司表示,“通过这一挑战,我们的目标是为推特和行业树立一个先例,以主动和集体地识别算法危害。”
参与者被要求检查推特的图像裁剪算法及其所依赖的代码,以努力“证明这种算法可能会带来什么潜在危害”,并可能在此过程中影响“从推特用户到客户或推特本身的任何人”。
该项目将为5个获奖团队提供500至3500美元的现金奖励,他们将在8月6日展示自己的作品。有关该计划的更多信息可通过HackerOne(在新窗口打开).
What's New Now<\/strong> to get our top stories delivered to your inbox every morning.","first_published_at":"2021-09-30T21:30:40.000000Z","published_at":"2022-08-31T18:35:24.000000Z","last_published_at":"2022-08-31T18:35:20.000000Z","created_at":null,"updated_at":"2022-08-31T18:35:24.000000Z"})" x-show="showEmailSignUp()" class="rounded bg-gray-lightest text-center md:px-32 md:py-8 p-4 mt-8 container-xs">