你现在可以从ChatGPT通过发现流行聊天机器人程序中的漏洞,开发了OpenAI。该公司今天宣布了一项漏洞赏金计划,向报告OpenAI系统安全漏洞的人提供现金奖励。
“我们的奖励范围从对低严重性发现的200美元到对特殊发现的20,000美元不等,”OpenAI说说(在新窗口中打开).该项目正在bug赏金平台Bugcrowd上运行。
然而,OpenAI不会接受ChatGPT的越狱或旨在欺骗AI程序违反其自身规则的文本提示。自从ChatGPT首次出现以来,用户已经找到了各种方法越狱(在新窗口中打开)聊天机器人可以发布脏话,写被禁的政治话题,甚至创作恶意软件.
漏洞赏金计划也不会接受生成ChatGPT的报告不正确的事实OpenAI表示:“模型安全问题并不适合漏洞赏金计划,因为它们不是可以直接修复的单个、离散的漏洞。”“解决这些问题通常需要大量的研究和更广泛的方法。(用户可以使用单独的表格(在新窗口中打开).)
相反,OpenAI的漏洞赏金程序(在新窗口中打开)专注于公司网络域和api中与用户隐私和网络安全有关的缺陷。上个月,OpenAI为一个短暂导致ChatGPT的bug道歉泄漏一些用户的付款细节和聊天记录。
该公司的漏洞赏金计划承诺帮助OpenAI发现ChatGPT处理用户数据的类似弱点,ChatGPT已经开始包括第三方通过ChatGPT访问API和插件存储.
此外,该程序的范围还允许用户发现涉及OpenAI通过第三方供应商泄露数据的错误,或发现在互联网上流通的暴露的API密钥。
然而,OpenAI的漏洞赏金计划有一个条件,要求参与者“在获得OpenAI安全团队授权发布之前,对漏洞细节保密”。奖励金额也明显低于其他公司的漏洞奖励计划,例如苹果(在新窗口中打开)该公司可以为最严重的漏洞支付200万美元。