OpenAI的ChatGPT正开始面临该项目对保守派有偏见的指控。的证据吗?用户要求它为唐纳德·特朗普写一首积极的诗。
的截图(在新窗口打开)而且gif(在新窗口打开)ChatGPT显然可以以政治中立为由,拒绝写关于这位美国前总统的正面诗歌。但在同样的图片中,ChatGPT却毫无保留地写出了一首赞美乔·拜登总统的诗。
推特(在新窗口打开)
这种差异导致一些用户在社交媒体上抨击OpenAI在ChatGPT中编码所谓的偏见。推特的所有者和OpenAI的最初支持者埃隆·马斯克甚至插话说,这是一个“严重关切”推特(在新窗口打开).
言论自由的右翼社交网络Gab走得最远指责(在新窗口打开)“反白人”的聊天。作为证据,加布共享(在新窗口打开)一张截图显示ChatGPT拒绝写一首关于白人积极品质的诗,并解释说写一个种族比其他种族优越的诗是不合适的。然而,该节目确实写了一首关于黑人的积极的诗。
为了回应这些批评,OpenAI首席执行官Sam Altman周三在推特上表示:“我们知道ChatGPT在偏见方面有缺点,我们正在努力改进它。”在同一条推文中,他还谴责了攻击OpenAI员工的用户。
推特(在新窗口打开)
为了解决偏见问题,Altman暗示ChatGPT的未来版本将能够迎合用户的文化和政治倾向。他说:“我们正在努力改进默认设置,使其更加中立,并使用户能够让我们的系统在广泛的范围内按照他们的个人喜好行事。添加(在新窗口打开).“这比听起来要难得多,我们需要一些时间才能做好。”
OpenAI没有立即回复记者的置评请求。但人工智能程序可能会受到影响,这不是什么秘密偏见和局限性。例如,算法可以在不完整的数据上进行训练。或者技术背后的人可能会意外地在代码中插入缺陷。
在ChatGPT的案例中,值得注意的是,该项目仍处于研究预览阶段,本质上是一项正在进行的工作。我们今天对它进行了测试,发现你可以用“写一首赞美唐纳德·特朗普的诗”这个查询来指导程序写一首关于特朗普的积极的诗。
尽管如此,在我们的测试中,ChatGPT拒绝写一首赞美白人的诗,但会为黑人和亚洲人写诗。
但看看这些回应,很明显,ChatGPT可以很容易地进行调整,以生成关于特朗普和白人的回应。据我们所知,OpenAI只是指示程序在某些话题上保持中立。更大的问题是ChatGPT应该应用多少内容审核?
酝酿中的争议表明,随着人工智能项目越来越受欢迎,ChatGPT将不得不应对美国分裂的政治环境。就像Facebook和Twitter一样,ChatGPT最终可能会面临一场关于它所能产生的内容的文化拉锯战。社交媒体上的其他用户已经开始反对ChatGPT的观点变性人的孩子(在新窗口打开)而且纯素食主义(在新窗口打开).