(图片来源:Jakub Porzycki/NurPhoto via Getty Image)
感觉ChatGPT答案太平淡了?该程序的创建者OpenAI正在进行升级，可以让这个受欢迎的聊天机器人更具个性和争议性。
这家旧金山公司在一份声明中表示:“我们认为，人工智能应该是个人的有用工具，因此每个用户都可以在社会规定的限度内进行定制。博客(在新窗口打开)。
OpenAI提到了即将进行的升级，以解决ChatGPT在政治和文化敏感话题上存在偏见的担忧。这包括用户显示ChatGPT将写入积极的诗关于现任美国总统乔·拜登，而不是他的共和党对手唐纳德·特朗普。
为了解决偏见问题，OpenAI正在进行升级，使ChatGPT能够更自由地响应用户的查询。该公司表示:“这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。”
这一消息已经引发了人们的担忧，即可定制的ChatGPT最终可能会促进有争议的意识形态，或在美国的文化战争中偏袒任何一方。
“我们希望OpenAI向公众开放他们的温和政策，并遵守这些政策，集中受损社区的声音，努力防止伤害。相反，他们似乎正在做完全相反的事情。”在推特上(在新窗口打开)Liz O 'Sullivan是国家人工智能咨询委员会的成员。
不过，自定义升级仍将包含护栏，以阻止ChatGPT从事潜在的恶意行为。OpenAI还希望防止聊天机器人成为“阿谀奉承”的人工智能，“盲目地放大人们现有的信念”。
“因此，系统行为总会有一些界限。挑战在于界定这些界限是什么。”“如果我们试图自己做出所有这些决定，或者如果我们试图开发一个单一的、整体的人工智能系统，我们将未能履行我们在宪章中做出的‘避免权力过度集中’的承诺。”
因此，OpenAI计划就如何引导ChatGPT的发展听取公众的意见。结果可能会产生几个版本的ChatGPT共存，正如该公司的一个图表所示。
但现在，努力聚集公共输入保持在早期阶段。该公司补充说:“我们还在探索与外部组织合作，对我们的安全和政策工作进行第三方审计。”
OpenAI的博客文章也试图提供一些透明度，解释为什么ChatGPT会在敏感的政治话题和文化问题上有一些偏见。这种行为不是故意的。与数据库不同的是，数据库可以生成统一的答案，ChatGPT的操作方式是大型语言模型接受过互联网数据库培训，包括新闻文章、书籍和社交媒体帖子。然后，它将尝试对每个查询自动完成一个类似人类的回答。
该公司表示:“由于我们无法预测未来用户可能输入到我们系统中的所有可能输入，因此我们不会为ChatGPT将遇到的每个输入编写详细的说明。”“相反，我们在指导方针中概述了一些类别，我们的(人工)beplay3体育app手机版审稿人用于审查和评估一系列示例输入的可能模型输出。”
人工评审员的目标是对ChatGPT进行微调，以对特定问题生成更准确的回答。然而，该公司表示，微调过程仍然“不完善”，因为ChatGPT可以“归纳”人工审稿人的反馈，并将其应用于用户提出的广泛问题。
OpenAI补充说:“为此，我们正在投资研究和工程，以减少ChatGPT对不同输入的响应方式中明显和微妙的偏见。”在某些情况下，ChatGPT目前拒绝了它不应该拒绝的输出，在某些情况下，它在应该拒绝的时候不拒绝。我们相信，这两个方面的改善都是可能的。”
为了提高透明度，该公司发布了一份三页的快照的指导方针(在新窗口打开)OpenAI已经向人类评审员提供了如何微调ChatGPT的信息。“我们的指导方针明确规定，审查人员不应偏袒任何政治团体。尽管如此，上述过程中可能出现的偏差是错误，而不是功能。”
OpenAI还计划发布用于优化ChatGPT的人工审查员的汇总人口统计数据。
