埃隆·马斯克正在反击ChatGPT的他表示,人工智能程序对主流公众使用并不安全,因为它可能会散布谎言和所谓的宣传。
“我们需要的是TruthGPT,”他说在推特上(在新窗口打开)周五。
在推特上,马斯克一直在指责ChatGPT的缺陷集成进入微软的必应搜索引擎,以增强用户体验。“同意!这显然还不安全。写了(在新窗口打开)这是对一条呼吁微软关闭的推文的回应ChatGPT在必应.
推特(在新窗口打开)
这种交流可能有点讽刺,因为最初的推文来自一个网络人物,他并不完全是他以诚实著称(在新窗口打开).推特作为一个平台和麝香自己也曾被指责喷口水错误信息.
尽管如此,ChatGPT显然是一个强大的工具;它可以撰写完整的文章,总结复杂的主题,甚至仅使用用户的文本提示就可以生成计算机代码。但最近几天,社交媒体用户发布了大量人工智能程序可能犯的各种错误的例子。这包括发布事实错误,成为情感上的,拒绝在回答其他政治敏感话题的同时回应一些政治敏感话题。
这些缺陷促使马斯克多次抨击ChatGPT,包括嘲笑(在新窗口打开)人工智能程序是可以取代主流媒体的宣传机器。
推特(在新窗口打开)
此外,他还一直在批评ChatGPT的创造者OpenAI,这是一家旧金山公司,马斯克之前参与创办了这家公司切的关系(在新窗口打开)在2018年。
“OpenAI是作为一个开源(这就是为什么我把它命名为‘开放’AI)的非盈利公司创建的,旨在与谷歌抗衡,但现在它实际上已经成为一个闭源、利润最大化的公司控制微软,”马斯克在推特上(在新窗口打开)今天。“这根本不是我的本意。”
OpenAI本周承认,其“微调”ChatGPT的过程是“不完美的”。
“有时微调过程达不到我们的目的(产生一个安全有用的工具)和用户的目的(在给定输入的响应中获得有用的输出),”OpenAI说说(在新窗口打开).“改进我们将人工智能系统与人类价值观相匹配的方法是首要任务优先级(在新窗口打开)特别是在人工智能系统变得更强大的情况下。”
马斯克的批评立场并不令人意外。多年来,他一直在为人工智能的危险敲响警钟。早在2014年,他说:“有了人工智能,我们正在召唤恶魔。”同年,他在推特上(在新窗口打开)人工智能可能“比核武器更危险”。
本周早些时候,马斯克表示,政府是时候进行干预了。“坦率地说,我认为我们需要监管人工智能的安全,”他在迪拜举行的世界政府峰会上表示。“我认为我们应该对人工智能进行类似的监管,因为我认为它对社会的风险比汽车、飞机或药物更大。”
(说到汽车,马斯克还担任特斯拉的首席执行官自愿召回本周对362,758辆汽车进行了测试,原因是该公司对自己的人工智能进行了beta软件更新,该公司表示,这可能会导致车辆违反当地交通法规,增加事故风险。)
随着企业向全球更多用户推出人工智能聊天机器人,要求监管的呼声可能会上升。但与此同时,有迹象表明,OpenAI和微软都在考虑公众的反馈,对ChatGPT进行调整。
在OpenAI的案例中,该公司正在准备一项升级允许用户自定义ChatGPT,以解决其在某些敏感话题上的偏见。该公司表示:“这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。”
另一方面,微软正在考虑增加更多的护栏,以控制由chatgpt支持的必应发出的令人毛骨悚然的回复,根据(在新窗口打开)来《纽约时报》.这包括限制对话长度,这有时会让必应混淆,做出奇怪的回答。