埃隆·马斯克、沃兹尼亚克等人推动实验室“暂停”人工智能系统的训练

开发更强大的人工智能的竞赛喜欢吗ChatGPT对人类文明构成威胁?包括埃隆·马斯克(Elon Musk)和史蒂夫·沃兹尼亚克(Steve Wozniak)在内的一群科技企业家和科学家都这么认为。

马斯克和沃兹尼亚克公开签署了一份协议公开信(在新窗口中打开)，敦促科技行业对人工智能的发展踩刹车，理由是该技术可能对社会造成破坏性后果。

“只有当我们确信强大的人工智能系统的影响是积极的，风险是可控的，我们才应该开发强大的人工智能系统，”这封信说。Pinterest的联合创始人埃文·夏普、前美国总统候选人安德鲁·王和著名作家尤瓦尔·诺亚·哈拉里也在信上签名。

这封信呼吁人工智能实验室“立即暂停至少6个月的人工智能系统训练。GPT-4OpenAI最新的大型语言模型可以产生类似人类的反应，并在几秒钟内完成诸如撰写文章和编写计算机代码等任务。

GPT-4已经为OpenAI的ChatGPT提供了动力，ChatGPT因其简化甚至自动化某些白领工作的能力而风靡全球。然而，这也引起了人们的担忧，即现有和未来的人工智能项目将会改变社会在工作远离人类，让坏人很容易脱身虚假信息在互联网上。

这封公开信表示，在进一步投入人工智能竞赛之前，社会是时候权衡和控制潜在后果了。“我们应该让机器充斥着宣传和不真实的信息渠道吗?”我们是否应该把所有的工作都自动化，包括那些令人满意的工作?信中问道。“我们应该冒险失去对文明的控制吗?”这种决定不能委托给未经选举的技术领导者。”

这封信还敦促人工智能实验室不仅要暂时停止他们的研究，而且要让暂停“公开和可验证”。

“如果这种暂停不能迅速实施，政府应该介入并实施暂停，”该文件补充说。

在暂停期间，人工智能实验室和独立专家应该聚集在一起，制定围绕人工智能开发的安全协议。“这些协议应该确保遵守这些协议的系统是安全的，不容置疑。这并不这意味着人工智能的总体发展暂停，只是从危险的竞赛中退一步，转向更大、更不可预测、具有应急能力的黑匣子模型。”

我们的编辑推荐

7个ChatGPT替代品准备好回答你迫切的问题

哪种人工智能聊天机器人能给出最好的答案?

革命还是毁灭?马斯克、盖茨和其他5位技术专家最担心的人工智能

这封公开信是由生命未来研究所(Future of Life Institute)主办的，该研究所致力于确保人工智能等技术能够和平发展，而不会造成社会混乱。这封信，任何人都可以签名，目前已经吸引了1123个签名。微软和bb0的几位工程师已经签署了协议。

OpenAI，微软和b谷歌，b谷歌正在开发它的吟游诗人艾他没有立即回复记者的置评请求。但这三家公司都表示，他们计划负责任地开发人工智能。

与此同时，一些批评人士认为，公开信夸大了人工智能技术带来的一些风险，而未能解决更现实的情况。这封公开信——具有讽刺意味但并不令人意外——进一步助长了人工智能的炒作，使解决已经发生的人工智能危害变得更加困难。我怀疑这将有利于它应该监管的公司，而不是社会。”在推特上(在新窗口中打开)普林斯顿大学计算机科学教授Arvind Narayanan说。

“当然，这将对劳动力产生影响，我们应该为此做好准备，但llm(大型语言模型)将很快取代专业人士的想法是无稽之谈，”他补充道。