一长串人工智能科学家、工程师和其他知名人士签署了一份声明,警告人工智能带来的紧迫风险人工智能,包括灭绝。
的人工智能风险声明(在新窗口中打开)发表在人工智能安全中心(CAIS)网站上的一份报告认为,“减轻人工智能造成的灭绝风险应该与流行病和核战争等其他社会规模的风险一样,成为全球的优先事项。”
这样的说法很容易被视为夸张,但如果你仔细看看那些在这句话上签名的专家和知名人士的名单,你就很难不把它当真。这些签名包括戴米斯·哈萨比斯(谷歌Deepmind首席执行官)、萨姆·奥特曼(OpenAI首席执行官)和达里奥·阿莫代伊(Anthropic首席执行官)。
上榜的还有:人工智能先驱、图灵奖得主杰弗里·辛顿最近从谷歌辞职以便“自由地谈论人工智能的风险”。
随着专家和知名人士(高管、教授、领导人)被鼓励在他们同意的情况下签名,签名名单继续扩大。在撰写本文时,有超过120个签名,包括关键人物,如Peter Norvig(在新窗口中打开),Bruce Schneier(在新窗口中打开)以及来自DeepMind、OpenAI和大量专注于人工智能的公司和大学的多家公司。
CAIS的存在是为了“减少人工智能带来的社会规模风险”,并认为“人工智能安全仍然被严重忽视”,而社会“没有准备好管理人工智能带来的风险”。考虑到这一点,CAIS正在创建一个研究生态系统,并为行业领导者和政策制定者提供建议,以建立“安全和负责任的人工智能部署”的指导方针。
上周,微软呼吁美国和其他国家建立政府机构致力于规范人工智能。OpenAI的山姆·奥特曼在本月早些时候的国会听证会上也要求监管,而关键技术人员则有一些监管担心人工智能对人类意味着什么。与此同时,大多数美国人都知道ChatGPT是,但是他们中很少有人真正使用它。