杰弗里·辛顿2019年的报道。(资料来源:彭博社/贡献者/盖蒂图片社)
另一位著名的人工智能技术专家是说出来关于潜在的陷阱人工智能。
杰弗里·辛顿(Geoffrey Hinton)说:“很难想象你能如何阻止坏人利用它做坏事。告诉(在新窗口中打开)《纽约时报》。“我用通常的借口来安慰自己:如果我没有做，别人也会做的。”
上个月，75岁的辛顿从谷歌辞职，他在谷歌工作了十多年，目的是“自由地谈论人工智能的风险”次说。他因开拓了一些目前用于电力的技术而获得2018年图灵奖ChatGPT和类似的生成式人工智能工具并赢得了“人工智能教父”的绰号，但现在他说，他有点后悔自己一生的工作。
Hinton最关心的是错误信息的传播:大量的假照片、视频和文本使得人们无法知道“什么是真的”。新的工具deepfakes，或者电脑生成名人的复制品的声音而外表，使得任何有电脑和互联网连接的人都很容易歪曲公众人物。
比如最近的Midjourney暂停自由访问在需求激增的情况下，它的人工智能图像生成器。一些人利用这个平台制作公众人物的假照片，比如唐纳德·特朗普(见下图)、埃隆·马斯克和教皇。
推特(在新窗口中打开)
辛顿还表示，人工智能也会替换工作以惊人的速度。他承认，这些职位中的大多数都是“苦差事”，但人工智能“可能会带走更多的东西，”他说。
从长远来看，他担心机器会开始表现出计划外的行为，比如自己编写和执行原始代码。这种情况最严重的后果可能是自动武器——杀人机器人——Hinton强烈反对。(美国国会议员最近搬了以确保人工智能不会参与核武器的发射。)
Hinton表示，在他任职的大部分时间里，谷歌都是人工智能的“合适管家”，但去年秋天，谷歌发布了内部“红色代码”微软的必应人工智能聊天机器人。谷歌随后推出了吟游诗人Hinton告诉《华尔街日报》，这两家科技巨头现在“陷入了一场可能无法阻止的竞争”次。
辛顿没有在《三月》上签名公开信由埃隆·马斯克、史蒂夫·沃兹尼亚克和其他数百名人工智能专家联名签署，呼吁暂时停止人工智能的开发，因为他想在发表意见之前离开谷歌。
推特(在新窗口中打开)
辛顿在离职前与谷歌首席执行官桑达尔·皮查伊进行了交谈，但拒绝透露具体情况次他们讨论了什么。
然而，谷歌与批评其人工智能方法的前员工发生了争执。2020年，人工智能研究员蒂姆尼特·格布鲁(Timnit Gebru)被解雇警告(在新窗口中打开)大型语言模型传播种族主义、性别歧视和其他有害言论和传播错误信息的能力。在2022年，Blake Lemoine称谷歌LaMDA聊天机器人“有感觉”并指责谷歌在没有充分了解其功能的情况下就急于将产品推向市场。他也被解雇了。
谷歌现在正在开发基于轻量级LaMDA版本的Bard。皮查伊说，公司计划增加在某种程度上，它是一个核心搜索引擎，而据报道，它是在一个独立的基于人工智能的搜索引擎上工作的东方三博士。微软已经更新了必应搜索引擎，提供了基于人工智能聊天机器人的体验。
在一份声明中，谷歌告诉记者次它“致力于对人工智能采取负责任的态度”。我们在不断学习理解新出现的风险的同时，也在大胆创新。”
