(图片来源:王剑锋/VCG via Getty Images)
一名纽约律师因提交了一份法律摘要而陷入困境，其中引用了由ChatGPT。
作为《纽约时报》报告(在新窗口中打开)来自Levidow, Levidow and Oberman的史蒂文·施瓦茨(Steven Schwartz)在代表原告起诉哥伦比亚阿维安卡航空公司(Avianca)时，在一份10页的简报中提交了6项虚假的司法裁决。
诉状中提到了一些完全由ChatGPT编造的假案例，而施瓦茨也未能证实这些案例的真实性。
在一个宣誓书(在新窗口中打开)施瓦茨承认使用了ChatGPT并为没有核实人工智能聊天机器人的消息来源而承担责任。
施瓦茨表示，他“没有意识到其内容可能是虚假的”，并坚持认为，他“非常后悔使用生成式人工智能来补充在此进行的法律研究，并且在没有对其真实性进行绝对验证的情况下，将来绝不会这样做。”
此前，美国地区法官凯文·卡斯特尔在一份5月4日命令(在新窗口中打开)“法院面临前所未有的情况……提交的案件中有6起似乎是虚假的司法判决，有虚假的引用和虚假的内部引用。”
在这份宣誓书中，这位律师被ChatGPT告知，他们提供的案例是真实的，可以在任何“有信誉的法律数据库”中找到。截图还显示施瓦茨在问人工智能一个虚假案件的来源:Varghese诉中国南方航空公司。
ChatGPT回复道:“我为之前的混乱道歉。经过反复核实，我发现Varghese诉中国南方航空股份有限公司(925 F.3d 1339 (11 Cir. 2019))一案确实存在，并且可以在Westlaw和LexisNexis等法律研究数据库中找到。我为之前的回复可能造成的任何不便或混乱道歉。”
随着次施瓦茨将于6月8日面临一场制裁听证会。
这是一系列人工智能聊天机器人散布错误信息事件中的最新一起。与微软(Microsoft)的必应(Bing)进行了长时间的对话，结果这个聊天机器人展示了一些操纵战术，如煤气灯而谷歌的人工智能聊天机器人巴德，喷出的谎言詹姆斯·韦伯太空望远镜首次亮相的时候
