(来源:Getty Images/DrPixel/Moment)
在其语音克隆平台开放一周后，人工智能语音初创公司ElevenLabs表示，由于“越来越多的语音克隆滥用案例”，他们可能需要重新考虑这种开放。
该公司于2022年由前谷歌机器学习工程师Piotr Dabkowski和前palantir部署策略师Mati Staniszewski在推特上解决了这个问题Vice发现剪辑(在新窗口打开)在4chan上出现了一些听起来像是自动生成的名人声音，发表了一些可疑的言论。例如，其中一个似乎是演员艾玛·沃特森在朗读我的奋斗；其他还包括来自媒体人士的恐同、恐变性、暴力和种族主义情绪乔·罗根还有本·夏皮罗。
虽然尚不清楚4chan上的哪些视频是使用ElevenLabs测试版制作的，但其中一个帖子包含了Prime Voice AI的链接，这表明可能使用了该公司的软件。
“虽然我们看到我们的技术被广泛应用于积极用途，但我们也看到越来越多的语音克隆滥用案例。我们希望通过实施额外的保障措施来解决这个问题，”该公司在信中写道周一的Twitter帖子(在新窗口打开)该公司提出了一些想法，比如取消用于创造新声音的Voice Lab平台，转而手动验证每个克隆请求。
该公司鼓励人们在Twitter上回复，或直接向公司发送自己的想法。根据公众的反应，许多人(他们似乎并不受制于公司律师)认为ElevenLabs应该把谨慎抛到脑后，什么都不做。“声音只是一个频率范围，”一位人士表示。另一位用户写道:“考虑什么都不做，直到收到勒令停止通知之类的通知。”有几家公司试探性地支持付费服务。
ElevenLabs提供“语音合成”和“语音克隆”两种服务，后者的结果是清晰的样本录音，长度超过一分钟。与此同时，据称“专业克隆”可以复制任何口音，用于时事通讯、书籍和视频。beplay体育苹果下载
类似的自动化进步以前导致了劳动生产率的上升deepfake视频(具体地说:色情)．尽管ElevenLabs开发其软件的目标是“即时转换语言之间的语音音频”，但总会有人滥用它。
