deepfake模拟器的出现在本周ElevenLabs显然是看到公司看到一个滥用案例的数量激增的人工智能工具。

而不是使用娱乐,一些用户推向极端。模型现在据报道,被一些人产生同性恋,种族主义者,和处于内容。

滥用案件Deepfake声音模拟器

根据一份报告Gizmodo,ElevenLabs首次推出在βAI平台1月23日。今年早些时候。该公司宣布将推出'声音AI。

过了一段时间,该公司了解到更多用户滥用deepfake声音模拟器。

在推特,它看见一个激增的误用例人工智能工具,允许用户模仿他们喜欢的明星的声音。

疯狂的周末,谢谢你每个人都尝试我们的测试平台。当我们看到我们的绝大多数科技被应用万博体育登录首页到积极的使用,我们也看到越来越多的声音克隆滥用情况。我们想要接触到Twitter社区的想法和反馈!

- ElevenLabs (@elevenlabsio)2023年1月30日

事实证明,有一个巨大的事件AI的使用在4 chan,。在另一份报告主板,一些用户发布的视频AI-generated声音,这声音几乎类似于一个演员的声音。

不道德的'声音AI的使用

有很多声音录音,似乎一模一样的艾玛·沃森。虽然很有趣听到声音从别人的这种相同的质量我们不知道,有些不道德使用AI平台对自己的好。

根据瘾科技,人利用deepfake声音模拟器惹恼其他用户的通道。

特别是,他们使用'声音AI说同性恋或种族主义言论的人。

虽然ElevenLab认为许多用户滥用他们的测试平台,目前尚未披露如果所有的音频剪辑4 chan上公司的人工智能语音工具来使用。然而,广泛收集的这些文件包含一个链接引导ElevenLabs的平台。

相关文章:中国监管机构提出规则来打击Deepfakes,想促进社会主义价值观

ElevenLabs想解决这个问题

为了防止人工智能平台的广泛滥用,ElevenLabs决定收集来自用户的一些反馈关于其deepfake声音的软件。

该公司想要开发一个解决方案,将阻止用户利用其人工智能平台。因此,它可以提高用户的账户验证限制可能的人可以用声音模拟器。

此外,他们可以要求人们添加ID或任何银行信息之前,他们可以利用人工智能工具。

也是很重要的对于ElevenLabs要求他们的样本克隆请求的声音他们想复制。

毫无疑问,deepfake技术可以使用或滥用在某种程度上。万博体育登录首页的力量仍然是负面的公司来限制用户使用该软件。

读也:DetectGPT可以知道学生们使用ChatGPT作业