《天际》模组社区因人工智能 Deepfake 色情而陷入战争

这 天际 模组社区目前也卷入了深度造假色情争议，其中流行的模组网站 NexusMods 和人工智能语音克隆技术是其中心。在贝塞斯达即将推出的太空史诗电影发布之前， 星空 ，并且相信游戏将成为模组社区的伊甸园，那些反对使用人工智能生成的色情模组的人强调监管此类内容的重要性，特别是在获得任何拥有生物数据的人的同意时用于创建 AI 模组。

阅读更多： Twitch 的 Deepfake 色情丑闻的后果

从那时起，插入角色、添加语音、通过改装改变外观都成为可能。 天际 其最初发布于 2011 年。Bethesda 的开放世界角色扮演游戏已经因成为色情内容的游乐场而臭名昭著，允许玩家按照自己认为合适的方式摆出姿势并为 NPC 着装。然而，人工智能技术的进步扩大了玩家导入游戏的能力。最近的模组（有几十个）使用 ElevenLabs 等公司的语音克隆技术来模仿现有的声音 天际 角色扮演模组制作者编写的脚本，使萨满弗雷亚和吟游诗人伊尔迪等角色愿意参与各种性接触。当然，虽然这些都是虚构的角色，但他们是由真实的人配音的——这就是问题所在。

这 天际 AI Deepfake 争议

许多色情语音模组还包含或链接到角色（几乎都是女性）的视觉大修模组，以使它们看起来更真实，或者在许多情况下，更丰满。

我见过其中一些正在运行的模组，它们肯定无法接近描绘真实的性接触——人工智能生成的声音的木线传递再次提醒人们，人工智能不能也不应该取代真人——但这并没有减少此类模组的存在问题。

罗比 (Robbie)，这位 Twitter 用户引起了人们对这些模组的关注（他本人就是 天际 modder），声称配音演员接触了 NexusMods，这是最大的游戏模组存储库，例如 天际， 能够删除与他们相关的内容。 唐泽 通过电子邮件要求确认，罗比发送了一个名为“瓦莱丽卡，母亲的欲望”模组的链接。

该模组最初表示“目前所有内容都是使用人工智能来配音的”。软件，我非常尊重配音演员。如果他们联系我并希望将其删除，因为它使用他们的声音作为基线，我会这样做并重新上传一个无声版本或使用听起来相似的语音样本的版本。”一份附录写道：“由于 Reddit 社区的行为，我不幸地不得不删除这个 Mod 的有声版本，以使其继续留在 Nexus 上。”

罗比声称，他自己和其他人联系了瓦莱里卡的配音演员辛迪·罗宾逊，让她注意到这个模组，而她说她会要求将其删除。 唐泽 联系罗宾逊征求意见，她证实他们亲自联系过。

NexusMods， 说在一个 2023 年 4 月声明 “人工智能生成的模组内容并不违反我们的规则，但如果我们收到受影响的创作者/权利持有者的可信投诉，可能会被删除。”这一立场已被证明是有争议的，特别是因为人工智能生成的模组目前在该网站上很活跃。 唐泽 联系 NexusMods 征求意见。

紧张的局势导致社区开始讨论接下来会发生什么。罗比写了一篇 Reddit 帖子中 天际 模组 Reddit 子版块 引起人们对色情模组的关注并主张将其删除——它很快就成为激烈争论的场所，然后被版主锁定。一些人抱怨说，原来的帖子“鼓励人们……攻击另一个网站”，违反了 Reddit 的服务条款，而另一些人则指出，人们认为对拼接“普通”语音线生成露骨内容的传统技术缺乏愤怒，以此为借口来消除当前的争议。

最初的帖子还引用了 ElevenLabs 的服务条款，据称该条款要求使用该软件的人获得“上传和克隆”语音样本的同意。 ElevenLabs 确实要求那些使用其语音克隆技术的人成为其服务的付费订阅者，以减少出于邪恶原因使用该技术 - 但很明显，这并没有阻止人们使用该技术来制作露骨内容。

ElevenLabs 的发言人表示 唐泽 通过电子邮件：

“A 二 用户在克隆语音之前必须确认他们拥有必要的权限和权限。如果这种性质的内容是在未经声音持有者明确许可的情况下创建的，则将违反我们的服务条款并可能违法。与开源平台不同，如果我们的服务条款被违反，我们可以将所有音频追溯到创建它的帐户并禁止该用户。我们还有一个公开的 语音分类器工具 它可以确认剪辑是否包含我们平台上生成的人工智能音频，从而使内容能够被报告和调查。”

配音演员在推特上表达了他们的愤怒、沮丧，在很多情况下还表达了厌恶。 阿烈子 演员本·迪斯金 (Ben Diskin) 在他的 Twitter 时间线上发布了一条推文，要求人们告诉他是否在此类网站上看到了他的声音。他写道：“未经我绝对、明确、具体和不可否认的同意，我不同意将我的声音变成合成声音克隆。” 暗黑破坏神4 配音演员瑞安·劳顿称这种做法“在各个层面上都是错误的”。

美国配音演员协会在推特上表示，“人工智能和合成声音对配音演员和游戏公司造成的损害是真实且有形的”，贝塞斯达和母工作室 ZeniMax 理应“提供帮助”，因为“配音演员没有法律能力”来对抗这个。”

天际 玩家和旁观者也纷纷插话，许多人对自己的声音被输入人工智能生成器、生成露骨内容表示厌恶。 “如果有人在未经我同意的情况下使用我的声音来制作人工智能生成的内容，我会非常生气。如果有人在未经我同意的情况下使用我的声音制作色情内容，我会立即报警，让那个人和任何托管该材料的网站他妈的被删除，”u/robbobert01 写道。

唐泽 联系贝塞斯达征求意见。

更新于 2023 年 7 月 5 日下午 4:55东部时间： 添加了有关在模组中删除人工智能生成的语音的信息。

更新于 2023 年 7 月 5 日下午 5:15东部时间： 添加了辛迪罗宾逊的确认。

更新于 2023 年 7 月 10 日下午 2:30东部时间： 添加了来自 ElevenLabs 的声明。