泰勒斯威夫特的深伪色情影片并不是什么新鲜事，但这并不意味著我们不应该感到担忧。

.png?width=48&height=48&name=image%20(3).png) ](https://blog.avast.com/author/emma-mcgowan) 2024年1月30日

随著 AI 生成的泰勒·斯威夫特色情图像在 X（前身为 Twitter）上迅速走红，我们不禁要问：这对 AI 的未来意味著什么？

近日，AI生成的在 X 平台上引发了广泛关注，突显了 AI 技术的阴暗面。这些图片据信是使用 Microsoft Designer 创建的，并且引发了对 AI 生成假色情内容的日益挑战。

随著这些图片迅速传播，事件不仅引发了粉丝和隐私权倡导者的愤怒，也提出了有关 AI 在媒体创造中伦理使用的关键问题。

Avast 威胁情报总监米哈尔·萨拉特（MichalSalát）在这一时刻的讨论中带来了丰富的知识和专业见解。他对科技、安全与伦理的交集有著敏锐的洞察力，提供了对 AI 生成内容影响的深刻见解。

在接下来的部分中，我们将深入探讨他的见解，探索图像操纵的历史平行、AI 能力所带来的伦理困境，以及在日益 AI 驱动的世界中对数字信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将当前 AI 生成逼真图像的能力与过去的 Photoshop 使用进行了对比。正如 Photoshop 多年前彻底改变了图像操纵，现在 AI使得创建真实图像变得更加简单。然而，操纵图像的概念并不新鲜；AI 只是这场持续斗争中的最新工具。

“某种程度上，这只是另一种照片编辑软件，”他解释道，强调操纵图像的概念已经困扰了我们十多年。现在的关键区别在于 AI技术带来的便利性和可及性。这种转变引发了关于社会如何适应和规范这些使得生成真实图像变得更加容易的新工具的重大问题。

其中一个最迫切的问题是使用 AI生成露骨图像的伦理影响，特别是在未经特定个人同意的情况下。虽然生成一般的裸体图片可能不会引发太多伦理疑虑，但真正的问题在于轻易地创建可辨识人物的露骨图像。

“AI 生成的色情内容本身可能不会有固有的伦理问题，”萨拉特说。“但对我来说，伦理问题在于你可以相对容易地生成带有已知或特定面孔的图像。”

这种能力超越了像泰勒·斯威夫特这样的名人，可能适用于任何人，突显了对伦理指导和立法的需求：虽然所谓的“报复色情”（或非自愿分享裸体）在 48个州是，但 AI生成的深度伪造色情作品目前

或许因为生成 AI 的接入相对较新，目前对创建未经当事人同意的露骨内容的规范相对较少。然而，根据萨拉特的说法，对 AI公司来说，实施这些规范并不会非常困难：例如不允许生成特定人物的图像或不使用客户提交的图片作为素材，将为绝大多数人提供足够的障碍。

“当然，某些人将能够突破这些限制，强迫模型做它不应该做的事情，”萨拉特说。“从我来看，目前几乎无法完全避免这种情况——你只能让它变得更困难。我想提出的观点是，提供这些服务的公司应该更努力地避免这种情况。”

还存在可能有人创建没有任何限制的成人视频生成模型的可能性。不过，萨拉特指出，即使这样做是可能的，但需要大量的技术知识和计算能力。

“能够自己创建一个 AI 来生成裸体的人并不多，”萨拉特表示。“所以，这将更像是使用 Photoshop，你需要具备一定的技能才能做到这一点。”

萨拉特将当前的 AI 发展情况与安全行业的演变进行了比较。他观察到，我们正见证这个安全行业“以 AI 开始重新出发”。这种比较强调了将 AI开发视为一个持续过程的重要性，其中识别和修复漏洞是技术成熟的关键。

泰勒·斯威夫特在 X 上的 AI 生成图像强调了负责任使用 AI 的重要性。随著 AI的不断进步，在科技能力与伦理考虑及安全措施之间取得平衡将至关重要。通过向专家如米哈尔·萨拉特学习并反思过去的挑战，我们可以以更有知识和更谨慎的方式导航这一复杂的风景。