泰勒斯威夫特的深度伪造色情影片并不新鲜但这并不意味著我们不需要关注。
Emma McGowan 2024年1月30日
随著AI生成的泰勒斯威夫特色情图片在X平台上引发热潮，我们不禁要问：这对AI的未来意味著什么？
近期发生了一件令人不安的事件，AI生成的知名歌手泰勒斯威夫特的露骨图片在X前身为Twitter上迅速传播，揭示了AI能力的阴暗面。这些图片据信是用微软设计工具创建的，并引起了广泛关注，突显了不断增长的AI生成假色情问题。
随著这些图片迅速在平台上散布，事件不仅激起了粉丝和隐私倡导者的愤怒，还提出了有关AI在媒体创作中伦理使用的关键问题。
Avast威胁情报总监米哈尔萨拉特提供了他对于这一时刻讨论的深厚知识和专业经验。他关注科技、安全与伦理的交集，并对AI生成内容的影响提供了深刻的见解。
接下来的部分，我们将深入探讨他的见解，研究图像操控的历史平行、AI能力带来的伦理困境，以及在日益依赖AI的社会中，对数位信任与安全的更广泛影响。
假色情并不是新问题
萨拉特将当前AI生成逼真图像的能力与过去Photoshop的使用进行了比较。正如Photoshop几年前彻底改变了图像操控，AI现在也使创建真实图片变得 significantly easier。然而，操控图片的概念并不新颖；AI只是这一持续故事中的最新工具。
“这就像是一种不同的照片编辑软体，”他解释说，强调操控图片的概念已经关注超过十年。现在的关键区别在于，AI技术带来的便利性和可获得性。这一变化引发了有关社会如何适应并规范这些新工具的重要问题，这些工具让创建逼真图像比以往任何时候都更容易。
梯子npv加速AI与露骨内容的伦理困境
最迫切的担忧之一是使用AI生成露骨图片的伦理意涵，尤其是在未经特定个人同意的情况下。尽管生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于生成可辨识人物的露骨图片的便利性。
“AI生成的色情本身或许没有什么本质上错误或伦理上的问题，”萨拉特表示。“但对我来说，伦理问题在于，您可以相对容易地生成带有已知或特定面孔的图片。”
这一能力不仅限于像泰勒斯威夫特这样的名人，还可能涉及任何人，强调拟定伦理准则和立法的必要性：所谓的“报复色情”或非自愿分享裸照在48个州是非法的，而AI生成的深伪色情目前仅在10个州被禁止。这一显著差异凸显了立法需要赶上技术的需求。
AI公司如何防止深伪色情的生成？
或许因为生成性AI的使用仍然是相对较新的现象，关于在未经授权的情况下创建露骨内容的限制措施仍然不多。然而，萨拉特认为，对AI公司来说，实施这些措施并不会太困难：只需简单地不允许生成特定人物的图片，或不使用客户提交的图片作为素材，就能为大多数人提供足够的限制。
“当然，有些人能够打破限制，强迫模型执行不应该做的事情，”萨拉特表示。“在我看来，目前这几乎不可能完全避免你只能让它变得更难。我想要表达的就是，提供这些服务的公司应该更加努力地避免这种情况。”
此外，还有可能有人创建自己的色情生成模型，并不受任何限制。然而，萨拉特指出，尽管这是可能的，但需要大量的技术知识和计算能力。
“并不是很多人能够自己创建一个生成裸体的AI，”萨拉特说。“所以，这会更像是使用Photoshop，你需要具备一定的技能才能做到。”
萨拉特将当前AI发展的状态与安全行业的演变相提并论。他观察到，我们正在见证安全行业“随著AI重新开始”。这一比较突显了将AI发展视为持续过程的重要性，识别和修复漏洞是技术成熟的关键。
在X平台上出现的泰勒斯威夫特AI生成图片强调了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量及安全措施将是至关重要的。通过向像米哈尔萨拉特这样的专家学习，并反思过去遇到的挑战，我们可以用更明智和谨慎的方式来导航这一复杂的领域。