泰勒斯威夫特的假冒色情影片并不是什么新鲜事但这并不代表我们不应该感到担忧。

EmmaMcGowan 2024年1月30日

随著AI生成的关于泰勒斯威夫特的色情图片在X平台上迅速传播，我们不禁要问：这对未来的AI意味著什么？

最近，一些AI生成的泰勒斯威夫特的露骨图片在X前称Twitter上疯传，揭示了AI能力的阴暗一面。这些图像被认为是使用Microsoft Designer创建的，吸引了广泛关注，也突显出AI生成假色情内容日益增长的挑战。

在这些图片迅速扩散的同时，这一事件不仅激起了粉丝和隐私维护者的愤慨，还引发了关于AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈伊萨拉特Michal Salt在这一重要讨论中提供了丰富的知识和专业见解。关注科技、安全和伦理交集的他，对AI生成内容的影响提供了深刻的视角。

接下来的部分，我们将深入探讨他的见解，探索图像操控的历史平行、AI能力所带来的伦理困境，以及在日益由AI驱动的世界中对数字信任和安全的广泛影响。

虚假色情并不是新问题

萨拉特将当前AI生成逼真图像的能力与过去使用Photoshop的情况进行比较。就像Photoshop在几十年前彻底改变了图像处理，现在AI使创建现实图像变得更为简便。然而，操控图像的概念并不是新鲜事；AI只是这场持续闹剧中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释说，强调操控图像的概念已经引起人们关注十多年了。当前的关键区别在于，AI技术带来的便利性和可及性。这一转变引发了关于社会如何适应和规管这些新工具的重要问题，因为这些工具使得创造现实图像变得前所未有的简单。

AI和露骨内容的伦理困境

其中一个最紧迫的问题是使用AI生成露骨图像的伦理影响，特别是对特定个体的未经同意的情况。尽管生成一般的裸体图片可能不会引发太多的伦理问题，但当涉及到轻易地创建可识别的个人露骨图片时，真实的问题就出现了。

“对于我来说，AI生成A片本身并没有什么不妥或伦理上有问题，”萨拉特表示。“但伦理问题在于，你可以相对轻松地生成一张带有已知或特定面孔的图像。”

这一能力不仅限于泰勒斯威夫特等名人，也可能涉及到任何人，强调了确立伦理准则和立法的必要性。虽然所谓的“报复色情”或非自愿分享的裸体照片在48个州是非法的，但AI生成的深伪色情目前仅在10个州被禁。这一明显差距突显了立法需要跟上技术的步伐。

AI公司如何防止深伪色情的生成？

也许因为接触生成AI仍然是一个相对于新的现象，因此在没有主体同意的情况下制作露骨内容的保障措施仍然很少。然而，萨拉特认为，对于AI公司来说，实施这些保障措施并不会太困难：例如，防止生成特定人像的图像或不使用客户提交的图像作为素材，将为大多数人提供充分的障碍。

“当然，有些人会打破这些限制，迫使模型做一些它不应该做的事情，”萨拉特说。“就我来看，眼下几乎不可能完全避免这种情况你只能让它变得更困难。我想表达的重点是，提供这些服务的公司应该更加努力地防范这些情况。”

也有可能会有人创建自己的无限制的色情生成模型。然而，萨拉特指出，即使这样做是可能的，也需要大量的技术知识和大量的计算能力。

“能够自己创建生成裸体图片的AI的人并不多，”萨拉特表示。“所以，这会更像是在使用Photoshop，你需要具备一定的技能才能做到。”

萨拉特将当前AI发展的状态与安全行业的演变进行了比较。他观察到我们正目睹著安全行业“在AI中重新开始。”这一比较突显了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修补漏洞是技术成熟的关键。

在X平台上出现的泰勒斯威夫特AI生成图片强调了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量和安全措施将至关重要。通过向像米哈伊萨拉特这样的专家学习并反思过去的挑战，我们可以以更有见地和谨慎的方式在这一复杂的领域中航行。