洛杉矶某中学惊现丑闻！多名学生的AI合成裸照在网上流传

学校中的新型欺凌是真实存在的。而伪造的是人脸下面的身体。

上周，贝弗利山（Beverly Hills）的贝弗利山维斯塔中学（Beverly Vista Middle School）的老师和家长们对网上流传的虚假图像感到震惊，这些图像将真实学生的脸放在人工生成的裸体上。

据贝弗利山联合学区（Beverly Hills Unified School District）称，这些图片是由该学区唯一一所六至八年级学校贝弗利维斯塔的其他学生制作和分享的。根据最新统计，该校约有 750 名在校生。

世界各地越来越多的教育机构在处理虚假图片、视频和音频，该学区也加入了调查行列。

在新泽西州的韦斯特菲尔德（Westfield, N.J）、西雅图（Seattle）、温尼伯（Winnipeg）、西班牙的阿尔门德拉雷霍（Almendralejo, Spain）和里约热内卢（Rio de Janeiro），人们使用“深度伪造”技术，将合法的女学生照片与人造或虚假的裸体照片无缝地结合在一起。

在德克萨斯州（Texas），据称有人对一名女教师做了同样的事情，将她的头嫁接到一个色情视频中的女人身上。

贝弗利山联合学区的官员表示，他们准备实施州法律允许的最严厉的纪律处分。他们在上周寄给家长的一份声明中说：“任何被发现制作、传播或拥有这种性质的人工智能生成图像的学生都将面临纪律处分，包括但不限于建议开除。”

然而，威慑可能是他们唯一能够做到的。

网上有数十种应用程序可以为照片中的人“脱衣服”，模拟一个人在拍照时全裸的样子。

旧金山 Deep Media 公司的创始人兼首席执行官里朱尔·古普塔（Rijul Gupta）说，这些应用程序使用人工智能图像绘制技术，来删除代表衣物的像素，用接近那个人裸体的图像来替换它们。

古普塔（Gupta）的公司专门检测人工智能生成的内容，他说，还有一些工具可以让你把目标人物的脸“换”到另一个人的裸体上。

这些程序的版本已经问世多年，但早期版本价格昂贵，使用难度大，而且不够逼真。如今，人工智能工具可以克隆栩栩如生的图像，并迅速生成深度伪造；即使使用智能手机，也可以在几秒钟内完成。

Swear 公司的创始人兼首席执行官杰森·克劳福斯（Jason Crawforth）表示：“过去你需要 100 个人来造假。今天你只需要一个人，很快那个人就能在同样的时间内制作 100 个，我们已经从信息时代进入了虚假信息时代。”

BioCatch 是一家专门通过行为生物识别技术检测欺诈的公司，该公司的塞斯·鲁登（Seth Ruden）说，AI 工具“已经从潘多拉的魔盒里跑了出来”。

如果孩子们能够接触到这些工具，他说：“这不仅仅是一个深度伪造图像的问题，潜在风险还包括制作受害者做某些不端行为的图像，并将其用作勒索他们获得钱财或敲诈他们执行特定行动的手段。”

非自愿深度伪造色情作品的数量呈爆炸式增长，反映了廉价且易于使用的深度伪造工具的广泛可用性。

根据《连线》（Wired）杂志的报道，一位独立研究者的研究发现，2023 年前 9 个月，有 11.3 万个深度伪造的色情视频被上传到了 35 个最受欢迎的色情网站。研究者发现，按照这个速度，到今年年底，产量将超过以往任何一年的总和。

在贝弗利维斯塔，学校校长凯利·斯康（Kelly Skon）在给家长的一封信中说，周一，她会见了几乎所有三个年级的学生，这是她定期安排的“行政谈话”的一部分，讨论了该事件引发的一些问题。

斯康说，她要求学生们“反思如何使用社交媒体，不要害怕离开任何与你的价值观不符的情况”，并“确保你的社交媒体账户是私人的，没有你不认识的人关注你的账户”。

保安站在贝弗利山的 Beverly Vista Middle School 外面。

有什么办法可以防止假裸照？

联邦和州政府已经采取了一些措施来打击 AI 的欺诈性使用。据美联社报道，已经有六个州将未经同意的深度伪造色情内容视为非法。在加州和其他几个没有专门针对深度伪造色情内容的刑法的州，相关受害者可以起诉要求赔偿损失。

科技行业也在努力寻找方法来打击恶意和欺诈性使用人工智能。DeepMedia 已经加入了世界上几家最大的人工智能和媒体公司组成的“内容来源和真实性联盟”（Coalition for Content Provenance and Authenticity），该联盟已经制定了标准，用于标记图像和声音，以便识别它们是否被数字化处理。

Swear 则采取了一种不同的方法来解决同样的问题，利用区块链来保存文件的原始记录，这些记录是不可改变的。克劳福斯说，将文件的当前版本与其在区块链上的记录进行比较，将显示文件是否以及如何被修改。

这些标准可以帮助识别并可能阻止在线的深度伪造媒体文件。古普塔表示，通过正确的方法组合，绝大多数深度伪造都可以从学校或公司网络中过滤出来。

然而，其中一个挑战是，几家人工智能公司已经发布了其应用程序的开源版本，使得开发人员可以创建定制版本的生成式人工智能程序。

古普塔说，这就是“脱衣 AI”应用程序诞生的原因。而且，这些开发人员可以无视行业制定的标准，就像就像他们可以试图删除或规避那些将他们的内容识别为人工生成的标记一样。

与此同时，安全专家警告说，人们每天上传到社交网络的图像和视频为欺凌者、骗子和其他不良分子提供了丰富的素材来源。克劳福斯（Crawforth）说，他看到了微软技术的演示，该技术可以从一个人仅 3 秒钟的在线音频中克隆出一个有说服力的声音。

很多青少年可能不会因为潜在风险而不在网上分享照片和视频。因此，对于那些想要在网上记录自己生活的人来说，最好的保护形式可能是“毒丸”（poison pill）技术，它可以改变他们上传到社交媒体的文件的元数据，使其在网络搜索中隐藏起来，以防止他们被发现。

古普塔（Gupta）说：“该技术是一个很好的想法。这也是我们正在研究的内容。”但他表示，为了有效，社交媒体平台、智能手机照片应用程序和其他共享内容的常用工具都必须自动添加毒丸（poison pills），因为你不能指望人们自行执行这一操作。