2023 年 10 月 20 日，美国高中生弗朗西丝卡·马尼（Francesca Mani）被叫到了新泽西州高中的校长办公室。她是一名高二学生，也是一名击剑运动员。
那天，一个谣言在学生中流传：在刚过去的暑假里，男生们使用人工智能为他们的一些同学制作了裸露和色情照片。
据她所知，自己是 30 多名受害女孩中的一员。但在一封电子邮件中，学校声称受影响的学生“远少于”30 人。
弗朗西斯卡没有看到自己的照片，不过她也不想看到，因为她想用自己所有的精力确保不再有其他人成为类似事件的受害者。
在听说色情照片事件后的 24 小时内，弗朗西斯卡写信给了四名当地议员，分享她的故事并要求他们采取行动。
其中三人迅速做出回应：纽约州众议员乔·莫雷尔（Joe Morelle）、新泽西州众议员小汤姆·基恩（Tom Kean Jr.）和新泽西州参议员乔恩·布拉姆尼克（Jon Bramnick）。
在过去的几周里，她的举动已经推动了新的立法势头，推动美国对深度伪造色情内容的监管。
弗朗西斯卡本周告诉我：“那天我终于意识到，我需要说出这个故事，因为我真的认为这不对。这是一项新技术，人们并不真正了解它，也不知道如何保护自己免受其害。”
在过去的几周里，除了庆祝自己的 15 岁生日，弗朗西斯卡还推出了一个新网站，为深度伪造色情作品的其他受害者提供资源。
2019 年和 2021 年的研究表明，由人工智能制作的“深度伪造（deepfake）”图像，通常是通过交换面容或声音来实现的。
深度伪造主要被用于色情产业，绝大多数被伪造的目标都没有授权这种行为。除了同意之外，深度伪造还引发了人们对网络隐私的严重担忧。
随着人工智能工具在过去一年中不断涌现并变得越来越流行，通过人工智能生成图像来实现深度伪造色情和性骚扰的情况也在激增。
例如，2023 年 9 月，西班牙大约有 20 名年轻女孩收到了自己的裸体照片，照片中的她们被人工智能“脱掉了”衣服。
2022 年 12 月，我的同事梅丽莎·海基莱（Melissa Heikkilä）展示了爆火的生成式人工智能应用 Lensa，是如何在未经她同意的情况下为她创建充满了性意味的图像的。这与它为男同事制作的图像形成了鲜明对比。
美国国会议员打击深度伪造色情内容的努力并不是什么新鲜事。2019 年和 2021 年，众议员伊薇特·克拉克（Yvette Clarke）起草了 DEEPFAKES 问责法案，该法案要求深度伪造内容的创建者为其作品添加水印。
2022 年 12 月，目前正与弗朗西斯卡密切合作的众议员莫雷尔起草了阻止深度伪造私密图像法案。
他的法案侧重于将未经同意而创作和传播深度伪造色情作品定为犯罪。但这两项努力都没有得到足够多的两党支持，都已停滞不前。
（来源：AI 生成）
但最近，这个问题已经到达了一个“临界点”。美国加州大学伯克利分校教授汉尼·法里德（Hany Farid）说，因为人工智能变得更加复杂了，造成伤害的可能性也更加严重。法里德说：“威胁因素发生了巨大变化。”
他说，五年前制作一个以假乱真的深度伪造图片，需要数百张图片进行训练。这意味着，那些最有可能成为目标的人是名人和拥有大量公开照片的网红。
但现在，深度伪造图片只需一张图片就可以创造出来。法里德说：“我们相当于给了那些高中生‘制作核武器’的工具，让他们能够用任何人（的一张照片）制作色情内容。当然，他们也正在这么做。”
来自纽约的民主党人克拉克和莫雷尔于 2023 年重新提出了他们的法案。莫雷尔现在有来自两党的 18 名共同提案人，其中 4 人是在弗朗西斯卡事件曝光后加入的。这表明该法案有望真正走上立法道路。
就在本周，莫雷尔法案的共同发起人之一、众议员基恩发布了一项相关提案，旨在推动人工智能标注工作，部分原因是为了回应弗朗西斯卡的呼吁。
美国对人工智能的监管十分棘手，尽管人们对采取行动的呼声已经达到了前所未有的新高度（一些州正在推进自己的立法工作）。
监管深度伪造内容的提议通常包括标记和检测人工智能生成的内容，以及审查平台上儿童色情内容的措施。这引发了棘手的政策问题和对美国宪法第一修正案的担忧。
然而，莫雷尔认为他的法案找到了一个“优雅”的解决方案，通过把重点放在创作者和分销者身上，而绕过了其中的一些（法律）问题，由此开发了提起民事和刑事指控的途径，并将创建和分享无授权深度伪造色情内容定为联邦犯罪。
莫雷尔说：“对于那些未经图片或视频中的人同意而发布内容的人，该法案能够追究其责任。”
该法案目前正在经过众议院司法委员会审议，莫雷尔的办公室计划在 2024 年 1 月份全力推动其通过。如果该法案通过了委员会审议，它将在众议院进行投票。
法里德表示，莫雷尔的法案是提高（公众）认知和追究责任的第一步，但从长远来看，这个问题需要通过从深度伪造色情中“获利”的网站、服务、信用卡公司和互联网服务提供商来解决。
但与此同时，缺乏对深度伪造色情制品的监管和法律先例，这意味着像弗朗西斯卡这样的受害者几乎没有追索权。新泽西州警方告诉布拉姆尼克，这起事件可能最多定性为“网络骚扰指控”，而不是像儿童色情内容这样更严重的犯罪。
布拉姆尼克与弗朗西斯卡取得联系后，他加入了新泽西州一项法案的共同发起人行列，该法案将在州一级对深度伪造色情制品进行民事和刑事处罚。
这种无力感正是弗朗西斯卡希望改变的。她和她的母亲多洛塔·玛尼（Dorota Mani）计划在未来几周内前往华盛顿特区，与国会议员交流以引起更多人对这一问题的关注，并敦促他们通过莫雷尔的法案。
弗朗西斯卡告诉我：“我们应该立即制定法律，以后当这种情况发生在你身上时，有法律能够保护你。当时的我没有法律保护。”
支持：Ren
声明：壹贝网所有作品（图文、音视频）均由用户自行上传分享，仅供网友学习交流，版权归原作者wangteng@admin所有，原文出处。若您的权利被侵害，请联系 756005163@qq.com 删除。
本文链接：https://www.ebaa.cn/20040.html
