六分之一的国会女议员成为人工智能生成的色情伪造视频的目标
© 图片来源：Win McNamee/Getty Images
一项新研究表明，超过二十名国会议员成为色情深度伪造的受害者，其中绝大多数受影响的是女性，该研究突显了这项技术中明显的性别差异以及女性参与政治和其他形式公民活动日益增加的风险。
美国阳光计划 (ASP)是一家研究虚假信息并倡导促进民主的政策的智库，该组织周三发布研究结果，发现最近在深度伪造网站上发现了超过 35,000 次非自愿亲密图像 (NCII)，这些图像描绘了 26 名国会议员（25 名女性和 1 名男性）。研究人员与受影响的国会议员分享了他们的发现，大多数图像很快被删除。
“我们需要考虑这种新的环境，以及互联网带来的诸多危害，这些危害主要针对女性和边缘群体，”网络虚假信息和骚扰专家、美国阳光计划创始人兼该研究报告作者尼娜·扬科维茨 (Nina Jankowicz) 说。
非自愿性亲密图像，俗称“深度伪造色情片”，尽管支持者更喜欢前者，可以通过生成式人工智能或将成人演员的头像叠加到媒体上来制作。目前，限制其创作和传播的政策有限。
ASP 向 The 19th 独家分享了这一前所未有的发现。该小组通过开发自定义搜索引擎收集数据，在 11 个知名的深度伪造网站上按姓氏和名字以及缩写或昵称查找第 118 届国会议员。党派关系和地理位置都不会影响被攻击的可能性，不过年轻成员更容易成为受害者。最大的因素是性别，国会女议员被攻击的可能性是男性的 70 倍。
ASP 没有公布图片中出现的议员的姓名，以避免鼓励搜索。他们确实联系了所有受影响人员的办公室，提醒他们注意网络危害和心理健康支持。该研究的作者指出，在事件发生后不久，针对大多数成员的图片被完全或几乎完全从网站上删除——他们无法解释这一事实。研究人员指出，这种删除并不能阻止材料再次被分享或上传。在一些涉及议员的案件中，尽管内容大部分或全部被删除，但搜索结果页面仍在 Google 上被索引。
“删除可能是巧合。无论导致删除这些内容的具体原因是什么——无论是‘停止并终止’信件、版权侵权索赔，还是与托管深度伪造滥用的网站的其他联系——都凸显了巨大的特权差异，”该研究称。“人们，尤其是女性，缺乏国会议员所拥有的资源，如果他们自己发起删除请求，他们极不可能从 AI 生成的 NCII 的创建者和分发者那里获得这种快速反应。”
根据该研究的初步结果，目前在国会任职的所有女性中，近 16%（约占六分之一的女议员）是人工智能生成的非自愿亲密图像的受害者。
扬科维茨因其在国内外揭露虚假信息的工作而成为网络骚扰和威胁的目标。她还公开承认自己是深度伪造滥用的受害者——这是她在 2023 年通过 Google Alert 发现的事实。
“你可能会在未经你同意的情况下出现在这些有损害的亲密场景中，这些视频，即使你对原始发布者提出版权索赔，——就像我的情况一样——它们也会在互联网上传播，不受你的控制，也不会对那些放大或制作深度伪造色情片的人产生任何影响，”她说。“这对任何公众人物、参与公共讨论的人来说都是一种风险，尤其是对女性和有色人种女性。”
基于图像的性虐待会对受害者的心理健康造成毁灭性的影响，受害者包括不参与政治的普通人，包括儿童。在过去的一年里，有报道称加州、新泽西州和宾夕法尼亚州等州的高中女生成为基于图像的性虐待的目标。学校官员对此做出了不同程度的反应，不过联邦调查局也发出了新的警告，称分享此类未成年人图像是违法的。
深度伪造对社会造成的全面影响仍有待进一步了解，但研究已经表明，41% 的 18 至 29 岁女性会自我审查以避免遭受网络骚扰。
宾夕法尼亚大学媒体风险研究中心研究主任索菲·马多克斯表示：“如果近一半的人口因为害怕遭受骚扰而保持沉默，那么这对民主和言论自由将构成极大的威胁。”
目前还没有联邦法律对制作和传播人工智能生成的非自愿亲密图像的人设定刑事或民事处罚。近年来，大约有十几个州颁布了相关法律，但大多数都包括民事处罚，而不是刑事处罚。
人工智能生成的非自愿亲密图像还会为敲诈勒索和地缘政治让步创造条件，从而对国家安全构成威胁。这可能会对决策者产生连锁反应，无论他们是否是图像的直接目标。
“我希望，当会员们意识到这不仅影响美国女性，也影响她们自己时，她们会采取行动，”Jankowicz 说。“这影响了她们自己的同事。而这种情况发生只是因为她们是公众人物。”
基于图像的性虐待是女性竞选公职时面临的一种特殊风险。在一名共和党工作人员向《华盛顿邮报》分享了弗吉尼亚州民主党人苏珊娜·吉布森和她丈夫的色情直播视频后，她以微弱优势输掉了竞争激烈的立法竞选。在她失败后的几个月里，吉布森告诉《华盛顿邮报》，她听说年轻女性因为害怕亲密照片被用来骚扰她们而不敢竞选公职。吉布森此后创办了一个致力于打击基于图像的性虐待的非营利组织，并成立了一个政治行动委员会，支持女性候选人反对侵犯隐私的行为。
马多克斯研究了公开发表言论的女性更容易遭受网络性暴力。
“我们长期以来一直认为‘女性应该被看到而不是被听到’，这让我想起了玛丽·比尔德 (Mary Beard) 的著作和研究，她认为女性身份与公开演讲是对立的。所以当女性公开发言时，几乎就像是‘好吧。是时候羞辱她们了。是时候脱掉她们的衣服了。是时候把她们赶回家了。是时候羞辱她们，让她们闭嘴了。’而这种沉默和羞辱的动机……我们必须理解这一点，才能理解这种伤害是如何体现在女议员身上的。”
ASP 正在鼓励国会通过联邦立法。2024年《禁止露骨伪造图像和非合意编辑法案》（也称为《反抗法案》）将允许人们起诉任何创建、分享或接收此类图像的人。《删除法案》将包括此类活动的刑事责任，并要求科技公司删除深度伪造作品。这两项法案均在参议院获得两党支持，但必须在众议院解决对言论自由和危害定义的担忧，而这些都是科技政策的典型障碍。
“如果国会不通过其中至少一项法案就让本届会议失效，那将是失职，”Jankowicz 说道，“这是人工智能危害目前真正被美国人感受到的方式之一。这不是未来的危害。这不是我们必须想象的事情。”
在国会未采取行动的情况下，白宫与私营部门合作，想出了遏制基于图像的性侵犯的创造性解决方案。但鉴于其平台造成的危害历史，批评者对大型科技公司的自我监管能力并不乐观。
“犯罪者很容易就能制作出这样的内容，而且这不仅仅是针对被针对的个体女性发出的信号，”Jankowicz 说。“这是为了向全世界的女性发出信号，‘如果你采取这一步，如果你发出声音，你就可能不得不面对这种后果。’”
如果您是基于图像的性虐待的受害者，网络公民权利倡议会提供一份法律资源清单。