New York 查封12个名人深度伪造网站
曼哈顿地区检察官办公室查封12个域名,这些网站发布约1200人的非自愿性深度伪造影像。
曼哈顿地区检察官办公室周一宣布,已查封12个域名。这些网站被用于非法分享、发布和售卖名人深度伪造(Deepfake)视频。该办公室表示,网站上约有1200人被制成非自愿的性化图像和视频,绝大多数是女性,其中包括社交媒体网红、演员、活动人士、运动员、音乐人和政界人士。
地区检察官 Alvin Bragg 在声明中说,这类侵犯隐私的行为会一直跟随受害者的职业与私人生活,对情绪和心理造成沉重打击。他呼吁可能的受害者联系办公室的网络犯罪部门。针对网站运营者以及上传视频者的调查仍在进行。
首页被替换为查封通告
此次查封依据纽约州刑事诉讼法进行。办公室未公开网站名称,但 WIRED 上周末独立观察到,其中几个网站的首页已被替换为“本域名已被查封”的通告,页面目前显示依据纽约州最高法院签发的查封令被接管。在美国,Take It Down Act 的部分条款允许执法部门下架并查封网站。
研究深度伪造产业链的 Institute for Strategic Dialogue 研究员 Leonie Oehmig 认为,这次下架是打击合成非自愿亲密影像(NCII)的一次重要胜利,并称从其他地区通过 VPN 也无法访问被查封的站点。她表示,有效干预需要同时针对多个环节:制作工具、这些工具的传播与推广、维持网站在线的托管和技术基础设施,以及让运营者获利的支付和联盟分成体系。
非营利机构 American Sunlight Project 首席研究员 Benjamin Shultz 说,多数视频是把现有色情影片中演员的面部替换为目标人物,许多内容看起来是从 MrDeepFakes 转载而来,后者在创建者身份被记者揭露后已下线。他说,在至少两个被查封的网站上,民选官员拥有包含姓名和职务的个人页面,下面排列着伪造视频。他的研究发现,网站上提及或出现了56名欧洲政界人士,另有16名美国政界人士和2名英国政界人士。存档页面显示,部分视频被观看数万次,其中一个网站声称自2018年起运营。
详情见 WIRED 报道。