隐私和数字权利倡导者正在对一项法律发出警报，许多人预计他们会欢呼:联邦打击报复色情和人工智能生成的深度假货。

新签署的《撤下法案》(Take It Down Act)规定，发布未经同意的明确图像——真实的或人工智能生成的——是非法的，并只给平台48小时来满足受害者的撤下请求，否则将面临责任。虽然被广泛称赞为受害者期待已久的胜利，但专家也警告说，其模糊的语言、核实索赔的宽松标准以及严格的合规窗口可能会为过度扩张、审查合法内容甚至监视铺平道路。

“大规模的内容审核存在广泛的问题，最终总是导致重要和必要的言论受到审查，”数字权利组织电子前沿基金会(Electronic Frontier Foundation)的联邦事务主任India McKinney告诉TechCrunch。

在线平台有一年的时间来建立一个删除不同意的亲密图像的程序(NCII)。虽然法律要求撤下请求必须由受害者或其代表提出，但它只要求一个物理或电子签名——不需要照片身份证或其他形式的验证。这可能旨在减少受害者的障碍，但它可能会为滥用创造机会。

“我真的想在这一点上是错误的，但我认为将会有更多的要求删除描述同性恋和跨性别者关系的图像，甚至更重要的是，我认为这将是两厢情愿的色情，”McKinney说。

玛莎·布莱克本参议员(共和党)是《拆除法案》的共同发起者，她也发起了《儿童网络安全法》，该法案将保护儿童免受有害网络内容影响的责任推给了平台。布莱克本说，她认为与变性人相关的内容对孩子有害。同样，传统基金会——2025项目背后的保守智库——也说“让反式内容远离儿童是在保护儿童。”

因为如果平台没有在收到请求的48小时内删除一张图片，它们将面临责任，“默认的情况是，它们只是删除它，而不做任何调查，看看这是否真的是NCII，或者这是否是另一种受保护的言论，或者它是否与提出请求的人有关，”McKinney说。

Techcrunch活动

加入我们的TechCrunch会议:人工智能

请OpenAI、Anthropic和Cohere的发言人参加我们领先的人工智能行业活动。在有限的时间内，一整天的专家讲座、研讨会和强大的网络门票只要292美元。

TechCrunch会议上的展览:人工智能

确保您在TC Sessions: AI上的位置，并向1，200多名决策者展示您的成果，而无需大笔支出。从5月9日开始供应，或售完为止。

加州伯克利

|

6月5日

立即注册

Snapchat和Meta都表示支持这项法律，但都没有回应TechCrunch的要求，即提供更多信息，说明他们将如何核实请求删除的人是否是受害者。

Mastodon是一个分散平台，拥有自己的旗舰服务器，其他人可以加入，它告诉TechCrunch，如果很难验证受害者，它会倾向于删除。

乳齿象和其他分散平台，如Bluesky或Pixelfed，可能特别容易受到48小时关闭规则的寒蝉效应的影响。这些网络依赖于独立运行的服务器，通常由非营利组织或个人运营。根据法律，美国联邦贸易委员会可以将任何不“合理遵守”下架要求的平台视为实施了“不公平或欺骗性的行为或做法”——即使主机不是商业实体。

致力于结束复仇色情的非营利组织网络民权倡议组织(Cyber Civil Rights Initiative)在一份声明中表示，“表面上看，这令人不安，但在联邦贸易委员会主席采取前所未有的措施将该机构政治化，并明确承诺利用该机构的权力，在意识形态而非原则的基础上惩罚平台和服务的时候，尤其如此。”。

主动监控

McKinney预测，平台将在内容传播之前开始对其进行调节，这样他们在未来就可以减少有问题的帖子。

平台已经在使用人工智能来监控有害内容。

人工智能内容检测初创公司Hive的首席执行官兼联合创始人凯文·郭(Kevin Guo)表示，他的公司与在线平台合作，检测deepfakes和儿童性虐待材料(CSAM)。Hive的一些客户包括Reddit、Giphy、Vevo、Bluesky和BeReal。

“我们实际上是支持该法案的科技公司之一，”郭告诉TechCrunch。“这将有助于解决一些非常重要的问题，并迫使这些平台更积极地采用解决方案。”

Hive的模式是软件即服务，因此这家初创公司不能控制平台如何使用其产品来标记或删除内容。但郭说，许多客户在上传时插入Hive的API，以便在任何内容被发送到社区之前进行监控。

Reddit发言人告诉TechCrunch，该平台使用“复杂的内部工具、流程和团队来解决和消除”NCII。Reddit还与非营利组织SWGfl合作部署其StopNCII工具，该工具根据已知NCII的数据库扫描实时流量，并删除准确的匹配。该公司没有透露如何确保请求删除的人是受害者。

McKinney警告说，这种监控在未来可能会扩展到加密信息。虽然该法律侧重于公开或半公开的传播，但它也要求平台“删除并做出合理的努力来防止未经同意的亲密图像的重新传播”。她认为，这可以激励对所有内容的主动扫描，即使是在加密空间。该法律不包括WhatsApp、Signal或iMessage等端到端加密信息服务的任何例外。

Meta、Signal和Apple都没有回应TechCrunch关于他们加密信息计划的更多信息的请求。

更广泛的言论自由含义

3月4日，特朗普向国会发表了联合讲话，他在讲话中赞扬了《拆除法案》，并表示他期待将其签署成为法律。

“如果你不介意的话，我也要把那张钞票留给我自己，”他补充道。“没有人比我在网上受到的待遇更差。”

虽然观众嘲笑这个评论，但并不是每个人都把它当成笑话。特朗普并不羞于压制或报复不利的言论，无论是给主流媒体贴上“人民公敌”的标签，不顾法院命令禁止美联社进入椭圆形办公室，还是从NPR和PBS撤资。

周四，特朗普政府禁止哈佛大学接受外国学生入学，这加剧了一场冲突，这场冲突始于哈佛大学拒绝遵守特朗普的要求，即改变其课程并消除与DEI相关的内容等。作为报复，特朗普冻结了对哈佛的联邦资助，并威胁要取消该大学的免税地位。

“当我们已经看到学校董事会试图禁止书籍，我们看到某些政客非常明确地表示他们不希望人们看到的内容类型，无论是批评种族理论、堕胎信息还是关于气候变化的信息……看到两党成员公开倡导这种规模的内容节制，我们对过去在内容节制方面的工作深感不安，”麦金尼说。