加利福尼亚州参议员斯科特·维纳(Scott Wiener)周三对他的最新法案SB 53提出了新的修正案，要求世界上最大的人工智能公司公布安全和安保协议，并在安全事件发生时发布报告。

如果签署成为法律，加州将成为第一个对领先的人工智能开发者施加有意义的透明度要求的州，可能包括OpenAI、谷歌、Anthropic和xAI。

参议员维纳之前的人工智能法案SB 1047就包含了对人工智能模型开发者发布安全报告的类似要求。然而，硅谷激烈反对该法案，最终被州长加文·纽瑟姆否决。加州州长随后召集了一群人工智能领袖——包括斯坦福大学的首席研究员、世界实验室的联合创始人费·李非——组建一个政策小组，为该州的人工智能安全工作设定目标。

加州人工智能政策小组最近公布了他们的最终建议，称需要“要求行业公布有关其系统的信息”，以建立“强大而透明的证据环境”。参议员维纳的办公室在一份新闻稿中说，SB 53的修正案受这份报告的影响很大。

“该法案仍在进行中，我期待在未来几周内与所有利益相关者合作，将这项提案完善为最科学、最公平的法律，”参议员维纳在新闻稿中说。

SB 53旨在达成州长纽瑟姆声称SB 1047未能实现的平衡——理想情况下，为最大的人工智能开发者创造有意义的透明度要求，而不阻碍加州人工智能产业的快速发展。

非营利人工智能安全组织Encode的国家事务副总裁内森·卡尔文(Nathan Calvin)在接受TechCrunch采访时表示:“这些是我的组织和其他人已经谈论了一段时间的担忧。“让公司向公众和政府解释他们正在采取什么措施来应对这些风险，这似乎是最起码的合理措施。”

Techcrunch活动

TechCrunch All Stage通票最高可节省475美元

更智能地构建。更快地扩展。连接更深。加入先驱投资公司、NEA、指数投资公司、强调风险投资公司以及其他公司的远见卓识者，参加一天的战略、研讨会和有意义的交流。

使用TechCrunch All Stage pass节省450美元

更智能地构建。更快地扩展。连接更深。加入先驱投资公司、NEA、指数投资公司、强调风险投资公司以及其他公司的远见卓识者，参加一天的战略、研讨会和有意义的交流。

马萨诸塞州波士顿

|

7月15日

立即注册

该法案还为人工智能实验室的员工创建了举报人保护，这些员工认为他们公司的技术对社会构成了“关键风险”——在法案中定义为导致100多人死亡或受伤，或超过10亿美元的损失。

此外，该法案旨在创建CalCompute，这是一个公共云计算集群，用于支持初创公司和研究人员开发大规模人工智能。

随着新的修正案，SB 53现在前往加利福尼亚州议会隐私和消费者保护委员会批准。如果在那里通过，该法案还需要通过其他几个立法机构，然后才能到达总督纽瑟姆的办公桌。

在美国的另一边，纽约州州长Kathy Hochul现在正在考虑一项类似的人工智能安全法案，即RAISE Act，该法案也将要求大型人工智能开发者发布安全和安保报告。

像《提高法案》和SB 53这样的州人工智能法律的命运短暂地处于危险之中，因为联邦立法者考虑对州人工智能监管实施10年的人工智能暂停——试图限制公司将不得不浏览的人工智能法律的“拼凑”。然而，该提案在7月初以99比1的投票结果未能通过。

“确保人工智能的安全开发不应该有争议——它应该是基础性的，”Y Combinator前总裁杰夫·罗尔斯顿(Geoff Ralston)在给TechCrunch的一份声明中说。“国会应该发挥领导作用，要求建立前沿模型的公司具有透明度和问责制。但是由于看不到严肃的联邦行动，各州必须站出来。加州的SB 53是一个深思熟虑、结构良好的州领导范例。

到目前为止，立法者未能让人工智能公司遵守国家强制的透明度要求。Anthropic广泛赞同增加人工智能公司透明度的必要性，甚至对加州人工智能政策小组的建议表示适度乐观。但OpenAI、谷歌和Meta等公司对这些努力更加抵制。

领先的人工智能模型开发人员通常会发布他们的人工智能模型的安全报告，但最近几个月他们不太一致。例如，谷歌决定在其发布的最先进的人工智能模型Gemini 2.5 Pro发布几个月后才发布安全报告。OpenAI还决定不公布其GPT-4.1模型的安全报告。后来，一项第三方研究表明，它可能比以前的人工智能模型更不一致。

SB 53代表了以前人工智能安全法案的低调版本，但它仍然可能迫使人工智能公司发布比今天更多的信息。现在，他们将密切关注参议员维纳再次测试这些界限。