加利福尼亚州提出《前沿人工智能系统安全保障创新法案》以规范人工智能

加州州参议员维纳提出SB 1047法案以规范人工智能相关风险。该法案若获通过，将要求人工智能开发者判定其模型是否具备"安全正向判定"——该判定标准定义为：开发者在考虑安全裕度及训练后修改因素后，有合理依据认定特定类型的人工智能模型不具备危险能力，或接近不具备危险能力。 

• 安全协议（包括符合特定规格的独立安全与安保协议）
• 实施合理的保护措施，防止用户使用人工智能模型的危险功能。 
• 若存在使用危险功能的不可接受风险，则应避免使用该模型。 

尽管该法案距离正式立法还有很长的路要走，模型开发者或许可以考虑其中提出的政策和程序，以最大限度地降低人工智能应用相关的风险。 

该法案将颁布《前沿人工智能系统安全保障创新法案》，其中要求符合定义的覆盖模型开发者，在启动特定覆盖模型的训练前，必须确定能否对该模型作出积极的安全判定。 该法案还将设立州技术部下属的"前沿模型司"。

若法案通过，当模型未能满足安全确认要求时，开发者还须履行特定义务，包括：

查看引用文章