加州州长加文·纽森近期面临一波人工智能相关立法浪潮，共有38项法案提交至其办公桌。尽管否决了备受争议的SB-1047法案，纽森州长仍在整个九月签署了十余项聚焦人工智能的法案。这些法案涵盖了与人工智能相关的诸多议题，从人工智能带来的风险，到深度伪造色情内容的泛滥，以及利用人工智能克隆已故好莱坞演员的现象。
加州州长纽森办公室在新闻稿中表示：“作为全球多数顶尖人工智能企业的所在地，加州正致力于运用这些变革性技术应对紧迫挑战，同时研究其带来的风险。”
在签署生效的人工智能相关法案中，有18项堪称美国迄今为止最具综合性的立法。以下是这些新法规涵盖的主要主题概述。
纽森州长签署多项人工智能相关法案
人工智能训练数据的透明度
最具影响力的法案之一是AB-2013号法案，该法案为生成式人工智能供应商引入了透明度要求。该法案将于2026年生效，届时人工智能公司必须披露用于训练其模型的数据集信息。 该立法强制要求企业公开数据来源、说明数据使用方式、标注数据点数量、披露是否包含受版权保护或授权数据，并明确数据采集时间段。此项透明度提升旨在增强人工智能系统的可追责性，尤其针对依赖大规模数据训练的系统。
有关该立法的常见问题解答文章可在此处查阅。
人工智能风险管理
另一项签署生效的关键法案是SB-896号法案，该法案要求加州应急服务办公室（CalOES）对生成式人工智能的潜在风险进行分析评估。 该法案要求与OpenAI、Anthropic等前沿人工智能企业合作，评估人工智能对关键州基础设施的潜在风险，并评估可能引发大规模伤亡事件的潜在威胁。这种前瞻性措施旨在减轻先进人工智能系统对公共安全可能造成的不可预测后果。
人工智能在医疗保健领域
多项法案聚焦于医疗场景中人工智能的应用。AB-3030法案要求医疗服务提供者在使用生成式人工智能与患者沟通时必须主动告知，尤其当信息涉及临床数据时。与此同时，SB-1120法案对医疗服务提供者和保险公司自动化服务的实施设定了限制，确保持证医师在医疗环境中对人工智能工具的使用进行监督。这些法律旨在保护患者权益，确保人工智能在医疗领域得到规范运用。
隐私与人工智能
加州众议院第1008号法案（AB-1008）再次扩展了该州的隐私保护框架，将生成式人工智能系统纳入现有隐私法律的监管范围。这意味着，若人工智能系统泄露姓名、地址或生物特征数据等个人信息，相关企业将受到限制，不得随意使用这些数据牟利。该法案旨在确保人工智能系统遵循与其他数据处理和使用形式相同的隐私保护标准。
对人工智能生成内容添加水印
另一项重要法案SB-942已签署生效，要求广泛使用的生成式人工智能系统必须披露其创建的内容由人工智能生成。 该要求将通过嵌入内容元数据的"来源数据"实现。例如，OpenAI旗下DALL-E生成的所有图像，其元数据中现需添加标注说明由AI生成。尽管部分AI企业已自愿添加此类水印，但该法案将此要求制度化，有助于公众更便捷地识别AI生成内容。
人工智能的法律定义
另一项关键法案AB-2885在加州法律中确立了人工智能的正式定义。根据该法案，人工智能被定义为"一种工程化或机器化的系统，其自主程度各异，能够基于明确或隐含的目标，从接收的输入中推断如何生成可影响物理或虚拟环境的输出"。这一统一定义旨在为该州监管人工智能技术建立更清晰的法律框架。
人工智能教育计划
纽森州长还签署了多项涉及人工智能在教育领域作用的法案。AB-2876号法案要求加州教育委员会在制定数学、科学和历史等学科课程框架时纳入人工智能素养内容。该举措旨在通过教授学生人工智能的工作原理、局限性以及技术应用中的伦理考量，帮助他们为人工智能日益重要的未来做好准备。 此外，SB-1288法案要求加州各学区总监组建工作组，深入研究人工智能在公立教育中的应用现状，并识别潜在机遇与挑战。
利用人工智能的自动呼叫
为解决欺骗性人工智能自动呼叫的问题，纽森州长签署了AB-2905法案使其成为法律。 该法案要求自动语音电话必须标明使用人工智能生成的声音，旨在防止类似2024年初新罕布什尔州选民被模仿拜登总统声音的深度伪造自动语音电话误导的事件重演。这项法律是遏制人工智能在政治和商业领域滥用行为的更广泛举措的一部分。
打击深度伪造色情内容
深度伪造色情内容已成为令人困扰的问题，纽森州长签署了多项法案以应对这一问题。AB-1831号法案将现有儿童色情内容法律范围扩展至人工智能系统生成内容。SB-926号法案规定，利用仿冒个人形象的人工智能生成裸体图像实施敲诈勒索属违法行为；而SB-981号法案要求社交媒体平台建立举报机制，供用户标记深度伪造裸体内容。平台必须在调查期间暂时屏蔽此类内容，若确认属深度伪造则永久删除。
选举深度伪造
纽森州长还签署了一系列旨在防止人工智能深度伪造技术影响选举的法律。AB-2655法案要求Facebook和X（原Twitter）等大型在线平台删除或标记与选举相关的人工智能深度伪造内容，并建立举报渠道。若平台未能遵守法律，候选人和当选官员可寻求法律救济。AB-2839法案针对社交媒体用户发布或转发可能误导选民的AI深度伪造内容的行为，要求其为传播虚假信息承担责任。此外，AB-2355法案要求使用AI技术制作的政治广告必须包含清晰的披露声明，确保政治竞选活动的透明度。
人工智能与娱乐产业
由美国演员工会-美国广播电视艺术家联合会（SAG-AFTRA）大力支持的两项新法案，为娱乐与媒体行业在人工智能应用方面确立了新标准。AB-2602法案要求影视制作公司在创建演员声音或形象的人工智能复刻体前必须获得其授权。AB-1836法案将类似保护延伸至已故表演者，要求制片方在创建数字复刻体前必须获得表演者遗产管理方的同意。这些法律旨在面对日益增强的人工智能能力（其可实现表演者的数字化复刻）时，保障演员及其遗产管理方的权益。
SB-1047 否决案
尽管多项人工智能相关法案获得通过，但旨在监管大型人工智能系统的SB-1047法案遭纽森州长否决。州长在否决信中阐明，该法案过度聚焦大型人工智能模型，此举恐将"给公众带来虚假的安全感"。他进一步强调需要采取更灵活的监管方式，同时涵盖大型与小型人工智能系统——因为小型模型同样可能带来重大风险。
在2024年Dreamforce大会与Salesforce首席执行官马克·贝尼奥夫的对话中，州长强调了区分人工智能中可验证风险与假设性风险的重要性。他承认虽然无法解决人工智能的所有潜在问题，但该州的监管工作将聚焦于解决最紧迫的挑战。
纽森州长还暗示了他对人工智能监管的更广泛策略。 纽森表示："有一项法案在公众讨论和认知层面显得尤为突出，即SB-1047法案。人工智能中哪些是可验证的风险，哪些是假设性风险？我无法解决所有问题，但我们能解决哪些问题？这正是我们在此领域采取的全面策略。"
对企业的影响
加利福尼亚州近期密集出台的人工智能立法，彰显了该州在应对人工智能机遇与风险方面采取的积极态度。从隐私保护、教育领域到医疗健康及选举公正性，这些新法规构成了美国境内最为全面的人工智能监管体系。
在加利福尼亚州开展业务或与该州居民有往来的企业，需立即采取行动确保遵守这些法律。未在加州开展业务的企业同样应关注这些法规，并着手评估和制定合规措施，因为其他州必将效仿这些基本原则。
