关键要点：
- 制造业中的人工智能治理既是运营层面的必要举措，也是监管层面的必然要求。随着技术和监管环境的快速变化，那些在没有正式治理方案的情况下部署人工智能系统的制造商，将面临日益严峻的法律、运营和合规挑战。
- 治理措施应根据风险和自主程度进行调整。并非所有人工智能系统都需要同等程度的监督。预测性维护警报所带来的风险，与执行采购订单的自主采购代理所带来的风险不同。组织需要建立分级控制框架，使治理力度与各人工智能系统伴随的风险成比例地调整。
- 保持灵活性，负责任地扩展规模。 那些构建治理方案时着眼于适应性（而非仅限于当前能力）的组织， 将能够负责任地扩展人工智能的应用规模——随着代理系统、世界模型和多智能体生态系统重塑制造业运营。
具有代理能力的智能 （AI）在制造业和供应链运营中的 快速部署 ，正导致系统能力与组织监管之间的差距日益扩大。AI代理目前已经或很快将能够自主协商采购条款、执行采购订单、调整生产计划并做出质量控制决策，且通常仅需有限的人工干预甚至完全无需人工干预。 然而， 普华永道（PricewaterhouseCoopers）2026年的一项调查显示，仅有37%的运营负责人愿意让AI代理执行完整的端到端流程，而仅有27%的企业已将AI战略全面融入各业务部门。
这种治理真空带来的后果绝非假设。试想一家一级汽车供应商，其在冲压生产环节部署了一个由人工智能驱动的需求预测代理。 该代理基于有缺陷的需求信号，自主减少了向钢铁供应商的采购订单，从而引发了合同最低采购量纠纷、为弥补由此造成的短缺而产生的加急运费，以及/或因未在交付窗口期内交货而遭到的整车制造商罚款。如果没有成文的治理结构，制造商可能无法证明当时实施了何种监督机制，无法还原代理做出该决策的原因，也无法确定责任应由供应商还是部署方承担。
本文是福莱（Foley）“2026年制造业与供应链人工智能系列”的一部分，概述了制造商和供应链管理者应立即采取的五项措施，以建立治理方案，既能管控当前的风险敞口，又能随着人工智能能力的快速发展而同步扩展。
步骤 1：成立跨职能人工智能治理委员会
制造商应成立一个正式的人工智能治理委员会，该委员会应获得高管层的支持，并由运营、IT、法务、合规、安全和采购等部门的代表组成。该委员会应明确其章程、决策权限、会议频率以及向董事会汇报的义务。
步骤 2：按风险对人工智能系统进行分类，并实施分级管控措施
并非所有人工智能部署都需要相同的监管。用于监测设备振动模式的简单异常检测工具，其治理要求与执行采购交易的自主代理不同。制造商应实施一个根据自主程度和后果严重性进行调整的分级控制框架。例如：
- 一级（咨询型）：AI 提供建议；由人类做出决策。进行标准模型验证和定期审查即可。
- 第2级（半自主）：由AI提出建议，由人类批准。必须进行部署前的沙箱测试、设置“人类在环”审批环节，并定期进行漂移监测。
- 第3级（完全自主）：人工智能无需人工干预即可自主决策并采取行动。持续监控、治理代理、紧急关机机制、完整的审计日志以及代理间监控协议至关重要。
在部署前，应针对每个人工智能系统记录此类或类似的分类信息，这一要求与新兴框架相一致，例如《 欧盟人工智能法案》中的基于风险的方法以及美国国家标准与技术研究院（NIST）人工智能风险管理框架（AI RMF）中的MAP功能。
第 3 步：实施已记录的人工监督和应急预案
在部署会做出或影响重大决策的人工智能系统之前，组织必须制定并记录一套人工监督机制。这包括指定谁有权推翻人工智能的决策、界定触发上报的条件，以及确立如何记录推翻决策的事件。
对于大批量、对时间要求极高的制造作业，通常采用的模式是“人类在回路中，而非处于回路内”，即由智能体执行操作，人类进行监控并在必要时进行干预，而不是对每项决策都进行审批——后者会抵消人工智能带来的效率提升。 对于在安全关键环境中运行的AI系统，紧急关闭机制是不可或缺的。若要深入分析自主AI决策如何引发法律责任风险， 请参阅我们此前关于供应链运营中代理型AI法律责任的文章。
第4步：要求供应商保持透明度，并加强合同保护
大多数制造商并不自行开发人工智能系统。每项第三方依赖都会带来风险，而标准的SOC 2报告和通用问卷并非为评估此类风险而设计。人工智能供应商会更新模型、更换数据源并调整训练方法，且通常不会明确通知。
制造商应在可行的情况下：
- 在合同中要求供应商披露模型训练所使用的数据源、影响输出结果的因素及权重，以及测试方案。
- 建立定期评估机制（至少每年一次，关键系统则为每季度一次），切勿将过时的评估结果作为持续合规的依据。
- 协商制定能够反映实际运营风险的责任框架，其中包括赔偿条款、审计权以及附有明确响应时限的事件通报要求。
- 针对供应商故障或模型性能下降的情况制定应急预案，包括手动备用流程。
第 5 步：设计支持可扩展性的治理架构
为满足人工智能治理系统的可扩展性需求，制造商应：
- 遵循自动化成熟度路径，例如：“爬行”（盘点 AI 和数据资产）→“行走”（实现治理步骤的自动化，如漂移检测和合规性检查）→“奔跑”（将治理融入每个工作流）。
- 在上游嵌入控制机制，以便新的AI功能默认继承治理机制。
- 利用数字孪生和沙箱环境进行部署前的治理测试。
- 系统地提升组织的人工智能素养。欧盟《人工智能法案》对此作出了要求，运营方必须具备批判性地解读人工智能输出结果的能力，而不是不加批判地全盘接受。
构建与时俱进的治理体系
制造业中的人工智能治理并非一次性的合规举措，而应成为一项永久性的运营职能，并随着其所监管的技术一同发展演进。那些现在就建立可扩展治理方案的制造商，将能够充分利用人工智能带来的运营效益，同时在自主能力不断扩展的过程中，维持必要的监督、文档记录和合同架构，以管理法律风险。
Foley & Lardner律所的制造业、供应链及 人工智能团队可协助各组织设计并实施针对制造业和供应链运营量身定制的人工智能治理方案。我们期待与您探讨这些问题可能对贵公司运营产生的影响。
订阅 订阅本系列，获取新文章的更新信息。
