代理式人工智能（Agentic AI）是指一种旨在在极少的人工干预下实现特定目标的人工智能系统。与在预定义约束条件下运行且需要人工干预的传统人工智能模型不同，代理式人工智能具有自主性、目标导向行为和适应性。
关键要点：
- 沃尔玛和Flexport等大型企业已开始采用能够自主做出供应链决策的自主型人工智能系统，且该技术的应用在制造业领域正加速普及。
- 标准的人工智能供应商合同通常将赔偿责任上限设定为已支付的费用，且不包括间接损失，这使得当自主决策导致库存积压、缺货、不必要的运费或产品损坏时，制造商将面临风险。
- 评估自主人工智能的制造商应重点关注系统设计（权限限制、覆盖协议、数据质量控制）和合同架构（切合实际的责任限额、审计要求、赔偿条款），以便在管理法律风险的同时获取运营效益。
自主供应链代理的崛起
对于正在评估代理式人工智能（agent-based AI）以优化供应链运营的制造商而言，技术格局已发生显著变化。早期的AI工具仅提供建议供人工评估，而最新的代理式系统则旨在自主行动——实时下达采购订单、调整安全库存水平、选择承运商并重新规划货运路线，通常只需极少甚至无需人工审批。 该技术的采用曲线陡峭：沃尔玛目前已在其整个履约网络中运用代理式人工智能进行自主库存补货和货物路线调整；而Flexport的人工智能代理则自主管理着其约40%的货运代理业务，包括动态货物优化以及在运输中断期间的异常处理。
运营效益十分显著——响应时间更短、人力成本降低，且能够以机器的速度应对中断情况。但风险同样不容小觑。与那些仅标记异常供人工评估的预测工具不同，自主系统会根据自身的判断采取行动。当这些判断因基础数据存在缺陷、模型逻辑校准不当或系统缺乏情境判断能力而出现错误时，其财务和法律后果可能立竿见影，且难以挽回。
当代理商出错时：制造商应预见的四种情况
考虑采用代理式人工智能的制造商应预见此类系统可能引发的各类故障。以下场景说明了一些常见的风险类别，这些风险应作为系统设计、监督规程和合同保护措施的参考依据：
- 库存积压。某代理商误读了重复或错误的需求数据，擅自下达了过量的采购订单，导致制造商承担了库存持有成本、资产减值损失，并可能因订单取消而引发纠纷。
- 缺货与生产线停产。某代理商在优化营运资金时，依据过时的供应商数据削减了安全库存，导致当需求出现时缺乏必要的缓冲，从而引发生产线停产、交货延误以及额外运费。
- 不必要的运费支出。某物流代理商将数据延迟误认为是货物入境延误，遂批准了费用高昂的加急空运，结果原定货物却准时送达。
- 因改道导致的产品损坏。一名代理为避开预期的运输瓶颈，将一笔对温度敏感的货物改道运输，但替代路线途经极端温度区域，导致货物受损，并可能引发产品责任风险。
为什么现有合同可能无法保护您
面临此类情况的制造商自然会寻求依据其与人工智能供应商签订的协议来寻求救济。标准的人工智能供应商合同通常将赔偿责任上限设定为已支付的费用，而这些费用往往仅限于年度订阅费。然而，一次错误的自主决策就可能引发数倍于此的损失。关于间接损害的免责条款可能会阻止企业就代理系统最可能造成的损害——如库存积压、加急运费、停机时间、生产损失等——获得赔偿。
在智能体情境下，因果关系问题更为复杂。当一个自主智能体做出决策并采取行动时，制造商必须厘清故障究竟源于人工智能模型的逻辑、数据输入、系统配置，还是监管缺失。这可能同时牵涉到供应商、IT团队、数据提供商以及系统集成商。技术或许能解释决策的成因，但无法为由此产生的后果开脱。
设计系统与合约以管理代理式人工智能风险
正在考虑或已部署代理型供应链人工智能的制造商，应同时关注系统设计和合同架构，以便在纠纷发生前有效管控这些风险。
- 明确自主决策权限的界限。制造商应就金额、数量及路线变更等方面设定明确的阈值，超过这些阈值时，代理商必须上报由人工审核。这些权限界限应以书面形式记录，并在供应商协议中予以体现。
- 构建覆盖和紧急关闭协议。基于代理的系统应包含监控仪表盘和手动覆盖功能。合同应明确规定供应商有义务提供这些功能，并就覆盖功能不可用时造成的损失分配责任。
- 从源头解决数据质量问题。许多问题并非源于人工智能模型本身，而是源于为其提供数据的源头。有缺陷的输入会导致错误的决策。合同应明确划分数据质量责任，具体规定哪一方负责数据验证，以及当数据质量低于约定阈值时应采取何种措施。如需深入了解数据质量问题，请参阅我们此前关于该主题的文章。
- 协商制定能够体现自主决策的责任框架。如果系统在未经人工批准的情况下采取行动，供应商的责任框架应反映这一风险，包括设定切合实际的责任上限、对间接损害赔偿豁免的例外条款、针对第三方索赔的赔偿责任，以及适当的保险要求。
- 保留审计轨迹和决策日志。能够追溯代理商作出决策的原因，对于应对索赔和追究供应商责任都至关重要。合同应规定决策日志须可供查阅，并要求供应商配合审计工作。
为组织做好迎接“能动性未来”的准备
具有自主决策能力的AI技术已在供应链运营中得到应用。那些在系统设计、治理以及合同风险分配方面采取审慎态度的制造商，将更有能力把握这些技术带来的机遇，同时降低面临诉讼的风险。当自主决策的智能体犯下代价高昂的错误时，相关争议将依据合同和既定的法律原则来解决——而非依赖算法。
福里与拉德纳律师事务所的制造业、供应链及人工智能团队随时准备协助各组织应对智能人工智能在供应链运营中带来的不断演变的风险。
