共创代理化未来：GC午餐系列讨论会

各行业对人工智能的应用正迈入一个新阶段。随着生成式人工智能逐渐融入企业运营，一股更强大、更复杂的浪潮正在涌现：即代理式人工智能。这些系统不仅能协助完成独立任务，还能自主执行多步骤流程、做出决策，并与跨职能、跨领域的企业工具进行交互。对于正在应对这一转变的企业而言，这引发了一系列关于治理、安全、问责和运营韧性的根本性新问题。 在我们最新一期的“总法律顾问午餐会”系列活动中，来自 Sophos、Securonix 和 RingCentral 的法律及网络安全负责人齐聚一堂，共同探讨企业如何为这个代理式时代做好准备，以及该时代带来的跨领域挑战。以下是本次活动的核心要点。

什么是代理商，总承包商为何需要关注？

• 主动型人工智能与聊天机器人或文档审查工具有着本质区别。这些智能代理能够通过推理、规划、执行多步骤流程、访问企业系统，并在不同程度的自主性下做出决策来采取行动。这一区别理应立即引起每位总法律顾问的关注。
• 传统的企业人工智能系统在收到指令时，可能只会起草一条合同条款。而具有自主性的系统则可能主动识别出某项条款的必要性，起草该条款，将其提交审批，并更新合同管理系统，而无需人工干预每个步骤。这一飞跃对治理带来的影响是深远的。
• 从普通法（GC）的角度来看，代理人的核心特征在于自主性。在法律语境中，自主性与权限、责任和控制等问题密不可分。代理法可能会面临前所未有的新挑战。

代理在生态系统中的位置

• 在多个垂直领域、业务部门和行业中，构建、开发和部署代理程序的势头正在加速。参加此次午餐系列活动的组织涵盖网络安全平台和云通信领域，它们正在积极地在其产品套件和内部运营中构建和部署代理程序。
• 智能代理的发展曲线仍处于早期阶段，但增长势头迅猛。推动智能代理系统发展的关键技术突破正在此时发生，与会专家预计，在未来十二到二十四个月内，智能代理将在整个企业中得到最显著的应用。
• 该生态系统尚未形成单一的模式。讨论的焦点在单功能代理、多代理系统和协调层之间来回转换。GC 需要理解这些架构选择，因为每种选择都伴随着不同的风险特征。
• Sophos 和 Securonix 等网络安全公司正扮演着双重角色：既作为构建者塑造代理生态系统，又作为前线捍卫者抵御代理带来的风险。小组讨论传达的信息非常明确——要区分炒作与真正具有持久价值的事物，并确保贵公司的法务团队正在关注那些大多数企业可能未曾留意的动态。

代理商正在开启一场关于治理的新对话

• 全球范围内围绕人工智能的法律环境瞬息万变，而具有自主行为能力的系统所带来的治理挑战，与独立的生成式人工智能系统所带来的挑战存在本质差异。总法律顾问不能简单地将现有的AI政策延伸至涵盖具有自主行为能力的系统部署，因为其风险特征在性质上存在差异，而不仅仅是程度上的差异。
• 自主权与问责制。组织必须以与人类授权相同的严谨态度，界定授予代理的权限范围。在代理的语境下，“最小权限原则”具有了新的含义，当代理被用于关键工作流程时，必须对决策权限进行记录。关于代理在必须由人类介入之前应拥有多少裁量权这一更棘手的问题，虽然没有放之四海皆准的答案，但必须建立一个经过深思熟虑的框架。
• 安全性。与非代理系统相比，代理会带来独特或加剧的安全风险。在代理环境中，命令注入、工具滥用、权限提升和内存污染都呈现出新的维度。实际上，代理正在企业内部创造一个新的攻击面，首席信息安全官（CISO）正在仔细考虑如何监控和控制这些风险。总法律顾问应参与这一讨论，而不是等到发生安全事件才被迫采取行动。
• 数据隐私与额外风险。代理程序以许多组织尚未预料到的方式，使现有的数据治理和隐私框架变得更加复杂。对于那些正在应对错综复杂的全球数据隐私法律体系的企业而言，如果在未充分了解代理程序如何处理个人数据、跨境传输以及监管义务的情况下部署这些程序，可能会面临重大挑战。  
• 第三方风险。与具有代理能力的供应商签订合同时，需要采用不同的视角。针对具有代理能力的AI，赔偿、责任限制和安全条款均需相应调整。

总法律顾问应向团队传达哪些内容

• 与会专家们坦率地谈到了智能代理未来令他们感到振奋之处，同时也坦率地指出了这一未来所需的治理机制。创新与治理之间的恰当平衡必须保持动态调整，这需要持续的协商，而这一过程离不开法律领导层的参与。
• 总法律顾问需要做好准备，以回答一个关键问题：如果必须向监管机构、法院或董事会解释代理人的行为，您需要哪些文件？而贵组织目前实际掌握了其中多少？
• 在座的每一位法律负责人都被敦促将这一点传达给各自的团队和董事会：确保智能代理的未来不仅是技术层面的挑战，更是治理、风险管理和领导力的挑战。  

主动型人工智能正以远超大多数法务部门准备速度的步伐，从概念走向实际应用。那些能够将早期介入与周密的治理框架相结合，明确权限划分、要求可审计性并坚持“安全设计”原则的总法律顾问，将能够引领其组织完成这一转型，而非被动应对。

点击此处阅读一篇《华尔街日报》的及时报道，其中提到的许多观点与我们讨论的内容不谋而合。继续前进！