Cinco pasos que todo fabricante y responsable de la cadena de suministro debería seguir para crear un programa de gobernanza de la IA escalable

Puntos clave:

• La gobernanza de la IA en el sector manufacturero es una necesidad operativa y normativa. En un panorama tecnológico y normativo en rápida evolución, las empresas manufactureras que implementan sistemas de IA sin programas formales de gobernanza se enfrentan a retos legales, operativos y de cumplimiento cada vez más complejos.
• La gobernanza debe adaptarse al riesgo y al grado de autonomía. No todos los sistemas de IA requieren el mismo nivel de supervisión. Una alerta de mantenimiento predictivo plantea riesgos distintos a los de un agente de compras autónomo que ejecuta órdenes de compra. Las organizaciones necesitan marcos de control por niveles que adapten la gobernanza de forma proporcional a los riesgos asociados a cada sistema de IA.
• Mantén la flexibilidad y amplía la escala de forma responsable. Las organizaciones que desarrollen programas de gobernanza diseñados para la adaptabilidad, en lugar de centrarse únicamente en las capacidades actuales, estarán en condiciones de ampliar la escala de la IA de forma responsable a medida que los sistemas autónomos, los modelos del mundo y los ecosistemas multiagente vayan transformando las operaciones de fabricación.

La rápida implantación de la inteligencia artificial (IA) agentiva en las operaciones de fabricación y de la cadena de suministro está creando una brecha cada vez mayor entre la capacidad de los sistemas y la supervisión organizativa. Los agentes de IA ya están negociando de forma autónoma —o pronto podrían hacerlo— las condiciones de adquisición, ejecutando órdenes de compra, ajustando los calendarios de producción y tomando decisiones de control de calidad, a menudo con una intervención humana limitada o nula. Sin embargo, una encuesta de PricewaterhouseCoopers de 2026 reveló que solo el 37 % de los responsables de operaciones se sienten cómodos asignando a agentes de IA la ejecución de procesos completos de principio a fin, y solo el 27 % ha integrado plenamente una estrategia de IA en todas las unidades de negocio.

Las consecuencias de este vacío de gobernanza no son hipotéticas. Pensemos en un proveedor de automoción de primer nivel que implementa un agente de previsión de la demanda basado en IA en todas sus operaciones de estampación. El agente reduce de forma autónoma los pedidos de compra a un proveedor de acero basándose en una señal de demanda errónea, lo que desencadena una disputa sobre el volumen mínimo contractual, gastos de transporte urgente para cubrir la escasez resultante y/o una penalización por parte del fabricante de equipos originales (OEM) por incumplimiento de los plazos de entrega. Sin estructuras de gobernanza documentadas, es posible que el fabricante no pueda demostrar qué medidas de supervisión se habían establecido, reconstruir por qué el agente tomó esa decisión ni determinar si la responsabilidad recae en el proveedor o en quien lo implementó.

Este artículo, que forma parte de la serie «IA en la fabricación y la cadena de suministro 2026» de Foley, describe cinco medidas que los fabricantes y los responsables de la cadena de suministro deberían adoptar ahora mismo para crear programas de gobernanza que gestionen la exposición actual a los riesgos y, al mismo tiempo, se adapten al rápido avance de las capacidades de la IA.

Paso 1: Crear un comité multifuncional de gobernanza de la IA

Los fabricantes deberían crear un comité formal de gobernanza de la IA, que cuente con el respaldo de la dirección y en el que estén representados los departamentos de operaciones, TI, asuntos jurídicos, cumplimiento normativo, seguridad y compras. El comité debería definir sus estatutos, su autoridad para la toma de decisiones, la periodicidad de sus reuniones y sus obligaciones de información ante el consejo de administración.

Para que quede claro, no se trata de un comité tecnológico, sino de un órgano de gobernanza de riesgos. Los riesgos específicos de la IA abarcan las categorías de ciberseguridad, operativas, normativas y de reputación, y deben incorporarse formalmente al marco de gestión de riesgos corporativos de la organización, en lugar de quedar aislados dentro del departamento de TI. El comité también debe mantener un inventario exhaustivo de IA en el que se documenten todos los sistemas de IA en uso, incluyendo su finalidad, el acceso a los datos, el nivel de autonomía y la clasificación de riesgos.

Paso 2: Clasificar los sistemas de IA según su nivel de riesgo y aplicar controles por niveles

No todas las implementaciones de IA requieren el mismo nivel de supervisión. Una sencilla herramienta de detección de anomalías que supervisa los patrones de vibración de los equipos requiere un modelo de gobernanza diferente al de un agente autónomo que realiza transacciones de adquisición. Los fabricantes deberían implementar un marco de control por niveles adaptado al grado de autonomía y a la gravedad de las consecuencias. Por ejemplo:

• Nivel 1 (Asesoramiento): La IA ofrece recomendaciones; los seres humanos toman las decisiones. Basta con la validación estándar del modelo y una revisión periódica.
• Nivel 2 (semiautónomo): la IA realiza recomendaciones y los humanos las aprueban. Se requieren pruebas en entorno de pruebas previas a la implementación, controles de aprobación con intervención humana y un seguimiento periódico de las desviaciones.
• Nivel 3 (Totalmente autónomo): La IA toma decisiones y actúa sin intervención humana. Son esenciales la supervisión continua, los agentes de control, los mecanismos de apagado de emergencia, los registros de auditoría completos y los protocolos de supervisión entre agentes.

Esta clasificación, o una similar, debe documentarse para cada sistema de IA antes de su implementación, un requisito que se ajusta a los marcos normativos emergentes, como el enfoque basado en el riesgo de la Ley de IA de la UE y la función MAP del Marco de Gestión de Riesgos de la IA (AI RMF) del NIST.

Paso 3: Implantar protocolos documentados de supervisión humana y de emergencia

Las organizaciones deben desarrollar y documentar una estructura de supervisión humana antes de implementar sistemas de IA que tomen o influyan en decisiones de gran trascendencia. Esto incluye designar quién tiene autoridad para anular las decisiones de la IA, definir qué factores desencadenan la escalación y establecer cómo se registran los casos de anulación.

En el caso de operaciones de fabricación de gran volumen y en las que el tiempo es un factor crítico, el modelo adecuado suele ser el de «personas en el bucle, no fuera del bucle», en el que los agentes actúan y las personas supervisan e intervienen cuando es necesario, en lugar de una aprobación decisión por decisión que anularía las ganancias en eficiencia que aporta la IA. Los mecanismos de parada de emergencia son imprescindibles para los sistemas de IA que operan en entornos críticos para la seguridad. Para un análisis más detallado de cómo las decisiones autónomas de la IA generan riesgos de responsabilidad civil, consulte nuestro artículo anterior sobre la responsabilidad civil de la IA agentiva en las operaciones de la cadena de suministro.

Paso 4: Exigir transparencia a los proveedores y reforzar las garantías contractuales

La mayoría de los fabricantes no desarrollan sus sistemas de IA internamente. Cada dependencia de terceros conlleva un riesgo que los informes SOC 2 estándar y los cuestionarios generalizados no están diseñados para evaluar. Los proveedores de IA actualizan los modelos, cambian las fuentes de datos y modifican las metodologías de entrenamiento, a menudo sin notificarlo explícitamente.

Los fabricantes deberían, siempre que sea posible:

• Exigir contractualmente a los proveedores que revelen las fuentes de datos utilizadas en el entrenamiento de los modelos, los factores y las ponderaciones que influyen en los resultados, así como los protocolos de prueba.
• Establezca una periodicidad en las evaluaciones (como mínimo una vez al año; trimestralmente en el caso de los sistemas críticos) y no se base nunca en evaluaciones obsoletas como prueba del cumplimiento continuo.
• Negociar estructuras de responsabilidad que reflejen el riesgo operativo real, incluyendo cláusulas de indemnización, derechos de auditoría y requisitos de notificación de incidentes con plazos de respuesta definidos.
• Elaborar planes de contingencia ante el fallo de un proveedor o la degradación de un modelo, incluyendo procedimientos manuales de respaldo.

Paso 5: Diseñar una arquitectura de gobernanza que permita la escalabilidad

Lo más importante es que el reto de la gobernanza se está acelerando. Los modelos de base mundiales permiten a los fabricantes simular entornos fabriles completos. Los sistemas multiagente están multiplicando las identidades no humanas en los flujos de trabajo de las empresas. Las organizaciones que establezcan una gobernanza pensada únicamente para las capacidades actuales se verán constantemente a la zaga de su propia exposición al riesgo.

Para dar respuesta a las necesidades de escalabilidad de los sistemas de gobernanza de la IA, los fabricantes deberían:

• Sigue una trayectoria de madurez en la automatización, como por ejemplo: «Gatear» (inventario de IA y activos de datos) → «Andar» (automatizar pasos de gobernanza como la detección de desviaciones y las comprobaciones de cumplimiento) → «Correr» (integrar la gobernanza en todos los flujos de trabajo).
• Incorporar controles en las fases iniciales para que las nuevas capacidades de IA incorporen de forma predeterminada los mecanismos de gobernanza.
• Aprovecha los entornos de gemelos digitales y de pruebas para realizar pruebas de gobernanza previas a la implementación.
• Desarrollar de forma sistemática los conocimientos sobre IA en las organizaciones. La Ley de IA de la UE así lo exige, y los operadores deben estar capacitados para interpretar de forma crítica los resultados de la IA, en lugar de aceptarlos sin cuestionarlos.

Crear un sistema de gobernanza que se adapte a los nuevos tiempos

La gobernanza de la IA en el sector manufacturero no es un ejercicio de cumplimiento normativo puntual. Por el contrario, debe convertirse en una función operativa permanente que evolucione al mismo tiempo que la tecnología que supervisa. Las empresas manufactureras que establezcan ahora programas de gobernanza escalables estarán en condiciones de aprovechar las ventajas operativas de la IA, al tiempo que mantienen la supervisión, la documentación y la arquitectura contractual necesarias para gestionar el riesgo jurídico a medida que se amplían las capacidades autónomas.

Los equipos de Fabricación, Cadena de Suministro e Inteligencia Artificial de Foley & Lardner están a su disposición para ayudar a las organizaciones a diseñar e implementar programas de gobernanza de la IA adaptados a las operaciones de fabricación y de la cadena de suministro. Estaremos encantados de analizar con usted cómo estas cuestiones pueden afectar a las operaciones de su empresa.

Suscríbete a la serie para recibir notificaciones sobre nuevos artículos.