Los hogares estadounidenses están cada vez más conectados internamente gracias al uso de electrodomésticos con inteligencia artificial.1Pero, ¿quién regula la seguridad de esos lavavajillas, microondas, frigoríficos y aspiradoras que funcionan con inteligencia artificial (IA)? El 2 de marzo de 2021, en un foro virtual al que asistieron partes interesadas de todo el sector, la Comisión de Seguridad de Productos de Consumo (CPSC) nos recordó a todos que ella tiene la última palabra en materia de regulación de la seguridad de los productos de consumo con IA y aprendizaje automático.
Panorama normativo en evolución
La CPSC es una agencia independiente compuesta por cinco comisionados que son nombrados por el presidente y confirmados por el Senado para desempeñar mandatos escalonados de siete años. Con el alejamiento de la administración Biden de la agenda de desregulación de la administración anterior y tres posibles oportunidades para dotar de personal a la comisión, los fabricantes, distribuidores y minoristas de productos de consumo deben esperar un mayor escrutinio y una mayor aplicación de la ley.2
La CPSC celebró el foro del 2 de marzo de 2021 con el fin de recabar información sobre normas consensuadas voluntarias, certificación e iniciativas de especificación de productos relacionadas con productos que utilizan IA, aprendizaje automático y tecnologías afines. La tecnología de los productos de consumo avanza más rápido que las normativas que la regulan, incluso con una nueva administración que apuesta por una mayor regulación. Como consecuencia, muchos creen que el panorama de la seguridad de la IA, el aprendizaje automático y las tecnologías afines es deficiente. La CPSC, con el fin de llenar este vacío, está recopilando información a través de eventos como este foro, centrándose en sus próximos pasos para la regulación de la seguridad relacionada con la IA.
Para influir en este marco normativo en desarrollo, los fabricantes e importadores de productos de consumo que utilizan estas tecnologías deben comprender y participar en el diálogo continuo sobre la futura regulación y aplicación. Si bien es probable que las directrices en estas áreas en evolución sean adaptables, el marco normativo en desarrollo de la CPSC puede sorprender a los fabricantes e importadores desprevenidos que no hayan participado en el debate.
La CPSC define la IA como «cualquier método para programar ordenadores o productos que les permita realizar tareas o comportamientos que requerirían inteligencia si los realizaran seres humanos» y el aprendizaje automático como «un proceso iterativo de aplicación de modelos o algoritmos a conjuntos de datos para aprender y detectar patrones y/o realizar tareas, como predicciones o toma de decisiones, que pueden aproximarse a algunos aspectos de la inteligencia».3Para informar el debate en curso sobre cómo regular la IA, el aprendizaje automático y las tecnologías relacionadas, la CPSC proporciona la siguiente lista de consideraciones:
- Identificación: Determinar la presencia de IA y aprendizaje automático en productos de consumo. ¿El producto tiene componentes de IA y aprendizaje automático?
- Implicaciones: Diferenciar qué funcionalidad de IA y aprendizaje automático existe. ¿Cuáles son las capacidades de IA y aprendizaje automático?
- Impacto: Discernir cómo las dependencias de la IA y el aprendizaje automático afectan a los consumidores. ¿Afectan la IA y el aprendizaje automático a la seguridad de los productos de consumo?
- Iteración: Distinguir cuándo evolucionan la IA y el aprendizaje automático y cómo esta transformación cambia los resultados. ¿Cuándo evolucionan o se transforman los productos? ¿Afectan estas evoluciones o transformaciones a la seguridad de los productos?4
Estos factores y las preguntas correspondientes guiarán los esfuerzos de la CPSC para establecer políticas y regulaciones que aborden las preocupaciones de seguridad actuales y potenciales.
Modelos regulatorios potenciales
Como se indicó en el foro del 2 de marzo de 2021, la CPSC está tomando algunas de sus ideas para su incipiente iniciativa de organizaciones que han promulgado normas de seguridad voluntarias para la IA, entre ellas Underwriters Laboratories (UL) y la Organización Internacional de Normalización (ISO). La norma UL 4600 de seguridad para la evaluación de productos autónomos abarca «sistemas totalmente autónomos que se desplazan, como los coches autónomos, junto con aplicaciones en minería, agricultura, mantenimiento y otros vehículos, incluidos los vehículos aéreos no tripulados ligeros».5Mediante un enfoque basado en reclamaciones, la norma UL 4600 tiene por objeto reconocer las desviaciones de las prácticas de seguridad tradicionales que requiere la autonomía, evaluando la fiabilidad del hardware y el software necesarios para el aprendizaje automático, la capacidad de detectar el entorno operativo y otras consideraciones de seguridad de la autonomía. La norma abarca temas como «la construcción de casos de seguridad, el análisis de riesgos, los aspectos relevantes para la seguridad del proceso de diseño, las pruebas, la cualificación de herramientas, la validación de la autonomía, la integridad de los datos, la interacción hombre-máquina (para los no conductores), las cuestiones relacionadas con el ciclo de vida, las métricas y la evaluación de la conformidad».6Aunque la norma UL 4600 menciona la necesidad de un plan de seguridad, no define qué debe incluir dicho plan.
Desde 2017, la ISO cuenta con un grupo de trabajo sobre IA formado por 30 miembros participantes y 17 miembros observadores.7Este grupo, conocido como SC 42, desarrolla normas internacionales en el ámbito de la IA y para aplicaciones de IA. El SC 42 proporciona orientación al JTC 1, un comité técnico conjunto específico de la ISO y la Comisión Electrotécnica Internacional (IEC), y a otros comités de la ISO y la IEC. Como resultado de su trabajo, la ISO ha publicado siete normas que abordan temas y subtemas relacionados con la IA, entre ellos la fiabilidad de la IA y la arquitectura de referencia de los macrodatos.⁸Veintidós normas siguen en fase de desarrollo.⁹
La CPSC también podría fijarse en la reciente actividad de la Unión Europea (UE) en materia de IA, incluido un libro blanco de veintiséis páginas publicado en febrero de 2020 que incluye planes para proponer nuevas regulaciones este año.10Tras el Reglamento General de Protección de Datos, es probable que la propuesta regulatoria de la UE haga hincapié en la privacidad y la gobernanza de los datos en sus esfuerzos por «generar confianza en la IA».11Otras áreas de interés son la intervención y la supervisión humanas, la solidez y la seguridad técnicas, la transparencia, la diversidad, la no discriminación y la equidad, el bienestar social y medioambiental, y la rendición de cuentas.12
***
Centrada en la inteligencia artificial y el aprendizaje automático, la CPSC está contemplando posibles nuevas regulaciones de seguridad para los productos de consumo. Los fabricantes e importadores de productos de consumo que utilizan estas tecnologías harían bien en prestar atención y participar en las futuras conversaciones sobre la elaboración de políticas iniciadas por la CPSC, o se arriesgan a quedarse atrás o verse en desventaja por lo que está por venir.
——————————————————-
1Véase Crag S. Smith, «A.I. Here, There, Everywhere», N.Y. Times (23 de febrero de 2021), https://www.nytimes.com/2021/02/23/technology/ai-innovation-privacy-seniors-education.html.
2Erik K. Swanholt y Kristin M. McGaver, «¡Atención, empresas de productos de consumo! Se espera que la CPSC intensifique la aplicación de las normas de seguridad de los productos » (24 de febrero de 2021), https://www.foley.com/en/insights/publications/2021/02/cpsc-enforcement-of-product-safety-regulations.
385 Fed. Reg. 77183-84.
4 Id.
5Underwriters Laboratories, Presentación de la norma de seguridad para la evaluación de vehículos autónomos y otros productos, https://ul.org/UL4600 (última visita el 30 de marzo de 2021). Es importante señalar que los vehículos autónomos entran dentro del ámbito regulador de la Administración Nacional de Seguridad Vial en Carreteras. Véase NHTSA, Sistemas de conducción automatizada, https://www.nhtsa.gov/vehicle-manufacturers/automated-driving-systems.
6Underwriters Laboratories, Presentación de la norma de seguridad para la evaluación de vehículos autónomos y otros productos, https://ul.org/UL4600 (última visita el 30 de marzo de 2021).
7 ISO, ISO/IEC JTC 1/SC 42, Inteligencia artificial, https://www.iso.org/committee/6794475.html (última visita el 30 de marzo de 2021).
8ISO, Normas de ISO/IEC JTC 1/SC 42, Inteligencia artificial, https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0 (última visita el 30 de marzo de 2021).
9 Id.
10Véase el Libro Blanco de la Comisión sobre la inteligencia artificial, COM (2020) 65 final (19 de febrero de 2020), https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf.
11 Comisión Europea, Políticas, Un enfoque europeo de la inteligencia artificial, https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence (última actualización: 9 de marzo de 2021).
12Libro Blanco de la Comisión sobre la inteligencia artificial, p. 9, COM (2020) 65 final (19 de febrero de 2020), https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf.
