California propone la Ley de Innovación Segura y Protegida para Sistemas de Inteligencia Artificial de Vanguardia con el fin de regular la IA.
El senador del estado de California Wiener propuso el proyecto de ley SB 1047 para regular los riesgos asociados con la IA. Si se aprueba, el proyecto de ley exigiría a los desarrolladores de IA determinar si un modelo de IA tiene una «determinación de seguridad positiva», lo que se definiría como que el desarrollador tiene una creencia razonable de que ciertos tipos de modelos de IA no tienen una capacidad peligrosa, o se acercan a tener una capacidad peligrosa, teniendo en cuenta el margen de seguridad y las modificaciones posteriores al entrenamiento.
- Protocolo de seguridad (incluido un protocolo de seguridad y protección independiente que cumpla determinadas especificaciones).
- Implementar medidas de seguridad razonables para evitar que los usuarios utilicen las capacidades peligrosas del modelo de IA.
- Abstenerse de utilizar el modelo si existe un riesgo inaceptable de uso de las capacidades peligrosas.
Aunque la ley aún tiene un largo camino por recorrer antes de ser promulgada, los desarrolladores de modelos tal vez deseen considerar las políticas y procedimientos propuestos por el proyecto de ley para minimizar los riesgos asociados al uso de la IA.
Este proyecto de ley promulgaría la Ley de Innovación Segura y Protegida para Sistemas de Inteligencia Artificial de Vanguardia con el fin, entre otras cosas, de exigir a los desarrolladores de modelos cubiertos, tal y como se definen, que determinen si pueden realizar una evaluación positiva de seguridad con respecto a un modelo cubierto antes de iniciar el entrenamiento de dicho modelo, tal y como se especifica. El proyecto de ley también crearía una «División de Modelos Fronterizos» dentro del Departamento de Tecnología del estado.
Ver artículo de referencia
Si se promulga, el proyecto de ley también establecería ciertos requisitos para los desarrolladores de modelos cuando el modelo no cumpla los requisitos para una determinación positiva de seguridad. Estos requisitos incluyen:
