Aaron Maguregui comparte sus opiniones sobre los riesgos de la IA en la sombra en el sector sanitario
Aaron Maguregui, socio de Foley & Lardner LLP, fue citado en el artículo de Part B Newstitulado «¿Necesita una política sobre IA? Los expertos recomiendan establecer medidas de control ante la propagación de la “IA en la sombra”», en el que se analizan los riesgos emergentes derivados del uso no autorizado de la «IA en la sombra» por parte de los profesionales clínicos y la necesidad de establecer un marco sólido de gobernanza de la IA.
«Los resultados apuntan a una brecha en la gobernanza», señaló Maguregui. «Los médicos están adoptando las herramientas más rápido de lo que las organizaciones tardan en formalizar la supervisión de riesgos. Cuando los profesionales clínicos se sienten excluidos de la selección de herramientas, las organizaciones corren el riesgo de que se produzca una IA en la sombra y una gestión de riesgos fragmentada». Destacó riesgos adicionales y afirmó: «La escasa participación de los médicos, unida a un uso intensivo de la IA, aumenta la exposición en materia de seguridad de los datos, riesgo de negligencia y cumplimiento normativo».
Para hacer frente a estos retos, Maguregui destacó la importancia de «contar con políticas escritas sobre IA que definan los casos de uso autorizados, exijan la validación por parte del personal clínico de los resultados de la IA en la historia clínica e integren estas herramientas en los procesos existentes de control de calidad y revisión por pares, a fin de evitar que se difumine la línea divisoria entre la tecnología de apoyo y el ejercicio de la medicina».
También recomendó que «la empresa debería crear un comité de gobernanza interfuncional» para evaluar y aprobar nuevas herramientas, establecer normas de seguridad y crear vías para la innovación, al tiempo que se mitiga el riesgo legal.
(Se requiere suscripción)
