«O mueres como un héroe o vives lo suficiente para convertirte en el villano». – Batman
La inteligencia artificial, el aprendizaje automático y la inteligencia sobre amenazas pueden reconocer patrones en los datos para permitir que los sistemas de seguridad aprendan de experiencias pasadas. Además, la inteligencia artificial y el aprendizaje automático permiten a las empresas reducir los tiempos de respuesta ante incidentes y cumplir con las mejores prácticas de seguridad. Sin embargo, como se detalla en este artículo, las herramientas de inteligencia artificial generativa presentan nuevas amenazas que deben abordar los desarrolladores de herramientas de inteligencia artificial y los profesionales de la ciberseguridad.
Un ejemplo de los aspectos positivos y negativos de la IA es el «fuzzing», que consiste en probar grandes cantidades de datos aleatorios introducidos en un sistema para identificar sus vulnerabilidades. La IA puede utilizar el fuzzing para probar rápidamente gran cantidad de entradas. Microsoft ha utilizado el fuzzing para mejorar la seguridad de su software. Sin embargo, los piratas informáticos también pueden utilizar el fuzzing para conocer las debilidades del sistema.
Si bien la IA puede mejorar la seguridad, al mismo tiempo puede facilitar a los ciberdelincuentes la penetración en los sistemas sin intervención humana.
Una serie reciente de ataques de prueba de concepto muestra cómo se puede crear un archivo ejecutable aparentemente benigno de tal manera que, cada vez que se ejecuta, realiza una llamada a la API de ChatGPT. En lugar de limitarse a reproducir ejemplos de fragmentos de código ya escritos, se puede solicitar a ChatGPT que genere versiones dinámicas y mutantes de código malicioso en cada llamada, lo que dificulta la detección de las vulnerabilidades resultantes por parte de las herramientas de ciberseguridad.
Ver artículo de referencia
