IA
La AEPD registra en España la primera brecha de datos causada por un ataque ejecutado mediante un agente de inteligencia artificial
Un agente de inteligencia artificial localizó vulnerabilidades en una organización y consiguió modificar datos personales y acceder a facturas.
Publicidad
La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de datos personales provocada por un ataque ejecutado mediante un agente de IA, capaz de realizar diferentes fases del proceso de forma autónoma.
El incidente afectó a una organización española y permitió acceder a información almacenada en sus sistemas. Según recoge la AEPD, "un robot ha atacado de forma autónoma una organización en España por primera vez en la historia, y ha accedido a datos personales y facturas".
Hasta ahora, la inteligencia artificial podía utilizarse como herramienta de apoyo en determinadas prácticas, como la preparación de correos de phishing o la traducción de fraudes. En este caso, sin embargo, un tercero habría empleado un agente de IA para ejecutar y enlazar diferentes acciones durante el ataque.
La IA buscó vulnerabilidades de forma autónoma
El proceso comenzó con la búsqueda de fallos en archivos genéricos. Posteriormente, el sistema consiguió iniciar sesión correctamente y continuó examinando la aplicación en busca de puntos vulnerables.
"Comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas", recoge la información de la AEPD a partir del análisis elaborado por Francisco Pérez Bes.
Este tipo de agentes pueden recibir un objetivo, establecer los pasos necesarios para alcanzarlo, probar diferentes alternativas y modificar el procedimiento durante su ejecución sin requerir instrucciones humanas para cada una de las acciones.
La AEPD precisa, no obstante, que el uso de un modelo de lenguaje determinado no significa que esa herramienta haya sido creada con fines maliciosos ni que la infraestructura de su proveedor haya resultado comprometida. En este caso, "un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque".
Un nuevo escenario para la ciberseguridad
El incidente supone la materialización de un riesgo que hasta ahora se contemplaba principalmente como una posibilidad. La propia Agencia señala que el caso "constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales".
Más Noticias
La preocupación se centra especialmente en la capacidad de estos sistemas para actuar con rapidez y ejecutar diferentes tareas de forma automatizada. La inteligencia artificial no introduce necesariamente nuevas amenazas, pero puede reducir el margen disponible para detectar una intrusión y contenerla.
Publicidad
