La AEPD confirma que el sistema accedió a facturas y modificó datos personales tras detectar vulnerabilidades sin apenas intervención humana.
La Agencia Española de Protección de Datos (AEPD) ha registrado la primera notificación de una brecha de datos personales ejecutada mediante un agente de inteligencia artificial conectado a un conocido modelo de lenguaje. El sistema desarrolló de forma autónoma distintas fases del ciberataque hasta lograr modificar datos personales y acceder a facturas almacenadas. La AEPD ha confirmado el caso, aunque todavía debe analizarlo en profundidad. Por el momento, no ha informado qué modelo de lenguaje se empleó, cuántas personas resultaron afectadas ni qué información concreta fue expuesta o alterada. El organismo precisa que se trata del primer incidente de este tipo comunicado oficialmente, «no significa que sea el primer ciberataque realizado con ayuda de IA que haya ocurrido en España, sino el primero que ha sido notificado a la AEPD bajo estas circunstancias».
Según la información aportada por la organización afectada, una tercera persona utilizó un agente de IA para ejecutar el ataque por etapas. Primero, el sistema buscó vulnerabilidades en archivos genéricos y, a continuación, consiguió iniciar sesión en una aplicación. Una vez dentro, el agente siguió examinando de manera autónoma el entorno en busca de nuevos fallos de seguridad. Tras localizar otra vulnerabilidad, habría logrado modificar datos personales y acceder a las facturas guardadas en el sistema. Sin embargo, la AEPD aclara que, aunque el agente actuó de forma autónoma durante parte del proceso, «detrás del ataque seguía existiendo una persona», que fue quien seleccionó el objetivo y puso en marcha la herramienta.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
La agencia matiza además que el uso de un determinado modelo de IA por parte del atacante no implica que el propio modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta hubiese sido diseñada específicamente para actividades maliciosas. En este caso, la IA fue empleada por un tercero dentro de un proceso de ataque contra los sistemas de una organización. Para la AEPD, el caso confirma que los ataques apoyados en agentes de IA «han dejado de ser únicamente una posibilidad teórica», aunque advierte de que una sola notificación no permite hablar de una tendencia generalizada. La principal diferencia respecto a algunos ataques tradicionales reside en el nivel de automatización, ya que un agente puede realizar tareas de búsqueda, análisis y explotación mucho más rápido y con una intervención humana limitada.
Por este motivo, la AEPD recomienda a las empresas que incluyan expresamente este tipo de escenarios en sus análisis de riesgos, contemplando que la IA puede alterar la probabilidad, velocidad y alcance de una brecha de datos. La agencia aconseja además prestar atención a las identidades digitales y a los permisos de cada cuenta, ya que una identidad con privilegios excesivos permitiría que un agente accediera con rapidez a recursos sensibles. Asimismo, sugiere revisar los tiempos de respuesta ante incidentes, dado que la automatización obliga a contar con mecanismos capaces de detectar y contener una amenaza con celeridad. En este sentido, la AEPD sostiene que la supervisión humana sigue siendo imprescindible, pero ya no es suficiente por sí sola, por lo que las empresas deberán combinarla con sistemas de detección y respuesta a la altura de las nuevas capacidades de los agentes de IA.
