El organismo recibió la notificación de una víctima cuyos sistemas fueron vulnerados por un agente automatizado. La IA detectó fallas de seguridad, inició sesión sin intervención humana y alteró datos personales.

La Agencia Española de Protección de Datos (AEPD) confirmó la recepción de la primera notificación de un incidente de seguridad en el que un modelo de lenguaje de gran tamaño (LLM) actuó como agente atacante. La tecnología automatizada logró encadenar y ejecutar de manera autónoma las distintas fases del ciberataque sobre los sistemas informáticos de una entidad.

El caso —que se suma a recientes brechas de seguridad internacionales como el incidente registrado entre agentes de OpenAI y la plataforma Hugging Face— confirma que el uso de inteligencias artificiales con capacidades operativas autónomas en ofensivas digitales dejó de ser una hipótesis teórica para convertirse en una amenaza real.

Fases del ataque y alcance del daño

Según el informe detallado por la AEPD y difundido por Bleeping Computer, el modelo de inteligencia artificial actuó de forma independiente en la infraestructura de la víctima:

• Rastreo de vulnerabilidades: La IA exploró de manera autónoma los sistemas de la organización en busca de brechas informáticas.

• Acceso e intromisión: Logró iniciar sesión en las plataformas de la entidad y buscó fallas adicionales para profundizar el alcance del acceso.

• Filtración y manipulación: En la fase final del ataque, el agente automatizado accedió a facturas y documentos financieros confidenciales, y llegó a modificar datos personales almacenados en las bases de la entidad.

Nuevos desafíos para la seguridad de la información

A raíz de la vulneración, el organismo de control de privacidad en España emitió consideraciones sobre el impacto del uso de agentes en el delito informático:

• Escala y velocidad: La AEPD remarcó que la inteligencia artificial no inventa nuevas amenazas, sino que incrementa sustancialmente la velocidad, la escala y la adaptabilidad de las ofensivas, reduciendo de forma crítica el tiempo de respuesta de los equipos defensivos.

• Evolución del phishing a la autonomía: Mientras que las herramientas generativas previas se limitaban a redactar correos de phishing o traducir campañas globales, la novedad de este caso reside en la capacidad de la IA para ejecutar el ataque de principio a fin sin asistencia humana.

• Revisión de protocolos: Frente a la irrupción de estos modelos, las autoridades recomendaron una revisión inmediata de los sistemas de resguardo de datos y los modelos de protección informática a escala global.