Los ataques ejecutados de forma autónoma por la inteligencia artificial (IA) llegan a España. La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de datos personales en la que el incidente habría sido ejecutado mediante un agente de inteligencia artificial. Aunque la Agencia no detalla a qué IA le corresponde la autoría del ataque, sí habla de un «conocido modelo de lenguaje».. Según un aviso emitido por la AEPD el 14 de septiembre, el agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos y consiguió realizar un inicio de sesión correcto. Tras acceder al sistema, comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas.. Este aviso derivada de la notificación presentada por la organización afectada, que aún debe ser analizada. Además, la Agencia Española de Protección de Datos insiste en que «la utilización de un concreto modelo de IA tampoco implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas».. Para la AEPD, lo ocurrido es una «señal» de que los ataques apoyados en inteligencia artificial «han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales».. Aunque el empleo de inteligencia artificial en actividades maliciosas no constituye un fenómeno nuevo, la aparición de agentes de IA introduce «un cambio cualitativo». «Un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación, de forma autónoma, en función de lo que encuentra», alerta la Agencia.. Así, aunque la IA «no crea nuevas amenazas», «sí aumenta la velocidad, escala y capacidad de adaptación de técnicas maliciosas ya conocidas, reduciendo el tiempo disponible para detectarlas y contenerlas». Este aviso llega coincidiendo con el llamamiento generalizado del sector de la IA a ralentizar su desarrollo por sus graves riesgos de seguridad.. El Centro Criptológico Nacional (CCN) también ha advertido sobre esta evolución. En su guía de buenas prácticas frente a la IA ofensiva, el organismo señala que estas capacidades ya se están integrando en campañas reales y plantea la necesidad de reforzar la gestión de vulnerabilidades, la seguridad de las identidades, la supervisión de la cadena de suministro y el control sobre el uso de agentes de inteligencia artificial.. Para la AEPD, los ataques ejecutados por agentes de IA confirman «la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos». No basta con incluir una referencia genérica a malware, phishing o acceso no autorizado, ya que esta automatización puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente.. En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez.. En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar a la velocidad de una máquina y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.. La cuestión tiene además una dimensión económica: cuanto mayor sea el número de sistemas conectados y mayor sea el nivel de acceso concentrado en una misma identidad, mayor puede ser el impacto potencial de una credencial comprometida.. Asimismo, la Agencia Española de Protección de Datos concluye que la supervisión humana continúa siendo necesaria, pero debe estar acompañada de mecanismos tecnológicos capaces de identificar comportamientos anómalos, limitar accesos y contener determinadas acciones sin esperar necesariamente a una intervención manual.. El caso no permite por sí solo establecer una tendencia estadística sobre el uso de agentes de inteligencia artificial en ciberataques, pero debe ser una señal de alerta para que Administraciones, empresas y organismos desplieguen cortafuegos adaptados a los nuevos riesgos que trae la IA. «Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor», avisa la AEPD.
Los ataques ejecutados de forma autónoma por la inteligencia artificial (IA) llegan a España. La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de datos personales en la que el incidente habría sido ejecutado mediante un agente de inteligencia artificial. Aunque la Agencia no detalla a qué IA le corresponde la autoría del ataque, sí habla de un «conocido modelo de lenguaje».. Según un aviso emitido por la AEPD el 14 de septiembre, el agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos y consiguió realizar un inicio de sesión correcto. Tras acceder al sistema, comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas.. Este aviso derivada de la notificación presentada por la organización afectada, que aún debe ser analizada. Además, la Agencia Española de Protección de Datos insiste en que «la utilización de un concreto modelo de IA tampoco implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas».. Para la AEPD, lo ocurrido es una «señal» de que los ataques apoyados en inteligencia artificial «han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales».. Aunque el empleo de inteligencia artificial en actividades maliciosas no constituye un fenómeno nuevo, la aparición de agentes de IA introduce «un cambio cualitativo». «Un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación, de forma autónoma, en función de lo que encuentra», alerta la Agencia.. Así, aunque la IA «no crea nuevas amenazas», «sí aumenta la velocidad, escala y capacidad de adaptación de técnicas maliciosas ya conocidas, reduciendo el tiempo disponible para detectarlas y contenerlas». Este aviso llega coincidiendo con el llamamiento generalizado del sector de la IA a ralentizar su desarrollo por sus graves riesgos de seguridad.. El Centro Criptológico Nacional (CCN) también ha advertido sobre esta evolución. En su guía de buenas prácticas frente a la IA ofensiva, el organismo señala que estas capacidades ya se están integrando en campañas reales y plantea la necesidad de reforzar la gestión de vulnerabilidades, la seguridad de las identidades, la supervisión de la cadena de suministro y el control sobre el uso de agentes de inteligencia artificial.. Para la AEPD, los ataques ejecutados por agentes de IA confirman «la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos». No basta con incluir una referencia genérica a malware, phishing o acceso no autorizado, ya que esta automatización puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente.. En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez.. En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar a la velocidad de una máquina y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.. La cuestión tiene además una dimensión económica: cuanto mayor sea el número de sistemas conectados y mayor sea el nivel de acceso concentrado en una misma identidad, mayor puede ser el impacto potencial de una credencial comprometida.. Asimismo, la Agencia Española de Protección de Datos concluye que la supervisión humana continúa siendo necesaria, pero debe estar acompañada de mecanismos tecnológicos capaces de identificar comportamientos anómalos, limitar accesos y contener determinadas acciones sin esperar necesariamente a una intervención manual.. El caso no permite por sí solo establecer una tendencia estadística sobre el uso de agentes de inteligencia artificial en ciberataques, pero debe ser una señal de alerta para que Administraciones, empresas y organismos desplieguen cortafuegos adaptados a los nuevos riesgos que trae la IA. «Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor», avisa la AEPD.
