Agentes de IA autónomos y ciberseguridad: una nueva dimensión de los ciberataques

Una investigación de NorForge revela una campaña en la que agentes de inteligencia artificial habrían participado de forma autónoma en ataques contra más de 1.200 sitios web, con más de un centenar de compromisos.

El caso pone sobre la mesa un nuevo escenario para la ciberseguridad empresarial.

La evolución de la inteligencia artificial está transformando numerosos procesos empresariales, pero también está modificando el panorama de la ciberseguridad. La automatización que permite mejorar la productividad y agilizar tareas también puede ser utilizada por los ciberdelincuentes para incrementar la escala y velocidad de sus ataques.

Un ejemplo reciente es la investigación publicada por la firma de ciberseguridad NorForge, que ha identificado una campaña en la que un atacante utilizó agentes de inteligencia artificial autónomos para buscar vulnerabilidades y tratar de comprometer sitios web con una intervención humana muy limitada. 

La operación habría realizado más de 1.200 intentos de intrusión y comprometido más de 100 sitios web, entre los que figuran organizaciones como John Deere, SharkNinja y Cummins. Los objetivos se encontraban principalmente en Estados Unidos, Canadá, Australia y Japón. 

¿Qué cambia con los agentes de IA autónomos?

La característica más relevante del caso no es únicamente el número de organizaciones afectadas, sino el grado de autonomía de la tecnología utilizada.

Según la investigación, el atacante utilizó Cairn, una plataforma de código abierto diseñada para coordinar agentes de IA capaces de trabajar sobre un objetivo determinado. El usuario establece el punto de partida y el resultado que quiere conseguir, mientras los agentes pueden desarrollar diferentes tareas y adaptar su comportamiento en función de los resultados obtenidos. 

En esta campaña, las instrucciones iniciales atribuidas al atacante ocupaban menos de 100 caracteres en chino. A partir de ellas, los agentes podían realizar procesos de reconocimiento, buscar posibles vulnerabilidades y probar diferentes vías de acceso sin necesitar instrucciones humanas para cada paso. 

Es precisamente esta capacidad la que introduce un cambio importante en el escenario de las amenazas digitales: la IA no se limita a ayudar al atacante, sino que puede automatizar partes completas del proceso.

Más de 1.200 intentos y un coste reducido

Los datos conocidos también muestran cómo la IA puede modificar la economía de un ciberataque.

NorForge documentó más de 1.200 intentos contra sitios web y más de 100 compromisos, mientras que el coste estimado de los servicios de inteligencia artificial empleados en toda la operación habría rondado los 5.000 dólares. El cálculo realizado por los investigadores situaría el coste aproximado en unos 50 dólares por intrusión conseguida. 

Cada ataque exitoso habría necesitado una media cercana a 23 horas de actividad automatizada, durante las cuales los agentes podían continuar probando diferentes alternativas cuando una vía de acceso no daba resultado.

 
Esto muestra uno de los principales retos que plantea la combinación entre IA y ciberseguridad: un único atacante puede automatizar actividades que anteriormente requerían mucho más tiempo y trabajo manual.

¿Qué ocurrió con las empresas afectadas?

Aunque el número de sitios comprometidos resulta significativo, es importante diferenciar un acceso a un sitio web de una filtración de información confidencial.

John Deere indicó que tomó medidas de remediación y que no disponía de evidencias de que se hubiese accedido a información sensible. 

Por su parte, SharkNinja señaló que el incidente se limitó a un sitio independiente que alojaba información de soporte de producto y que la amenaza había sido contenida. 

En el caso de Cummins, la compañía estaba investigando un posible ataque dirigido contra un sitio web gestionado por un proveedor externo. 

Por tanto, los datos publicados no permiten concluir que todas las organizaciones afectadas hayan sufrido una filtración de información.

La IA también transforma las amenazas de ciberseguridad

Hasta hace relativamente poco, buena parte de la conversación empresarial sobre inteligencia artificial estaba centrada en productividad, automatización o generación de contenidos.

La aparición de agentes de IA capaces de ejecutar tareas de manera autónoma introduce otra variable.

Un atacante puede servirse de estos sistemas para automatizar tareas repetitivas, mantener procesos operativos durante muchas horas y probar diferentes alternativas de forma continuada. El caso investigado por NorForge demuestra precisamente cómo esa autonomía puede utilizarse con fines maliciosos. 

Esto no significa que las herramientas de IA o los agentes autónomos sean inseguros por definición. De hecho, pueden utilizarse en entornos legítimos de investigación y comprobación de seguridad. El propio creador de Cairn ha señalado que la plataforma no fue diseñada para realizar ataques y que su utilización maliciosa depende del operador. 

El reto está en cómo se utilizan y controlan estas capacidades.

¿Qué implica para las empresas de Mataró, Barcelona y el resto de España?

Aunque los incidentes identificados en esta campaña se hayan localizado fuera de España, el problema no depende de la ubicación geográfica.

Para una empresa de Mataró, el Maresme, Barcelona o cualquier otro punto de España, la conclusión más importante es que la superficie de exposición digital debe revisarse constantemente.

No se trata únicamente de proteger ordenadores o cuentas de correo electrónico. Una estrategia de ciberseguridad empresarial debe contemplar también sitios web, aplicaciones, servicios publicados en Internet, accesos remotos, identidades digitales, proveedores externos y sistemas en la nube.

Además, la automatización mediante IA puede favorecer que el análisis de vulnerabilidades se produzca a una escala mucho mayor. Por ello, mantener servicios expuestos sin actualizar o sin una supervisión adecuada puede aumentar el riesgo.

Cinco aspectos que conviene revisar

Ante este nuevo escenario, las empresas deberían prestar especial atención a:

1.    Mantener actualizados sistemas y aplicaciones, especialmente aquellos accesibles desde Internet.
2.    Revisar periódicamente las vulnerabilidades de páginas web, servidores y aplicaciones.
3.    Proteger las identidades y los accesos, utilizando autenticación multifactor siempre que sea posible.
4.    Monitorizar comportamientos anómalos, para detectar intentos repetitivos o patrones poco habituales.
5.    Incluir proveedores y servicios externos en la estrategia de seguridad, ya que la cadena de suministro tecnológica también forma parte de la superficie de riesgo.

De la automatización empresarial a la automatización de los ataques

La inteligencia artificial está acelerando la transformación digital de las empresas. El mismo principio puede aplicarse, sin embargo, a quienes intentan vulnerar sus sistemas.

El caso investigado por NorForge constituye un ejemplo especialmente relevante porque muestra que un atacante puede apoyarse en agentes autónomos para ampliar considerablemente el número de objetivos sobre los que trabaja simultáneamente. 

Para las empresas, la respuesta no debería ser desconfiar de la inteligencia artificial, sino adoptar una visión de la ciberseguridad más continua, preventiva y adaptada a un entorno donde tanto las defensas como las amenazas utilizan cada vez más automatización.