Los actores de amenazas están intentando aprovechar una herramienta de seguridad ofensiva de inteligencia artificial (IA) recientemente lanzada llamada HexStrike AI para aprovechar las fallas de seguridad reveladas recientemente.
HexStrike AI, según su sitio web , se presenta como una plataforma de seguridad impulsada por la IA para automatizar el reconocimiento y la detección de vulnerabilidades con el objetivo de acelerar las operaciones autorizadas de trabajo en equipo rojo, la caza de recompensas por errores y los desafíos de Capture the Flag (CTF).
Por información compartido en su repositorio GitHub, la plataforma de código abierto se integra con más de 150 herramientas de seguridad para facilitar el reconocimiento de la red, las pruebas de seguridad de las aplicaciones web, la ingeniería inversa y la seguridad en la nube. También es compatible con docenas de agentes de inteligencia artificial especializados que están diseñados para detectar vulnerabilidades, desarrollar exploits, descubrir cadenas de ataque y gestionar errores.
Sin embargo, según un informe de Check Point, los actores de amenazas están probando la herramienta para obtener una ventaja adversa, intentando convertirla en un arma para aprovechar las vulnerabilidades de seguridad descubiertas recientemente.
«Este es un momento crucial: se ha afirmado que una herramienta diseñada para reforzar las defensas se está reutilizando rápidamente para convertirse en un motor de explotación, lo que cristaliza los conceptos anteriores en una plataforma ampliamente disponible que impulsa ataques en el mundo real», dijo la empresa de ciberseguridad dijo .
Los debates en los foros sobre ciberdelincuencia de la darknet muestran que los actores de amenazas afirman haber explotado con éxito las tres fallas de seguridad que Citrix divulgado la semana pasada usaron HexStrike AI y, en algunos casos, incluso marcaron instancias de NetScaler aparentemente vulnerables que luego se ofrecen a otros delincuentes para su venta.
Check Point dijo que el uso malintencionado de estas herramientas tiene importantes implicaciones para la ciberseguridad, ya que no solo reduce la ventana entre la divulgación pública y la explotación masiva, sino que también ayuda a paralelizar la automatización de los esfuerzos de explotación.
Además, reduce el esfuerzo humano y permite volver a intentar automáticamente los intentos fallidos de explotación hasta que tengan éxito, lo que, según la empresa de ciberseguridad, aumenta el «rendimiento general de la explotación».
«La prioridad inmediata es clara: parchear y reforzar los sistemas afectados», añadió. «La IA de Hexstrike representa un cambio de paradigma más amplio, en el que la orquestación de la IA se utilizará cada vez más para convertir las vulnerabilidades en armas de forma rápida y a gran escala».
La revelación se produce cuando dos investigadores de Alias Robotics y Oracle Corporation dijeron en un estudio publicado recientemente que los agentes de ciberseguridad impulsados por la inteligencia artificial, como PentestGPT, conllevan un mayor riesgo de inyección rápida, lo que convierte de manera efectiva las herramientas de seguridad en ciberarmas mediante instrucciones ocultas.
«El cazador se convierte en el cazado, la herramienta de seguridad se convierte en un vector de ataque y lo que comenzó como una prueba de penetración termina cuando el atacante obtiene acceso a la infraestructura del probador», afirman los investigadores Víctor Mayoral-Vilches y Per Mannermaa Rynning dijo .
«Los agentes de seguridad actuales basados en LLM son fundamentalmente inseguros para su despliegue en entornos hostiles sin medidas defensivas integrales».