Google detecta el primer exploit zero-day generado por inteligencia artificial: script en Python apuntaba a la autenticación 2FA

Google ha confirmado la interceptación del primer exploit de día cero generado mediante modelos de lenguaje de inteligencia artificial del que se tiene registro. El hallazgo, realizado por investigadores del Google Threat Intelligence Group (GTIG), marca un punto de inflexión al demostrar que la IA dejó de ser un concepto teórico en el ámbito del cibercrimen para convertirse en una herramienta de ataque operativa en manos de actores maliciosos experimentados.

El exploit consistía en un script en Python diseñado específicamente para saltarse el sistema de autenticación de dos pasos (2FA) de una herramienta de administración web de código abierto ampliamente utilizada. De haber funcionado, el ataque habría permitido a los atacantes acceder a cuentas protegidas incluso cuando los usuarios contaban con contraseñas válidas. Los investigadores identificaron que se trataba de código generado por IA tras detectar alucinaciones y otros patrones característicos de los modelos de lenguaje grande (LLM), incluyendo anomalías en la puntuación y en la estructura del código que delataron su origen artificial.

El descubrimiento plantea alertas significativas para la comunidad de ciberseguridad global. La capacidad de automatizar la creación de vulnerabilidades de día cero reduce las barreras de entrada para actores menos sofisticados y multiplica el volumen potencial de ataques dirigidos. Las empresas que dependen de herramientas de código abierto y sistemas de autenticación multifactor enfrentan ahora la necesidad de reforzar sus controles ante un panorama de amenazas donde la IA actúa como catalizador. Google ha publicado los indicadores de compromiso asociados para que las organizaciones puedan verificar si fueron afectadas.