Los agentes de IA cruzaron una línea esta semana y la noticia no vino de un laboratorio, vino del equipo de inteligencia de amenazas de Google. El GTIG publicó el 16 de noviembre un informe donde documenta, por primera vez, actores que automatizaron el ciclo completo —encontrar una vulnerabilidad y explotarla— sin una persona aprobando cada paso.
No es una prueba de concepto. El framework estaba corriendo en un servidor que quedó expuesto, y Google pudo ver cómo trabajaba.
Qué encontró el GTIG exactamente
El hallazgo central es un framework multiagente al que llamaron exploit_agent, alojado en un servidor de staging mal configurado. Su tarea era aburrida y brillante a la vez: comparar el código de aplicaciones web populares antes y después de que se anunciara un parche, deducir qué estaba arreglando ese parche y escribir el exploit correspondiente. Análisis diferencial continuo, en bucle, sin humano en el medio.
El informe menciona además varios frameworks ofensivos multiagente que ya circulan: ARTEX, CAIRN, CyberStrikeAI y PentAGI. De CAIRN dicen algo que da para pensar: acorta tanto el encadenado de técnicas que hubo intrusiones que pasaron del primer reconocimiento al acceso privilegiado en menos de tres horas.
- ▸Los usan tanto grupos motivados por dinero como actores de espionaje que Google asocia a China, desde al menos agosto de 2026.
- ▸Los sectores tocados son los de siempre, pero la lista es larga: servicios financieros, gobierno, tecnología, defensa, salud y energía.
- ▸Buena parte de estos frameworks es de código abierto, así que la barrera de entrada bajó para cualquiera con una API key y ganas.
Por qué no es "otra noticia de IA y ciberseguridad"
Hasta hace poco lo que veíamos era IA asistiendo: redactaba el correo de phishing, resumía el resultado de un escaneo, sugería un payload. Siempre con alguien revisando y decidiendo el siguiente paso. Lo nuevo acá es el bucle cerrado. El agente observa, decide, actúa, verifica si funcionó y vuelve a empezar. Eso es orquestación, no autocompletado.
Te soy honesto: lo que más me llamó la atención del informe no es la parte ofensiva, es la de ingeniería. Un agente que hace diffs de parches, razona sobre el cambio y escribe código para probar su hipótesis es, técnicamente, el mismo patrón que un agente que revisa pull requests o que migra un pipeline. Mismo diseño, distinta intención. Lo que separa a uno del otro no es el modelo: son las herramientas que le diste y los límites que le pusiste.
La ventana entre que sale un parche y que tu equipo lo aplica siempre fue tu riesgo. La diferencia es que ahora esa ventana la aprovecha algo que no duerme.
Qué cambia si ya tienes agentes en producción
Hay dos lecturas y conviene separarlas, porque se mezclan todo el tiempo en LinkedIn.
1. Tu calendario de parches ya no da para una semana
Si el atacante deduce el bug leyendo el parche, el reloj arranca cuando el proveedor publica, no cuando alguien escribe el exploit. Para un equipo de datos esto pega en lo de siempre: el Airflow autohospedado que nadie actualiza, el notebook con una librería de 2024, el conector que alguien instaló para una prueba y quedó. Un inventario real de dependencias vale más hoy que hace un mes.
2. Tu propio agente es superficie de ataque
Un agente con acceso a tu base de datos, a tu repositorio y a un navegador es exactamente la pieza que un atacante querría controlar. Y controlarlo no requiere entrar a tu servidor: alcanza con meter instrucciones en algo que el agente va a leer. Un ticket de soporte, un PDF subido por un cliente, el README de un repo. El modelo no distingue entre tus instrucciones y el texto que le llega.
Lo que sí funciona, y no es glamoroso:
- ▸Permisos por herramienta, no por agente. Que el agente de reportes pueda leer, no borrar. Suena obvio y casi nadie lo hace al armar el primer prototipo.
- ▸Aprobación humana en lo irreversible: pagos, correos a clientes, cambios de esquema, cualquier DELETE. LangGraph trae esto con sus interrupciones y vale la pena usarlo desde el día uno.
- ▸Trazas de cada ejecución y un set de evals que corra en CI. Sin eso no sabes si tu agente se degradó o si alguien lo está manipulando.
- ▸Entorno aislado para el código que el agente genera. Contenedor efímero, sin credenciales montadas, sin red salvo lo que necesite.
- ▸Todo lo que entra al contexto desde afuera se trata como entrada no confiable. Igual que tratarías un formulario web.
El caveat honesto: ninguna de estas medidas te hace inmune, y varias te van a costar velocidad. Un agente con aprobación humana en cinco puntos del flujo deja de ser mágico. Pero un agente mágico que borró la tabla de producción un viernes tampoco sobrevive a la siguiente reunión.
El mismo patrón sirve del otro lado
Acá viene la parte que casi nadie está contando. Si un agente puede leer un parche, entender qué arregla y escribir un exploit, ese mismo agente puede leer el parche, entender qué arregla y decirte en qué parte de tu código tienes el mismo error. La asimetría no está en el modelo, está en quién lo pone a trabajar primero.
Conozco equipos de cuatro o cinco personas que ya tienen un agente revisando cada pull request contra sus propias reglas, otro que corre semanalmente sobre el archivo de dependencias y cruza versiones con los avisos de seguridad del proveedor, y uno que lee los logs del fin de semana y abre el ticket él solo si ve algo raro. Nada de eso es investigación de punta. Es un bucle, unas herramientas bien definidas y un criterio claro de cuándo parar.
Lo que frena a la mayoría no es el modelo ni el presupuesto de tokens. Es que nadie en el equipo sabe diseñar el bucle: qué herramienta expones, cómo manejas el estado entre pasos, qué pasa cuando el agente se equivoca a la mitad, cómo mides si está mejorando o empeorando. Esa es la brecha real, y se cierra con práctica dirigida más que con tutoriales sueltos de YouTube.
Lo que de verdad separa a un prototipo de un agente que aguanta
Armar un agente que responde bonito en una demo toma una tarde. Armar uno que corre sin supervisión, con permisos acotados, trazas, reintentos y un humano en los puntos correctos toma bastante más, y es justo la diferencia entre un juguete y algo que puedes poner frente a un cliente. Esa distancia es la que trabajamos en el programa AI Agentic Engineer: arquitectura, orquestación, control de permisos y evaluación, con los agentes corriendo de verdad y no en un notebook.
Si vienes de más atrás y lo tuyo es empezar por el framework, el curso de creación de agentes con LangGraph cubre los grafos, el estado persistente y el human-in-the-loop, que es exactamente la pieza que te salva de un agente con demasiada iniciativa. Y si lo que quieres es usar agentes sobre tu propio código —revisar, refactorizar, escribir pruebas—, Claude Code for Developer va por ese lado.
Por dónde seguir
Si esta semana solo haces una cosa, que sea listar qué puede tocar cada agente que tienes corriendo y quitarle un permiso. Después mira el programa AI Agentic Engineer o el catálogo de cursos si quieres ponerle método a lo que ya estás haciendo a mano.
Y si prefieres practicar esto acompañado, cada semana hacemos un taller en vivo en la Comunidad AI Builders donde armamos cosas como estas en directo, desde 19 USD al mes.



