¿Un sistema que supervisa a un agente de IA es realmente independiente del propio agente? Esa es la pregunta que aborda una prueba publicada el 22 de octubre por METR y Redwood Research sobre los sistemas internos de monitorización de OpenAI. La evaluación detectó lagunas y posibles formas de eludir los controles en la versión analizada. Sin embargo, se trata de un sistema histórico, probado durante el verano: no describe la cobertura actual ni demuestra que los agentes de IA sean inseguros en general.
Qué probaron METR y Redwood
Durante tres semanas, del 21 de julio al 11 de agosto de 2026, una persona investigadora de METR y otra de Redwood realizaron un ejercicio piloto con acceso profundo. Examinaron el sistema interno de OpenAI que vigila si los agentes intentan eludir las reglas, manipular los controles o realizar acciones arriesgadas.
El equipo analizó el sistema tal y como existía el 21 de julio o antes. METR aclara que OpenAI ya estaba ampliando la monitorización durante la prueba y que el ejercicio no evaluó los cambios posteriores. Además, fue un piloto con acceso muy amplio a la infraestructura, no una auditoría independiente y completa de todos los sistemas de OpenAI.
Las lagunas detectadas en el sistema analizado
METR estima que, durante el periodo de la prueba, alrededor del 75–94 % del tráfico interno de Responses API generado por agentes que utilizaban modelos con capacidades iguales o superiores a GPT-5.5 era elegible para monitorización. La estimación tiene una incertidumbre considerable; para el subconjunto utilizado por los agentes internos de Codex, la proporción estimada fue del 99,2 %. “Elegible” significa que el tráfico estaba previsto para enviarse al monitor, no que todas las solicitudes se revisaran necesariamente sin errores.
El equipo también describió vulnerabilidades que, en teoría, podrían haber permitido a un agente retrasar, evitar o desactivar algunos controles, además de eventos que no estaban cubiertos por aquel sistema. No reproducimos los detalles técnicos de los exploits: para quienes adoptan estas herramientas, la conclusión práctica es que la monitorización debe contrastarse con el flujo real de acciones y no darse por sentada.
Qué ha cambiado desde la prueba
OpenAI afirmó que había corregido todas las vulnerabilidades detectadas que afectaban a las protecciones en producción y describió ampliaciones posteriores de la cobertura. METR señala, sin embargo, que no verificó esas afirmaciones. Por tanto, el informe no permite concluir cuál es hoy la cobertura del sistema ni si las correcciones se han probado de forma independiente.
La distinción importa: la prueba se refiere a los controles internos de OpenAI y a una configuración anterior. No es una notificación de una brecha en las cuentas de clientes ni demuestra que todos los agentes de IA comerciales tengan los mismos problemas.
Qué debería comprobar una empresa
La lección práctica se aplica a cualquier organización que delegue tareas en un agente de IA, con independencia del proveedor. Antes de activarlo, conviene identificar qué herramientas puede usar, qué datos puede consultar y qué acciones puede ejecutar. Después, hay que verificar al menos cuatro aspectos:
- Cobertura: ¿se registran todas las actividades del agente, incluidas las llamadas intermedias, los errores y los pasos entre herramientas?
- Contraste de registros: ¿existe un registro independiente con el que comparar lo que el agente dice haber hecho? ¿Se pueden consultar los registros y están protegidos frente a modificaciones?
- Separación: ¿puede el agente desactivar el monitor, alterar los registros o elegir cuándo se le supervisa?
- Respuesta: ¿quién recibe una alerta, quién puede detener al agente y cómo se revierte una acción arriesgada?
Para operaciones difíciles de revertir —por ejemplo, pagos, cambios en datos o comunicaciones a clientes— es prudente añadir una confirmación humana y empezar con permisos limitados. También conviene probar los controles cuando se producen errores, no solo cuando todo funciona como se espera.
En resumen, la pregunta no es solo «¿se supervisa el agente?», sino: ¿qué acciones se observan, quién puede comprobarlo y qué ocurre si la monitorización se interrumpe?
Fuente y más información
El informe completo está disponible en el sitio de METR: Red-Teaming OpenAI’s Internal Agent Monitoring Systems (22 de octubre de 2026). Si quieres valorar cómo incorporar agentes y automatizaciones a tu flujo de trabajo, habla con el equipo de Digital Noa.
