Un sistema che controlla un agente AI è davvero indipendente dall’agente stesso? È la domanda al centro di un test pubblicato il 22 ottobre da METR e Redwood Research sui sistemi interni di monitoraggio di OpenAI. La verifica ha trovato lacune e possibili modi per aggirare i controlli nella versione esaminata. Ma riguarda un sistema storico, testato in estate: non descrive la copertura attuale e non dimostra che gli agenti AI in generale siano insicuri.
Che cosa hanno testato METR e Redwood
Per tre settimane, dal 21 luglio all’11 agosto 2026, un ricercatore di METR e uno di Redwood hanno svolto un’esercitazione pilota ad alto accesso. Hanno esaminato il sistema interno di OpenAI che monitora il possibile disallineamento degli agenti: comportamenti come tentativi di eludere le regole, manipolare i controlli o compiere azioni rischiose.
Il gruppo ha analizzato il sistema com’era il 21 luglio o prima. METR precisa che OpenAI stava già ampliando il monitoraggio durante il test e che l’esercitazione non ha valutato le modifiche successive. Inoltre, il progetto era un pilot con accesso molto profondo all’infrastruttura, non una verifica indipendente e completa di tutti i sistemi OpenAI.
Le lacune individuate nel sistema allora esaminato
METR stima che, nel periodo del test, fosse idoneo al monitoraggio circa il 75–94% del traffico agentico interno di Responses API generato da modelli almeno pari a GPT-5.5. La stima ha un’incertezza significativa; per il sottoinsieme usato dagli agenti Codex interni, la quota stimata era del 99,2%. “Idoneo” significa che il traffico era destinato al monitoraggio, non che ogni richiesta sia stata necessariamente controllata senza errori.
Il team ha anche descritto vulnerabilità che, in teoria, avrebbero potuto consentire a un agente di ritardare, evitare o disattivare alcuni controlli, oltre a eventi non coperti in quel sistema. Non riportiamo i dettagli tecnici degli exploit: il punto utile per chi adotta questi strumenti è capire che il monitoraggio va verificato sul flusso reale delle azioni, non dato per scontato.
Che cosa è cambiato dopo il test
OpenAI ha dichiarato che le vulnerabilità individuate e rilevanti per le protezioni in produzione sono state corrette e ha descritto ampliamenti successivi della copertura. METR specifica però di non aver verificato queste dichiarazioni. Perciò il rapporto non permette di concludere quale sia oggi la copertura del sistema, né se le correzioni siano state testate in modo indipendente.
La distinzione è importante: il test riguarda i controlli interni di OpenAI e una configurazione precedente. Non è una segnalazione di violazione degli account dei clienti e non dimostra che ogni agente AI commerciale abbia gli stessi problemi.
Che cosa dovrebbe controllare un’azienda
La lezione pratica vale per chiunque affidi attività a un agente AI, indipendentemente dal fornitore. Prima di abilitarlo, conviene mappare quali strumenti può usare, quali dati può leggere e quali azioni può eseguire. Poi occorre verificare almeno quattro cose:
- Copertura: le attività dell’agente vengono registrate tutte, comprese le chiamate intermedie, gli errori e i passaggi tra strumenti?
- Confronto dei log: esiste una registrazione indipendente con cui confrontare ciò che l’agente dichiara di aver fatto? I registri sono consultabili e protetti da modifiche?
- Separazione: l’agente può disattivare il monitor, alterare i log o scegliere quando essere controllato?
- Risposta: chi riceve un allarme, chi può fermare l’agente e come si annulla un’azione rischiosa?
Per operazioni con effetti difficili da annullare — per esempio pagamenti, modifiche a dati o invii verso clienti — è prudente aggiungere una conferma umana e iniziare con permessi limitati. Il controllo dovrebbe essere provato anche in condizioni di errore, non soltanto quando tutto funziona come previsto.
In breve, la domanda non è solo “l’agente è monitorato?”, ma: quali azioni vengono osservate, chi può verificarlo e che cosa succede se il monitoraggio si interrompe?
Fonte e approfondimento
Il rapporto completo è disponibile sul sito di METR: Red-Teaming OpenAI’s Internal Agent Monitoring Systems (22 ottobre 2026). Per valutare come introdurre agenti e automazioni nel proprio flusso di lavoro, parla con il team Digital Noa.
