Vai al contenuto
Tecnico16 novembre 20269 min di lettura

Rollback di un agente AI: il recupero quando le azioni esterne hanno già prodotto effetti

Ripristinare il checkpoint di un agente lascia in essere prenotazioni e pagamenti. Ricerche recenti, il test di una libreria di compensazione e una matrice.

Antonella Serine

Antonella Serine

Fondatrice, KLA

Fondatrice di KLA, dove sviluppa il piano di controllo indipendente per la governance a runtime degli agenti IA regolamentati dall'EU AI Act.

Il problema

Ripristinare lo stato salvato di un agente lascia aperte due domande: quali effetti hanno già prodotto i servizi che ha chiamato e chi si occupa del resto.

La ricerca

Due preprint recenti, Planarian (28 settembre 2026) e un articolo del 20 ottobre 2026 sulla recuperabilità, distinguono il ripristino locale dagli effetti già prodotti.

Cosa abbiamo eseguito

Il nucleo di Robust Agent Compensation a un commit fissato: 21 test upstream su 21 superati, più sei scenari sintetici di effetti su SQLite.

La risorsa

Una matrice di recupero e compensazione: prove, classificazione, intervento di recupero, responsabile e prove di chiusura per ogni azione.

Un agente riserva merce a magazzino, prenota un trasporto e aggiorna un ordine. Il servizio di trasporto accetta la prenotazione, poi la connessione cade prima che la ricevuta arrivi all’agente. Riportare l’agente al checkpoint precedente lascia attiva la prenotazione del trasporto. Inviare di nuovo la richiesta potrebbe creare una seconda prenotazione. Per annullare la prima occorre sapere che esiste, identificarla e avere il permesso di annullarla.

Questo incidente negli acquisti è fittizio. Mostra tre attività di recupero distinte: ripristinare lo stato di lavoro dell’agente, stabilire quali effetti hanno prodotto i servizi esterni e gestire gli obblighi commerciali rimasti. Un sistema può completare la prima attività mentre le altre due restano aperte. Questo articolo esamina ricerche recenti sul recupero degli agenti, riporta un piccolo test di una libreria di compensazione pubblicata e propone una matrice che rende visibile la copertura del recupero: quali azioni si possono ripristinare, quali richiedono una compensazione e quali richiedono ancora una persona che riconcili l’esito.

Ripristinare lo stato e gestire gli effetti sono attività distinte

Planarian, un preprint pubblicato il 28 settembre 2026 da Jinnan Guo, Hao Mark Chen, Kapil Vaswani, Andrew Paverd e Peter Pietzuch, propone uno statepoint condiviso (un punto di salvataggio comune) per lo stato locale della sandbox e per gli effetti remoti supportati. Il prototipo coordina gli snapshot di processi e file system con una compensazione specifica per ciascun servizio. Il percorso SQL conserva le informazioni necessarie a riparare le modifiche al database supportate e rifiuta le richieste che non può compensare. La ramificazione remota richiede un supporto aggiuntivo da parte dei servizi, e l’argomentazione sulla coerenza nella sezione 6.2 presuppone uno stato dei servizi isolato per tenant. Questi limiti vanno indicati accanto a qualsiasi descrizione della capacità. Non abbiamo trovato un artefatto corrispondente degli autori e non abbiamo riprodotto il lavoro. Planarian, sezioni da 3 a 6.

Un preprint pubblicato il 20 ottobre 2026 da De Wang e Peng Qi esamina il recupero dopo che una piattaforma di agenti modifica i propri prompt. Il ripristino di una versione salvata ha riportato il comportamento di riferimento entro il rumore misurato nello studio. Quel ripristino non ha riparato gli esiti già consegnati mentre la modifica era attiva. Gli esperimenti hanno testato modifiche ai prompt in ambienti di benchmark su una sola piattaforma, quindi i risultati non stabiliscono alcuna garanzia di produzione per altri tipi di modifica degli agenti. Sostengono la registrazione delle conseguenze prodotte durante il periodo di validità della versione modificata. Recoverability and Verifier Strength, sezioni 5 e 6.

Tenere traccia di ogni azione con conseguenze

Per un team operativo, la scelta progettuale immediata è tenere un registro esplicito di ogni azione con conseguenze. Una richiesta dovrebbe avere un’identità stabile, l’effetto commerciale previsto, l’autorità utilizzata, la ricevuta del fornitore quando disponibile e le prove necessarie a stabilirne lo stato finale. Il registro di recupero dovrebbe sopravvivere al ripristino della conversazione o dello spazio di lavoro dell’agente. Questa è la nostra raccomandazione architetturale. Gli articoli non stabiliscono se i framework esistenti la soddisfino.

Con quel registro, l’esempio degli acquisti si scompone in casi distinti:

  • Assenza accertata. Una richiesta respinta, con una prova ufficiale dell’assenza di effetti, può essere idonea a un nuovo tentativo.
  • Effetto accertato. Una prenotazione confermata può essere annullata nell’ambito di un contratto di annullamento supportato.
  • Esito incerto. Una ricevuta persa richiede lo stato lato fornitore o una riconciliazione prima che una richiesta ripetuta possa essere considerata sicura.
  • Compensazione fallita. Un annullamento respinto lascia un obbligo attivo che richiede un responsabile e un’azione successiva.

Cosa abbiamo eseguito su una libreria di compensazione pubblicata

Robust Agent Compensation (RAC) è un preprint di maggio 2026 di Srinath Perera, Kaviru Hapuarachchi, Frank Leymann e Rania Khalaf, con un repository di ricerca pubblico. Articolo RAC, v2. Abbiamo messo alla prova il recovery manager principale a un commit fissato. Tutti i 38 file sorgente scaricati corrispondevano ai rispettivi hash Git, e non li abbiamo modificati. Il file di test upstream dedicato al recovery manager è stato eseguito con Python 3.10: 21 test su 21 superati. Repository RAC al commit fissato.

Abbiamo poi collegato il recovery manager non modificato a un servizio di prenotazione locale su SQLite. Le prenotazioni venivano registrate in quel servizio indipendentemente dai record delle azioni tenuti dalla libreria. Abbiamo introdotto perdite di ricevuta ed errori di annullamento, poi abbiamo controllato le prenotazioni registrate tramite una connessione separata al database. L’esecuzione del 26 ottobre 2026 non ha usato alcun modello linguistico, API a pagamento o servizio di produzione.

Sei scenari sintetici su SQLite con il nucleo di RAC, eseguiti il 26 ottobre 2026
ScenarioRisultato del rollbackPrenotazioni attive dopoCosa mostra
Completamento normaleSuccess, 1 compensata0La compensazione raggiunge lo stato già registrato dallo strumento
Ricevuta persa; record lasciato in sospesoSuccess, 0 compensate1Un record in sospeso resta fuori dal piano di rollback
Ricevuta persa; record segnato come fallitoSuccess, 0 compensate1Una chiamata locale fallita può coesistere con una prenotazione registrata
L’annullamento solleva un’eccezioneCriticalFailure1L’errore di compensazione viene segnalato
Due prenotazioni; il secondo annullamento solleva un’eccezioneRollbackFailure, 1 compensata1Una compensazione parziale lascia un obbligo aperto
L’annullamento restituisce un oggetto di erroreSuccess, 1 compensata1Un errore restituito come dato viene registrato come compensato

Come leggere le osservazioni su RAC

Il piano di rollback del nucleo seleziona i record completati e compensabili. Quando la prenotazione era registrata e la sua ricevuta era andata persa, il record restava in sospeso o veniva segnato come fallito, quindi la chiamata di rollback restituiva un esito positivo senza alcuna compensazione mentre la prenotazione restava attiva. Il nucleo si aspetta che una callback di compensazione sollevi un’eccezione quando fallisce. Una callback che restituisce un oggetto di errore come valore ordinario segue il percorso di successo, e l’integrazione che incapsula un fornitore deve tradurre questi errori in eccezioni.

Queste osservazioni descrivono una sola API del nucleo e il relativo contratto di callback in un unico processo locale. Derivano da un servizio SQLite sintetico e dall’uso manuale dei metodi pubblici del ciclo di vita, senza stack di rete, senza test di terminazione del processo e senza adattatore per framework. Non mostrano un difetto in RAC, non riproducono i benchmark dell’articolo e non dicono nulla sugli adattatori per framework di RAC, che non abbiamo eseguito. Il repository fissato non contiene file di tracce dei benchmark, quindi non abbiamo potuto verificare le tabelle dei risultati dell’articolo. Il superamento dei test upstream e questi limiti di copertura possono valere entrambi.

L’indicazione pratica riguarda l’applicazione. Spetta all’applicazione definire come gli errori degli strumenti diventano fallimenti e come gli esiti incerti entrano nella riconciliazione. Una chiamata di recupero che segnala un successo deve avere un significato documentato che gli operatori possano confrontare con lo stato del fornitore, così come l’affermazione di successo di un agente va verificata rispetto al registro.

La compensazione richiede una propria autorità

La compensazione ha condizioni proprie di autorizzazione e di fallimento. Annullare una spedizione dopo la partenza della merce può richiedere una procedura di reso. Rimborsare un pagamento crea un’ulteriore azione finanziaria. Eliminare la bozza di un’email rimuove uno stato locale; ritirare un’email già consegnata coinvolge il sistema del destinatario e può essere impossibile. Ogni azione di recupero richiede un proprio ambito consentito, proprie prove e un ruolo responsabile.

Un agente ripristinato deve anche conservare l’informazione che un’azione precedente è avvenuta. ACRFence, un preprint di marzo 2026 di Yusheng Zheng, Yiwei Yang, Wei Zhang e Andi Quinn, descrive gli effetti duplicati che si producono quando, dopo un ripristino, un agente rigenera una richiesta con un identificatore diverso. Propone di confrontare le chiamate ripristinate con una cronologia degli effetti. Gli esperimenti convalidano gli attacchi in un piccolo ambiente di test con servizi simulati, e l’articolo dichiara che l’implementazione e la valutazione della mitigazione proposta restano lavoro futuro. ACRFence, sezioni da 3 a 6.

Misurare i danni che il recupero può causare

When Harnesses Lose the Signal, un preprint pubblicato il 30 settembre 2026 da Shuyao Xiao e coautori, confronta il recupero con la prosecuzione dell’esecuzione a partire dallo stesso stato e distingue i compiti che il recupero ha salvato da quelli che ha danneggiato. L’esperimento riguarda l’aggiornamento di osservazioni obsolete o mancanti in ALFWorld e non misura effetti esterni. Valutazione causale del recupero.

Il metodo suggerisce uno schema di valutazione più ampio: confrontare casi di errore abbinati con e senza recupero, e riportare sia i miglioramenti sia i nuovi effetti negativi. Estenderlo ad azioni finanziarie o di acquisto è una nostra proposta, che non abbiamo eseguito. Un rapporto di recupero utile mostrerebbe, accanto al completamento dei compiti, gli esiti non chiariti, gli effetti duplicati, le compensazioni tentate e fallite, gli obblighi residui e il tempo necessario perché una persona o un servizio responsabile li gestisca. Il nostro articolo su che cosa stabilisce un punteggio di benchmark tratta le condizioni da registrare con qualsiasi risultato di questo tipo.

Una matrice di recupero e compensazione

Abbiamo trasformato la ricerca in una matrice di recupero e compensazione (in inglese). Classifica ogni azione in base a ciò che le prove disponibili stabiliscono, indica l’intervento di recupero da valutare e registra le prove necessarie alla chiusura. Il download aggiunge un registro per azione e un esempio sintetico, dichiarato come tale, basato sull’esecuzione degli acquisti. Si tratta di indicazioni editoriali, che non sono state convalidate sperimentalmente.

Per l’esecuzione fittizia degli acquisti, la chiusura richiede prove che la riserva di magazzino e la prenotazione del trasporto corrispondano all’ordine accettato, oppure che ogni obbligo residuo sia stato assegnato e gestito. Il ripristino dà all’agente un punto da cui ripartire. La riconciliazione stabilisce che cosa l’organizzazione deve ancora, possiede o deve correggere.

Matrice di recupero e compensazione (estratto)
Cosa stabiliscono le proveStato da registrareIntervento di recupero da valutareProve per la chiusura
Il fornitore conferma il rifiuto e l’assenza di effettiAssenza accertataRipetere con la stessa azione prevista e un’autorità validaRicevuta del fornitore per l’esito finale
Il fornitore conferma un effetto già prodotto e un’operazione di compensazioneEffetto accertato; compensazione disponibileOttenere l’eventuale autorizzazione richiesta e compensareRisultato correttivo confermato dal fornitore e obblighi residui
Chiamata andata in timeout dopo l’invio; nessun esito ufficialeEsito incertoInterrogare lo stato presso il fornitore o riconciliare prima di qualsiasi nuovo tentativoStato del fornitore collegato all’identità della richiesta originale
Compensazione respinta, scaduta o andata in timeoutCompensazione fallita o incertaAssegnare un operatore e una procedura correttivaSoluzione confermata o obbligo residuo registrato
La conseguenza persiste oltre le operazioni di annullamento disponibiliConseguenza persistenteRegistrare l’impatto e decidere un rimedio autorizzatoDecisione di un responsabile ed esito del rimedio

Dove KLA registra un esito incerto

Per gli agenti che agiscono tramite l’agent action ingress di KLA (il punto d’ingresso delle azioni degli agenti), KLA effettua la chiamata verso la destinazione dopo la decisione di policy. Se quella chiamata fallisce con un errore dopo l’invio, KLA registra l’esito dell’esecuzione come sconosciuto con il codice motivo execution_outcome_unknown e restituisce un errore che indica che è necessaria una riconciliazione da parte dell’operatore. Quando un lease di esecuzione (l’autorizzazione a tempo per eseguire) scade dopo che una chiamata può aver raggiunto la destinazione, KLA segna la proposta come fallita con lo stesso codice motivo e non chiama di nuovo la destinazione. Entrambi i casi corrispondono alla riga “esito incerto” della matrice. La riconciliazione con lo stato del fornitore resta in capo all’operatore.

La ricerca citata in questo articolo non ha testato KLA. Il playbook di risposta agli incidenti tratta il rollback di una Release e le compensazioni che ne seguono.

Domande frequenti

Il rollback di un agente AI annulla le azioni che ha compiuto?

Il ripristino del checkpoint, dello spazio di lavoro o della configurazione di un agente ripristina lo stato locale. Prenotazioni, pagamenti e messaggi già registrati da un servizio esterno restano in essere finché una compensazione o una correzione separata non va a buon fine. Una ricerca sul rollback dei prompt ha rilevato che il ripristino di una versione salvata non ha riparato gli esiti consegnati mentre la modifica era attiva.

Che cos’è la compensazione in un flusso di lavoro di agenti AI?

La compensazione è un’azione separata che corregge un effetto già prodotto, come l’annullamento di una prenotazione o il rimborso di un pagamento. Richiede una propria autorizzazione, può fallire e dipende dal fatto che il fornitore offra un’operazione adeguata. Una compensazione fallita o parziale lascia un obbligo che richiede un responsabile.

Che cosa deve succedere quando la chiamata a uno strumento di un agente va in timeout?

Considerate l’esito incerto. Interrogate lo stato presso il fornitore per l’identità della richiesta originale, oppure riconciliate, prima di decidere se un nuovo tentativo è sicuro. Inviare di nuovo la richiesta senza quella prova può creare un effetto duplicato.

Che cosa ha mostrato il test di compensazione su RAC?

A un commit fissato, 21 test upstream su 21 del recovery manager sono stati superati. In sei scenari sintetici su SQLite, una prenotazione la cui ricevuta era andata persa è rimasta attiva mentre il rollback segnalava un successo senza alcuna compensazione, e un annullamento che restituiva un oggetto di errore è stato registrato come compensato. Entrambi i comportamenti derivano dal contratto di callback del nucleo. Il test non ha usato alcun modello né fornitore reale e non ha eseguito alcun adattatore per framework.

Punti chiave

Il recupero dopo un errore di un agente ha tre parti: ripristinare l’agente, stabilire quali effetti hanno prodotto i servizi esterni e gestire ciò che resta. Date a ogni azione con conseguenze un’identità stabile e un registro che sopravviva al ripristino, classificatela in base alle prove disponibili e indicate il responsabile di ogni obbligo aperto. Partite dalla matrice di recupero e compensazione e leggete l’articolo sulle prove di arresto per dare conto del lavoro che prosegue dopo la revoca dell’autorità di un agente.

Le fonti sono state verificate il 26 ottobre 2026. Gli articoli citati sono preprint, i loro risultati sono quelli riportati dagli autori e non ne abbiamo riprodotto nessuno. Le nostre osservazioni derivano da 21 test upstream e da sei scenari locali sintetici eseguiti su un unico commit fissato della libreria, e non contengono alcun risultato di produzione di KLA.

Guardalo in azione

Pronti ad automatizzare la raccolta delle evidenze di compliance?

Prenotate una demo di 20 minuti per scoprire come KLA vi aiuta a dimostrare la supervisione umana e ad esportare documentazione Annex IV pronta per l'audit.

Rollback di un agente AI: il recupero quando le azioni esterne hanno già prodotto effetti | KLA Blog