La demo funziona sempre. Un agente legge un ticket, redige una risposta, elabora il rimborso e chiude il ciclo mentre la sala annuisce. Poi va in produzione, incontra i secondi mille casi e inizia a rimborsare ordini che non sono mai stati effettuati.
Nella demo non c'era nulla di falso. Mancava tutto ciò che rende i secondi mille casi gestibili — la parte che nessuno filma. Gli agenti AI autonomi non sono difficili da avviare. Sono difficili da tenere onesti.
Una demo non è un sistema
Un modello che sa chiamare uno strumento è una capacità. Un sistema che chiama lo strumento giusto, al momento giusto, sullo stato corretto, e sa spiegarne il motivo a posteriori — quello è infrastruttura. La distanza tra i due non si colma con un prompt migliore.
In una demo, l'agente gira una volta, osservato, su un percorso ideale. In produzione gira diecimila volte, non osservato, su uno stato che deriva tra il momento in cui legge e il momento in cui agisce. La memoria è obsoleta o assente. Un passaggio ripetuto addebita due volte. Una chiamata a uno strumento che avrebbe dovuto essere rifiutata passa perché nessuno presidiava la porta.
Non sono fallimenti del modello. Sono i fallimenti che un runtime dovrebbe assorbire. Trattarli come problemi di prompt è il modo in cui i team spendono un trimestre a riformulare istruzioni e non riescono comunque a rispondere all'unica domanda che conta in una revisione post-incidente: cosa ha fatto l'agente, e su quale base.
Il ciclo che gli agenti AI autonomi eseguono davvero
Algenta è un runtime per agenti AI costruito attorno a un singolo ciclo che ogni agente esegue, che i suoi autori lo abbiano nominato o meno. Rendere il ciclo esplicito è la maggior parte del lavoro.
- Percepire — leggere lo stato attuale del mondo: input, memoria recuperata, i valori live da cui dipende la decisione.
- Pianificare — decidere l'azione successiva, o le prossime, dato quello stato e l'obiettivo.
- Eseguire — agire attraverso strumenti governati, dove ogni chiamata viene verificata rispetto alla policy prima di toccare qualcosa di reale.
- Valutare — giudicare ciò che è accaduto rispetto alle aspettative, e restituire quel giudizio alla memoria e al piano successivo.
Percepire, pianificare, eseguire, valutare. I passaggi sono ovvi; la disciplina è rifiutarsi di saltare l'ultimo. La maggior parte dei framework per agenti si ferma all'esecuzione, ed è esattamente per questo che funzionano bene nelle demo e invecchiano male — agiscono senza mai essere valutati, così l'errore si accumula in silenzio invece di essere intercettato nel turno in cui si è verificato.
Attorno al ciclo si trovano primitive condivise che l'intero runtime tratta come elementi di prima classe, non come aggiunte: memoria che l'agente legge e scrive, strumenti attraverso cui agisce, policy che governa ogni azione, trace che registrano ciò che è accaduto, ed eval che decidono se era corretto. Ogni passaggio del ciclo tocca ogni primitiva. La memoria alimenta Percepire e viene aggiornata da Valutare. La policy presidia Eseguire. Le trace catturano tutti e quattro i passaggi affinché Valutare abbia qualcosa di onesto su cui esprimersi.
Un agente che non puoi valutare non è autonomo. È non supervisionato.
Perché le primitive noiose sono il prodotto
Memoria, policy, trace, eval. Nessuna di queste si fotografa bene. Tutte sono ciò che separa un agente che funziona in sala da uno che funziona nel mondo.
La memoria è ciò che permette a un agente di agire su ciò che sapeva un secondo fa invece di riscoprire il mondo a ogni chiamata — e un runtime deve tracciare il confine tra la conoscenza duratura e lo spazio di lavoro di una singola esecuzione, perché confonderli è il modo in cui un agente inizia a fidarsi delle proprie allucinazioni. La policy è la differenza tra uno strumento che un agente può chiamare e uno che gli è consentito chiamare in questo momento, dato per chi sta agendo e cosa ha già fatto nell'ultima ora. Le trace trasformano «l'agente ha fatto qualcosa di strano» in una decisione specifica, su un input specifico, con il contesto specifico che aveva — la differenza tra il debug e il tentativo.
Le eval sono la primitiva che i team scoprono per ultima e di cui hanno bisogno per prima. Senza di esse, «l'agente funziona» significa «nessuno si è ancora lamentato ad alta voce». Con esse, ogni esecuzione viene valutata — rispetto alla ground truth dove esiste, rispetto a regole e criteri dove non esiste — e una regressione appare come un numero che si è mosso, sulla modifica che lo ha mosso, prima di raggiungere un cliente.
L'orchestrazione è un mezzo, non il fine
L'orchestrazione degli agenti riceve la maggior parte dell'attenzione — il grafo dei passaggi, i retry, i passaggi di consegne tra agenti e sotto-agenti. È importante. Ma l'orchestrazione senza governance è solo un modo più rapido per fare la cosa sbagliata su larga scala, e l'orchestrazione senza valutazione è un modo più rapido per farlo senza accorgersene.
Algenta tratta l'orchestrazione come uno strato di un ambiente runtime per agenti AI, non come la sua totalità. Un piano può ramificarsi, chiamare altri agenti, eseguire una simulazione per testare un'azione prima di confermarla, e attendere un intervento umano quando la policy lo richiede — e ognuna di queste mosse finisce nella stessa trace, governata dalla stessa policy, valutata dagli stessi eval. L'orchestrazione decide cosa accade dopo. Il runtime decide se è consentito, e se era corretto.
Questa è la premessa silenziosa dietro una piattaforma runtime per agenti AI: che percepire, pianificare, agire e giudicare non debbano essere riassemblati a mano da ogni team che vuole un agente in produzione. Sono infrastruttura. Dovresti poterli dare per scontati come dai per scontato che un database sia durevole.
Cosa cambia quando il ciclo è chiuso
Quando il ciclo completo gira — quando la valutazione non è un ripensamento ma il quarto tempo di ogni ciclo — il carattere del lavoro cambia. Gli agenti AI autonomi smettono di essere qualcosa che lanci e speri funzioni, e diventano qualcosa che puoi operare: osservare, delimitare, correggere e fidarti entro limiti dichiarati.
Questo è il confine tra una demo e un'intelligenza operativa. Una demo ti chiede di credere. Un runtime ti permette di verificare. I team che gestiranno agenti AI autonomi su larga scala sono quelli che decidono, presto, che le primitive noiose sono il prodotto — e che un agente che non può essere valutato non ha il diritto di agire senza supervisione.