La demo siempre funciona. Un agente lee un ticket, redacta una respuesta, tramita el reembolso y cierra el ciclo mientras la sala asiente. Luego se despliega, se enfrenta al segundo millar de casos y empieza a reembolsar pedidos que nunca existieron.
Nada en la demo era mentira. Lo que faltaba era todo lo que hace que el segundo millar de casos sea manejable — la parte que nadie filma. Los agentes de IA autónomos no son difíciles de arrancar. Son difíciles de mantener honestos.
Una demo no es un sistema
Un modelo capaz de llamar a una herramienta es una capacidad. Un sistema que llama a la herramienta correcta, en el momento correcto, sobre el estado correcto, y puede explicar por qué después — eso es infraestructura. La distancia entre ambos no la salva un prompt mejor.
En una demo, el agente se ejecuta una vez, observado, por el camino feliz. En producción se ejecuta diez mil veces, sin supervisión, sobre un estado que deriva entre el momento en que lee y el momento en que actúa. La memoria está obsoleta o ausente. Un paso reintentado cobra dos veces. Una llamada a una herramienta que debería haberse rechazado se ejecuta porque nadie estaba en la puerta.
Estos no son fallos del modelo. Son los fallos que un runtime debe absorber. Tratarlos como problemas de prompt es la razón por la que los equipos pasan un trimestre reformulando instrucciones y aún no pueden responder la única pregunta que importa en una revisión de incidentes: qué hizo el agente, y con qué fundamento.
El bucle que los agentes de IA autónomos ejecutan realmente
Algenta es un runtime de agentes de IA construido en torno a un único bucle que todo agente ejecuta, lo hayan nombrado sus autores o no. Hacer el bucle explícito es la mayor parte del trabajo.
- Percibir — leer el estado actual del mundo: entradas, memoria recuperada, los valores en vivo de los que depende la decisión.
- Planificar — decidir la siguiente acción, o las siguientes, dado ese estado y el objetivo.
- Ejecutar — actuar a través de herramientas gobernadas, donde cada llamada se verifica contra la política antes de tocar nada real.
- Evaluar — juzgar lo ocurrido frente a las expectativas, y devolver ese juicio a la memoria y al siguiente plan.
Percibir, planificar, ejecutar, evaluar. Los pasos son obvios; la disciplina está en negarse a saltarse el último. La mayoría de los frameworks de agentes se detienen en ejecutar, que es exactamente por qué funcionan bien en demos y envejecen mal — actúan sin ser nunca calificados, así que el error se acumula en silencio en lugar de detectarse en el turno en que ocurrió.
Alrededor del bucle se sitúan primitivas compartidas que todo el runtime trata como elementos de primer orden, no como añadidos: memoria que el agente lee y escribe, herramientas a través de las que actúa, política que gobierna cada acción, trazas que registran lo ocurrido, y evals que deciden si fue correcto. Cada paso del bucle toca cada primitiva. La memoria alimenta Percibir y es actualizada por Evaluar. La política controla Ejecutar. Las trazas capturan los cuatro pasos para que Evaluar tenga algo honesto que calificar.
Un agente que no puedes calificar no es autónomo. Es no supervisado.
Por qué las primitivas aburridas son el producto
Memoria, política, trazas, evals. Nada de esto fotografia bien. Todo ello es lo que separa a un agente que funciona en la sala de uno que funciona en el mundo.
La memoria permite que un agente actúe sobre lo que sabía un segundo antes en lugar de redescubrir el mundo en cada llamada — y un runtime debe trazar la línea entre el conocimiento duradero y el espacio de trabajo de una sola ejecución, porque confundirlos es la forma en que un agente empieza a confiar en sus propias alucinaciones. La política es la diferencia entre una herramienta que un agente puede llamar y una que tiene permitido llamar ahora mismo, dado para quién actúa y qué ha hecho ya en esta hora. Las trazas convierten «el agente hizo algo raro» en una decisión concreta, sobre una entrada concreta, con el contexto concreto que tenía — la diferencia entre depurar y adivinar.
Los evals son la primitiva que los equipos descubren al final y necesitan primero. Sin ellos, «el agente funciona» significa «nadie se ha quejado en voz alta todavía». Con ellos, cada ejecución se puntúa — contra la verdad de referencia donde existe, contra reglas y rúbricas donde no — y una regresión aparece como un número que se movió, en el cambio que lo movió, antes de llegar a un cliente.
La orquestación es un medio, no el fin
La orquestación de agentes acapara la mayor parte de la atención — el grafo de pasos, los reintentos, los traspasos entre agentes y subagentes. Importa. Pero la orquestación sin gobernanza es solo una forma más rápida de hacer lo incorrecto a escala, y la orquestación sin evaluación es una forma más rápida de hacerlo sin darse cuenta.
Algenta trata la orquestación como una capa de un entorno de runtime de agentes de IA, no como su totalidad. Un plan puede ramificarse, llamar a otros agentes, ejecutar una simulación para probar una acción antes de confirmarla, y esperar a un humano cuando la política lo exige — y cada uno de esos movimientos aterriza en la misma traza, gobernado por la misma política, puntuado por los mismos evals. La orquestación decide qué ocurre a continuación. El runtime decide si está permitido, y si fue correcto.
Esta es la afirmación silenciosa detrás de una plataforma de runtime de agentes de IA: que percibir, planificar, actuar y juzgar no deberían reensamblarse a mano por cada equipo que quiere un agente en producción. Son infraestructura. Deberías poder darlos por sentados igual que das por sentado que una base de datos es duradera.
Qué cambia cuando el bucle se cierra
Cuando el bucle completo se ejecuta — cuando la evaluación no es una ocurrencia tardía sino el cuarto tiempo de cada ciclo — el carácter del trabajo cambia. Los agentes de IA autónomos dejan de ser algo que lanzas y esperas que funcione, y se convierten en algo que puedes operar: observar, acotar, corregir y confiar dentro de límites declarados.
Esa es la línea entre una demo y la inteligencia operacional. Una demo te pide que creas. Un runtime te deja comprobar. Los equipos que ejecutarán agentes de IA autónomos a escala son los que deciden, desde el principio, que las primitivas aburridas son el producto — y que un agente que no puede ser calificado no tiene derecho a actuar sin supervisión.