Auto-GPT no da voluntad a GPT-4: añade un bucle con permisos

El 30 de marzo de 2023 apareció Auto-GPT, un experimento abierto que colocaba a GPT-4 dentro de un bucle: recibir un objetivo, proponer el siguiente paso, usar una herramienta, observar el resultado y volver a decidir. Dos días antes, el prototipo que daría lugar a BabyAGI había mostrado una receta parecida para crear, ejecutar y reordenar tareas. La pantalla podía parecer autónoma, pero la autonomía no estaba dentro del modelo. Surgía del programa que repetía llamadas y le concedía memoria, herramientas, presupuesto y condiciones de parada.

Un modelo responde; un agente mantiene estado

GPT-4, presentado por OpenAI el 14 de marzo, recibía entradas y producía texto. La descripción técnica de OpenAI lo definía como un modelo multimodal capaz de aceptar texto e imágenes y emitir texto, aunque el acceso inicial a la entrada visual era limitado. También advertía que seguía lejos de ser perfecto en factualidad y guardas. Nada en esa interfaz obliga al modelo a conservar un objetivo, abrir una web o ejecutar un archivo. Esas funciones pertenecen a la aplicación que lo rodea.

El repositorio de Auto-GPT materializaba esa capa de software. En lugar de terminar después de una respuesta, el programa conservaba el objetivo y convertía texto del modelo en nuevas instrucciones o acciones. El modelo proponía; el orquestador interpretaba la propuesta, seleccionaba una herramienta permitida, recogía su salida y construía el siguiente contexto. «Agente» nombra esa combinación, no una nueva especie de modelo ni una voluntad emergente.

El bucle mínimo cabe en cinco pasos

Primero se expresa una meta. Segundo, el modelo descompone o prioriza trabajo. Tercero, el programa ejecuta una acción dentro de un catálogo: buscar, leer, escribir o consultar memoria. Cuarto, devuelve al modelo una observación verificable, como el contenido de una página o un error del sistema. Quinto, repite hasta alcanzar una condición de salida. La calidad depende de todas las interfaces entre pasos, no solo de la elocuencia de GPT-4.

El patrón no nació de una demostración viral. El artículo académico ReAct, publicado inicialmente en octubre de 2022 y revisado antes de esta fecha, estudiaba la alternancia entre razonamiento y acciones. Los trazos de razonamiento ayudaban a actualizar planes; las acciones permitían consultar entornos externos. Sus experimentos mostraban ventajas en tareas definidas, pero también fallos: un agente podía interpretar mal una observación o persistir en una acción imposible. Un patrón de laboratorio no equivale a fiabilidad general.

BabyAGI muestra el mecanismo sin misterio

El archivo del proyecto original BabyAGI conserva una explicación explícita: extraer la primera tarea de una lista, enviarla a un agente de ejecución, almacenar el resultado, crear nuevas tareas y repriorizar la cola según el objetivo. El autor describía el prototipo del 28 de marzo como una versión reducida de un «agente autónomo dirigido por tareas» y aclaraba que el nombre no pretendía afirmar inteligencia artificial general.

Ese esquema revela que «se da sus propios pasos» significa algo acotado. El programa pide a un modelo que redacte nombres de tareas; luego los convierte en entradas de una lista. La siguiente tarea procede del texto generado, pero el espacio de acción, el objetivo inicial y el bucle fueron definidos por personas. Si se elimina la API, la base de datos o el código de priorización, no queda un actor independiente: queda un modelo esperando una petición.

Cada iteración multiplica la superficie de fallo

En un chat, una respuesta falsa puede detectarse antes de copiarla. En un agente, esa respuesta puede convertirse en la premisa del siguiente paso. Si la probabilidad de éxito de una operación fuera alta pero inferior a uno, encadenar muchas operaciones reduciría la probabilidad de que toda la trayectoria saliera bien. Además, los errores no son independientes: una fuente mal elegida contamina el resumen, el plan y el documento final. La memoria puede preservar el fallo en lugar de corregirlo.

Las herramientas convierten calidad textual en riesgo operativo. Una búsqueda es reversible; sobrescribir un fichero puede no serlo. Preparar un correo es distinto de enviarlo. Proponer una compra es distinto de autorizar el pago. El mismo modelo puede ser aceptable en el primer caso e inaceptable en el segundo, porque el daño depende del permiso, no solo de la inteligencia aparente. Evaluar «qué modelo usa» sin inspeccionar «qué puede hacer» deja fuera la variable decisiva.

Seis límites hacen auditable un agente

El primer límite es el objetivo: debe incluir resultado esperado, exclusiones y criterio de finalización. El segundo es el catálogo de herramientas: una lista positiva de acciones, no acceso general al sistema. El tercero es el alcance de datos: carpetas, dominios y registros concretos. El cuarto es el presupuesto: máximo de pasos, tiempo, llamadas o coste. El quinto es la aprobación humana antes de acciones externas o difíciles de revertir. El sexto es el registro: cada decisión, entrada, herramienta y resultado debe poder reconstruirse.

Estos límites forman una caja de pruebas. Para investigar un tema, por ejemplo, el agente puede leer solo dominios aprobados, guardar notas en una carpeta temporal, no enviar mensajes y detenerse tras cierto número de consultas. El humano recibe fuentes y borrador, no una afirmación de éxito. Si el resultado falla, el registro permite localizar si el problema nació en la meta, la recuperación, la decisión del modelo o la herramienta. «Supervisado» deja así de ser una promesa y se convierte en puntos concretos de control.

La memoria tampoco es comprensión

Guardar resultados en una base de datos aumenta el contexto disponible, pero no garantiza que sean verdaderos, pertinentes o actuales. La recuperación elige fragmentos por alguna medida de similitud; el modelo todavía debe interpretar esos fragmentos. Conviene conservar junto a cada recuerdo su fuente, fecha, tarea de origen y nivel de verificación. Sin procedencia, una nota inventada en el paso tres puede reaparecer en el veinte con apariencia de hecho consolidado.

También hace falta una regla de caducidad. Un precio, una sesión iniciada o el estado de una tarea puede cambiar mientras el bucle sigue activo. El agente debe distinguir observaciones que pueden reutilizarse de las que requieren una consulta nueva. Más memoria no siempre es mejor: aumenta el material que compite por atención y puede mantener instrucciones ya invalidadas. El diseño útil decide qué olvidar, no solo qué almacenar.

Cómo evaluar la promesa sin ejecutar a ciegas

Una demostración seria debe declarar la tarea, el estado inicial, las herramientas, el límite de pasos y la métrica de éxito. Después debe repetirse con casos normales, entradas ambiguas, herramientas que fallan y datos adversos. El resultado no es «parecía pensar», sino una tabla: porcentaje de tareas completadas, acciones innecesarias, errores no detectados, intervenciones humanas y coste por éxito. Comparar eso con un flujo lineal o con una persona revela si el bucle aporta valor.

Hay que medir también la recuperación. Una trayectoria fallida puede ser aceptable si se detiene pronto, conserva el estado y pide ayuda; una trayectoria aparentemente exitosa puede ser peligrosa si oculta pasos no verificados. Por eso conviene puntuar por separado resultado, cumplimiento de límites, trazabilidad y capacidad de detenerse. El éxito final no compensa una acción prohibida, del mismo modo que obedecer los permisos sin completar nunca la tarea tampoco produce una herramienta útil.

La capacidad transferible es desmontar cualquier «agente autónomo» en siete piezas: modelo, objetivo, estado, planificador, herramientas, permisos y parada. Después se comprueba cada frontera y se reserva aprobación para lo irreversible. Auto-GPT hizo visible una arquitectura fértil, no una voluntad digital. Su lección duradera es que la autonomía práctica se mide por las acciones que el software puede encadenar y por los límites que impiden que un error de texto se convierta en un error del mundo.