Ingeniería de agentes de IA
ES

Apéndice B

Glosario

27 min de lectura

Las entradas están ordenadas alfabéticamente por el término en español, al que sigue, en cursiva y entre paréntesis, el término inglés del original (salvo cuando el libro usa directamente la palabra inglesa).

Todos los términos que siguen se definieron en el texto la primera vez que hicieron falta, junto al ejemplo que los volvía concretos, y esas definiciones siguen siendo las que mandan. Este apéndice existe para la otra manera en que de verdad se lee un libro como este: es martes, llevas tres capítulos, el documento de diseño de alguien dice idempotente y necesitas el significado ya, sin arqueología. Cada entrada da la definición tal como la usa este libro, comprimida, con una remisión al capítulo que trata la idea como es debido; y la remisión forma parte de la definición, porque la mayoría de estos términos solo se ganan el sueldo dentro de un argumento. Las citas y las atribuciones viven en esos capítulos, en el punto donde se usan, así que las entradas de aquí no llevan ninguna.

Dos clases de vocabulario comparten la lista, y seré honesto sobre cuál es cuál. La mayoría de las entradas son el lenguaje de trabajo del campo, definidas como las usa la comunidad profesional. Unas pocas son recursos propios de este libro —la mesa de trabajo, la brújula—, incluidos porque reaparecen en casi todas las páginas y quien abre el libro a mitad de capítulo merece saber qué significa el mobiliario. Esas van señaladas. La mayoría de los términos en cursiva dentro de una entrada tienen entrada propia; unos pocos son variantes que remiten a otra entrada.

agent-washing

Etiquetar un sistema como agente porque la palabra vende, sea cual sea la arquitectura que haya debajo. El error de etiqueta sale caro en los dos sentidos: un flujo de trabajo vendido como agente compra una ceremonia de supervisión que no necesita; un agente que sale a producción como «automatización» se salta las disciplinas que la autonomía exige. El remedio es una sola pregunta: ¿decide el modelo el siguiente paso, o lo decide el código? (Capítulos 1 y 14).

agente

(agent) Un modelo de lenguaje colocado en un bucle y dotado de herramientas. Observa el estado de la tarea, elige una acción, ve el resultado y vuelve a empezar, hasta que juzga que el objetivo se ha cumplido o una regla de parada pone fin a la ejecución; la versión de una sola frase que maneja el campo es que un agente ejecuta herramientas en un bucle para alcanzar un objetivo (capítulo 1). La propiedad que lo define y lo distingue de un flujo de trabajo: es el modelo, y no un diagrama de flujo tuyo, quien decide qué pasa a continuación.

ajuste fino

(fine-tuning) Continuar el entrenamiento de un modelo con tus propios ejemplos, de modo que cambian los propios pesos. En el reparto de tareas de este libro: ajuste fino para cómo debe responder el modelo, recuperación para lo que debe saber, porque el conocimiento debe estar donde puedas actualizarlo, inspeccionarlo y citarlo (capítulo 8).

alucinación

(hallucination) El término del campo para una salida fluida, concreta, segura de sí misma y errónea: una cita inventada, una función que no existe. El mecanismo es la generación corriente, que hace su trabajo allí donde falta un dato; el peligro operativo es que la invención llega exactamente con el tono del conocimiento (capítulo 2).

anclaje

(grounding) Razonamiento que se mantiene atado, paso a paso, a hechos contrastados con el mundo, en lugar de dejar que elabore sobre sus propios recuerdos. Es lo que se gana con la pauta intercalada de ReAct; el efecto medido es menos invención y menos error compuesto (capítulo 3).

aprendizaje en contexto

(in-context learning) Enseñar un comportamiento genuinamente nuevo mediante ejemplos colocados en la ventana en lugar de mediante entrenamiento. Es la razón por la que un puñado de demostraciones bien elegidas puede hacer las veces de un conjunto de entrenamiento, y el mecanismo sobre el que se construye el clasificador del capítulo 26 (capítulo 2).

archivo permanente de instrucciones del proyecto

(standing project-instructions file) El archivo que un agente maduro lee al comienzo de cada sesión: comandos de build, convenciones, las reglas de la casa; memoria procedimental en su ropa de trabajo más sencilla, que conserva lo que el agente no puede inferir solo del código. Este libro lo llama también la constitución. Se mantiene implacablemente pequeño (para cada línea: ¿quitarla provocaría errores?; si no, fuera) y se mejora con el paso de capitalización (capítulos 9 y 22).

barrera de regresión

(regression gate) Un conjunto de evaluación conectado a la maquinaria de publicación como barrera automática: el cambio sale a producción solo si el banco de tareas calificadas sigue pasando. La barrera pone a prueba los fallos que ya imaginaste; el resto de la escalera de despliegue existe porque la realidad imagina mejor (capítulos 16 y 20).

base de datos vectorial

(vector database) Un almacén construido para responder deprisa a una sola pregunta: dado un embedding nuevo, ¿cuáles de los almacenados quedan más cerca? Es el índice que hay detrás de la recuperación semántica, aunque muchas bases de datos corrientes han aprendido el truco (capítulo 8).

brecha de verificación

(verification gap) La distancia entre lo convincente que parece una salida y lo barato que resulta comprobarla. Es una propiedad del ámbito, y la razón por la que los agentes de investigación fallan de manera distinta que los agentes de programación: para las afirmaciones fácticas abiertas no existe un compilador de hechos, solo sustitutos parciales con límites (capítulo 23).

brújula, la

(the compass) Recurso de este libro: cuatro rumbos enunciados en el capítulo 1 y en los que el libro se apoya de principio a fin. El primero y más usado es ¿qué señal te dice que funcionó? —la verificabilidad como la pregunta de diseño que precede a todas las demás—; el último es lo más simple que funcione.

bucle externo

(outer loop) La maquinaria que envuelve al agente (el bucle interno): decide cuál debe ser la tarea, lanza al agente con una ventana nueva, evalúa el resultado con la función objetivo, lleva la cuenta en algún lugar duradero y elige la siguiente jugada. Ya ejecutas uno a mano y lo llamas backlog; ponerlo por escrito como sistema es lo que le permite funcionar de forma desatendida (capítulo 13).

bucle interno

(inner loop) Véase bucle externo.

caché de prompts

(prompt caching) Una optimización del proveedor que aprovecha la generación autorregresiva: el estado de lectura del comienzo de un prompt depende solo de ese prefijo, de modo que el estado almacenado de un prefijo puede reutilizarlo cualquier llamada posterior cuyos primeros tokens coincidan byte a byte, con un descuento considerable. La consecuencia de diseño es una regla: primero el contenido estable, al final el variable (capítulo 19).

cadena de pensamiento

(chain-of-thought) Pedirle a un modelo que escriba pasos intermedios de razonamiento antes de comprometerse con una respuesta. Los pasos escritos mejoran de forma medible el rendimiento en problemas de varios pasos; también son texto generado, que debe leerse como una ayuda para depurar y no como una declaración jurada sobre el cómputo (capítulo 4).

calibración de la confianza

(trust calibration) Véase confianza apropiada.

canario

(canary) Un peldaño de la escalera de despliegue: se dirige una pequeña porción del tráfico real a la versión nueva, se observan las cohortes en paralelo y se amplía solo mientras las cifras aguanten. Dos disciplinas lo hacen real: la asignación consistente (un usuario permanece en una misma versión durante la sesión) y la reversión automática con umbrales elegidos a la luz del día (capítulo 20).

clasificador

(classifier) Un sistema que asigna cada entrada a una categoría de un conjunto fijo. La versión de este libro se construye sobre un modelo preentrenado configurado mediante definiciones de clase escritas —las definiciones son el modelo— y se desarrolla con la disciplina de los tres conjuntos (capítulo 26).

cliente del modelo

(model client) La función que envía al proveedor el historial de mensajes junto con las definiciones de las herramientas y devuelve la siguiente respuesta del modelo. Es una de las cuatro partes del agente mínimo, y la única que toca a un proveedor (capítulo 3; apéndice A).

código legible para agentes

(agent-legible code) Código organizado de modo que un agente pueda recorrerlo y modificarlo con seguridad: archivos pequeños, contratos explícitos, pruebas rápidas, convenciones puestas por escrito donde un contexto recién estrenado pueda encontrarlas. Es un término acuñado por este libro, y así se advierte donde se presenta (capítulo 21).

compactación

(compaction) Comprimir un historial largo —decisiones tomadas, problemas abiertos, plan vigente— en un resumen breve que lo sustituye, para que una ejecución larga pueda continuar sobre una mesa despejada. Es el grado grueso de la operación comprimir (junto a la poda quirúrgica y el recorte de resultados de herramientas); pierde información por diseño, así que lo que el resumen deja fuera es una decisión de diseño (capítulos 7 y 9).

condición de parada

(stop condition) Las reglas que ponen fin a una ejecución. Tres familias: el juicio del propio modelo de que el objetivo se ha cumplido (un testimonio, y la salida menos digna de confianza); el presupuesto, obligatorio; y las salidas por error, que se dividen con una pregunta: ¿puede el modelo actuar ante este error, o es evidencia de que la ejecución ha descarrilado? El primer tipo se le devuelve al modelo; ante el segundo, se detiene la ejecución (capítulo 3).

confianza apropiada

(appropriate reliance) Confianza calibrada según la fiabilidad demostrada: apoyarse en el agente exactamente en la medida en que lo respalda su historial. Las dos direcciones de fallo preceden en décadas a los agentes en la investigación sobre automatización: el exceso de confianza (uso indebido, misuse: aceptar lo que debería comprobarse) y la falta de confianza (desuso, disuse: rehacer lo que la máquina hizo bien) (capítulo 24).

conjunto de evaluación

(eval set) Un banco calificado de tareas de prueba que vuelves a ejecutar con cada cambio, para que «¿esta modificación mejoró o empeoró al agente?» tenga una respuesta que defenderías con un número. La manera más honesta de hacerlo crecer es a partir de fallos reales encontrados en las trazas (capítulos 15 y 16).

constitución

(constitution) Véase archivo permanente de instrucciones del proyecto.

control deslizante de autonomía

(autonomy slider) Véase dial de autonomía.

cuarentena

(quarantine) Aislar un trabajo en su propia ventana de contexto: delega una subtarea autocontenida en un subagente con una ventana nueva y un conjunto reducido de herramientas, deja que queme lo que tenga que quemar y acepta de vuelta un resultado destilado. Dos puertas, guardadas con rigor: lo que puede entrar es el encargo que escribiste, y lo que puede volver a salir son conclusiones, tratadas como evidencia que sopesar, nunca como instrucciones que obedecer. Es también el muro entre el contenido no fiable y la acción con consecuencias (capítulos 7, 9 y 17).

decodificación restringida

(constrained decoding) Imponer un esquema de salida dentro de la propia maquinaria de generación: el esquema se convierte en un filtro que tacha los tokens inválidos de la lista ordenada antes de cada sorteo, de modo que el modelo elige libremente entre las continuaciones válidas y no puede emitir una inválida. Es el grado fuerte de la salida estructurada; pedirlo con buenos modales en el prompt es el débil (capítulo 2).

delegado confundido

(confused deputy) El nombre que la seguridad clásica da a una parte de confianza a la que se engaña para que gaste su autoridad en beneficio de otro. Un agente inyectado es exactamente esto: cada llamada a herramienta que hace va firmada, en la práctica, con tus credenciales, tanto si la instrucción que hay detrás vino de ti como si vino de una página que leyó (capítulo 17).

despliegue en la sombra

(shadow deploy) Ejecutar una versión candidata con tráfico real mientras a los usuarios se les muestra solo la salida de la versión vigente, de modo que el comportamiento nuevo se mide a escala de producción con exposición nula para los usuarios. También se llama lanzamiento a oscuras; es el segundo peldaño de la escalera de despliegue (capítulo 20).

deterioro del contexto

(context rot) La tendencia a decaer que muestra la capacidad de un modelo para usar un dato cualquiera a medida que se llena la ventana que lo rodea. Es la razón por la que una ventana más grande no arregla una abarrotada, y el argumento permanente a favor de la curación del contexto (capítulo 7).

dial de autonomía

(autonomy dial) Cuánto puede hacer un agente entre un momento de tu atención y el siguiente, fijado para cada tarea en lugar de quedar incorporado al sistema. Cuatro posiciones de trabajo: cada acción con consecuencias, firmada; permisos permanentes, con escalamiento en el borde del margen autorizado; aprobación a nivel de plan; autonomía vigilada con presupuestos. El mismo instrumento visto desde el lado del producto es el control deslizante de autonomía, que va de una persona en el bucle a una persona sobre él (capítulos 12 y 25).

disciplina de los tres conjuntos

(three-set discipline) Desarrollar un clasificador basado en LLM sin engañarte, usando tres conjuntos disjuntos: las demostraciones empaquetadas en la habilidad, el conjunto de desarrollo con el que iteras y un conjunto de prueba reservado que se consulta rara vez y se retira cuando se ha usado demasiado. Del conjunto de entrenamiento se pudo prescindir; de la disciplina que creció a su alrededor, no (capítulo 26).

ejecución duradera

(durable execution) Escribir el código del agente como si el fallo no existiera y dejar que un entorno de ejecución haga verdadera la ficción: el resultado de cada llamada al modelo y de cada llamada a herramienta se anota en un diario de solo anexar y, en la recuperación, el código vuelve a ejecutarse desde el principio, pero los pasos ya anotados devuelven sus valores registrados en lugar de ejecutarse otra vez. El código se repite; el mundo, no (capítulo 18).

embedding

Una larga lista de números que asigna a un texto su posición en un mapa del significado, producida por un modelo entrenado para que los significados parecidos caigan en coordenadas cercanas. Es la maquinaria que hay bajo la búsqueda semántica: «perro» y «can» son vecinos aunque no compartan ni una letra (capítulo 8).

enrutamiento

(routing) Clasificar y después bifurcar: un paso de decisión barato envía cada entrada por la ruta construida para su tipo. Es una de las tres formas básicas de flujo de trabajo y, lo que resulta útil, un clasificador en ropa de trabajo (capítulos 10 y 26).

envolvente de fiabilidad

(reliability envelope) La separación entre pass@k y passk a medida que crece k: un retrato del temperamento de un agente. Una envolvente estrecha es un agente constante; una ancha es un jugador con talento, capaz de hacer la tarea pero al que no conviene confiársela de forma desatendida (capítulo 16).

escala ordinal

(ordinal scale) Una puntuación hecha de niveles ordenados, como las notas, en lugar de cantidades medidas, como los pesos. El consejo de este libro para los puntuadores basados en LLM: prefiere una escala ordinal pequeña, con cada nivel definido como una miniclase, a una puntuación continua que el modelo en realidad no puede resolver, y recupera resolución promediando juicios discretos (capítulo 26).

escribir / seleccionar / comprimir / aislar

(write / select / compress / isolate) Las cuatro operaciones de contexto, el repertorio completo: escribir el contexto fuera de la ventana (archivos, notas, memoria); seleccionar lo que entra (recuperación, dotación de herramientas); comprimir lo que se queda (recorte, compactación); aislar lo que pertenece a otro sitio (cuarentena, subagentes). Son lo bastante pocas como para memorizarlas, y este libro todavía no ha encontrado un remedio de contexto que no sea alguna combinación de ellas (capítulo 7).

espacio de acciones

(action space) El universo de acciones al alcance de un agente: la suma de lo que permiten sus herramientas, y nada más. Diseñas la competencia de un agente y su riesgo de un mismo trazo, al decidir qué entra en este conjunto (capítulo 5).

evaluación

(eval) Una prueba para un sistema de IA: una entrada, más la lógica de calificación que se aplica a lo que salga. Es la unidad con la que se construyen los conjuntos de evaluación (capítulo 16).

evaluador–optimizador

(evaluator–optimizer) El flujo de trabajo cuya flecha característica apunta hacia atrás: una llamada genera un candidato, un evaluador (idealmente un verificador real: una batería de pruebas, una validación de esquema) lo califica, y los fallos vuelven para la corrección, en un bucle que sigue hasta que la comprobación pasa o salta un tope. También se conoce como generador–crítico (capítulo 10).

feature flag

Configuración que decide qué versión atiende a qué porción del tráfico, de modo que promover y revertir son cambios de configuración: instantáneos, reversibles, sin volver a desplegar. Es el plano de control de la escalera de despliegue (capítulo 20).

flujo de trabajo

(workflow) Varias llamadas al modelo y llamadas a herramientas conectadas a lo largo de rutas que tu código define de antemano: el modelo rellena el contenido en cada paso, y tu código decide qué paso viene después. Podrías dibujar su diagrama de flujo antes de ponerlo en marcha: esa es la propiedad que lo separa de un agente (capítulos 1 y 10).

fragmento

(chunk) La unidad de la recuperación: un pasaje de unos pocos cientos de palabras, lo bastante pequeño para ser preciso y lo bastante grande para entenderse solo. La política de fragmentación condiciona en silencio todo lo que viene después en un sistema de recuperación (capítulo 8).

función objetivo

(goal function) Lo que un bucle externo necesita y el bucle interno no aporta: un objetivo persistente guardado fuera del modelo (la especificación, la lista de comprobación, en disco, porque el agente olvida entre ejecuciones) emparejado con una condición de parada comprobable por máquina que se evalúa después de cada vuelta. Un bucle es exactamente tan digno de confianza como la comprobación que lo detiene; véase oráculo (capítulo 13).

generación autorregresiva

(autoregressive generation) Cómo escribe un modelo: token a token, cada uno condicionado por todo lo anterior, prompt y salida por igual, sin ningún borrador guardado en reserva. Es la propiedad que explica tanto la potencia (cada paso puede reaccionar al anterior) como las facturas (véase caché de prompts) (capítulo 2).

generador–crítico

(generator–critic) Véase evaluador–optimizador.

habilidad

(skill) Un paquete de instrucciones, archivos de referencia y scripts que un agente carga bajo demanda; pericia empaquetada: el criterio sobre los verbos, allí donde una herramienta es un verbo. Se carga mediante revelación progresiva, se versiona como el código y se audita como una dependencia, porque un archivo de instrucciones es comportamiento (capítulo 6).

harness

Todo lo que construyes alrededor del modelo para convertirlo en un agente que funciona: el propio bucle, las implementaciones de las herramientas y lo que se les permite tocar, el cuidado del historial de mensajes, las reglas de parada y, a medida que el sistema madura, el registro de eventos, la recuperación de errores y las salvaguardas. Un agente, en una línea, es un modelo más un harness. El campo usa la palabra con un alcance elástico; este libro ancla la definición en el capítulo 3 y concilia los sentidos más amplios en el capítulo 18.

herramienta

(tool) Una función que el modelo puede pedirle a tu programa que ejecute, descrita para él con un nombre, una descripción y un esquema de argumentos; la función en sí nunca sale de tu proceso. El modelo solicita; tu código ejecuta: es el reparto de autoridad sobre el que descansa toda la arquitectura (capítulos 3 y 5).

historial de mensajes

(message history) La lista creciente, etiquetada por roles, de todo lo dicho y hecho en una ejecución: las instrucciones, el objetivo, las respuestas del modelo, cada llamada a herramienta, cada resultado. Como el proveedor no guarda estado, esta lista es toda la memoria a corto plazo del agente: lo que tu código no añada nunca ocurrió (capítulos 2 y 3).

idempotencia

(idempotency) La propiedad de que hacer una operación dos veces tenga el mismo efecto que hacerla una, lo que hace que reintentar sea seguro por construcción. Las lecturas la tienen de forma natural; las escrituras son la trampa, y el arreglo habitual es la clave de idempotencia: un identificador derivado de la identidad lógica de la acción, bajo el cual el servicio de destino guarda el primer resultado y lo devuelve ante cualquier repetición (capítulo 18).

ingeniería compuesta

(compound engineering) Véase paso de capitalización.

ingeniería de contexto

(context engineering) La disciplina de decidir qué llena la ventana de contexto del modelo en cada paso de una ejecución: la información y las herramientas adecuadas, en el formato adecuado, en el momento adecuado, y decidido de nuevo en cada vuelta. La ingeniería de prompts escribe un documento; la ingeniería de contexto opera un sistema (capítulo 7).

ingeniería de prompts

(prompt engineering) El oficio de escribir las porciones de la ventana que contienen instrucciones: la redacción del prompt de sistema, la forma de los ejemplos. Un oficio de verdad, y un subconjunto: la ingeniería de contexto responde de toda la mesa (capítulo 7).

interruptor de emergencia

(kill switch) Una manera única, evidente, rápida y probada de detener a la vez todos los bucles y agentes en marcha. Pruébalo antes de la primera ejecución desatendida, igual que se prueba una alarma de incendios antes de que el edificio se llene (capítulo 13).

inyección de prompts

(prompt injection) La familia de ataques en la que se cuelan instrucciones en el texto que lee el modelo, aprovechando que el modelo ve un único flujo indiferenciado de tokens, sin frontera estructural entre las instrucciones de confianza y el contenido que simplemente lee. Directa: el atacante es el usuario, que teclea. Indirecta: la instrucción se esconde en contenido que el agente encuentra mientras hace un trabajo legítimo —una página web, un correo, un comentario en el código—, y este es el plato fuerte para los agentes que usan herramientas, cuyo trabajo consiste en leer cosas que escribieron otros. Todas las defensas conocidas son estadísticas; la regla de trabajo de este libro es dar por falsa cualquier afirmación de prevención y, en su lugar, hacer ingeniería del radio de impacto (capítulo 17).

lanzamiento a oscuras

(dark launch) Véase despliegue en la sombra.

llamada a funciones

(function calling) Véase llamada a herramienta.

llamada a herramienta

(tool call) La solicitud estructurada del modelo para ejecutar una herramienta: el nombre de la herramienta más unos argumentos que se ajustan a su esquema, emitidos como salida estructurada en lugar de prosa. También se llama llamada a funciones, indistintamente (capítulo 2).

LLM (gran modelo de lenguaje)

(large language model) Mecánicamente, una función: entra texto y, para cada posible token siguiente, sale la probabilidad de que sea el que viene a continuación, mientras el sistema que la rodea va sorteando un token cada vez (véase generación autorregresiva). Se invoca como cualquier API; no guarda estado entre llamadas (capítulo 2).

LLM aumentado

(augmented LLM) Una única llamada al modelo con tres puertos conectados: recuperación, herramientas y memoria. Es el bloque básico con el que se ensamblan flujos de trabajo y agentes; todos los patrones de este libro disponen copias de esta unidad (capítulos 1 y 10).

LLM como juez

(LLM-as-a-judge) Usar un modelo de lenguaje, armado con una rúbrica escrita, para puntuar o comparar salidas como lo haría un revisor humano: la escapatoria habitual de los calificadores que leen a velocidad humana y facturan a tarifa humana. Un juez es un instrumento que debe calibrarse a su vez con el juicio humano antes de confiar en él (capítulo 16).

memoria

(memory) Las maneras que tiene un agente de llevar consigo lo que importa, ordenadas en este libro según el mueble de oficina al que se parecen: la memoria episódica es el cuaderno de bitácora (registros de solo anexar de lo que ocurrió), la memoria semántica es el archivador (hechos, que necesitan curación porque caducan) y la memoria procedimental es el manual de procedimientos (cómo comportarse: el objeto más afilado de la sala, porque una entrada es el comportamiento futuro del agente). La memoria a corto plazo es, sencillamente, el historial de mensajes (capítulo 9).

mesa de trabajo, la

(the desk) La imagen que este libro usa para la ventana de contexto: la superficie de trabajo en la que tiene que caber a la vez todo lo que el modelo consulta durante una llamada, y que queda despejada entre una llamada y la siguiente. Se presenta en el capítulo 2 y se usa hasta la última página; como toda metáfora, se advierte allí donde flaquea.

oráculo

(oracle) La palabra del oficio de las pruebas, que este libro toma prestada: una fuente de verdad externa a lo que se juzga, que declara correcta o incorrecta una respuesta. Una batería de pruebas es un oráculo fuerte; un compilador es uno tosco pero incorruptible; el modelo que hizo el trabajo es un mal oráculo de ese trabajo. Un bucle es exactamente tan digno de confianza como su oráculo (capítulos 4 y 13).

orquestador–trabajadores

(orchestrator–worker) La forma multiagente: un agente principal descompone la tarea y delega las piezas en trabajadores, cada uno ejecutado en cuarentena con una ventana nueva y un encargo autocontenido, que devuelven resultados destilados. Casi todos los fallos de coordinación se remontan a una infracción en una de las dos puertas: el encargo que entra y el retorno que sale (capítulos 9 y 11).

paso de capitalización

(compound step) El pequeño ritual que cierra una tarea: antes de pasar a otra cosa, pregúntate qué debería haber sabido el agente al empezar y escríbelo en el archivo permanente de instrucciones del proyecto, una línea por lección. Es el hábito que está detrás de lo que algunos equipos llaman ingeniería compuesta: cada ejecución deja al sistema mejor informado de forma permanente. El modelo olvida y tú no puedes entrenarlo; el harness sí puede aprender, y así es como lo hace (capítulo 22).

pass@k y passk

Dos estadísticos de resumen para un sistema que es una distribución más que una función. pass@k: la probabilidad de que tenga éxito al menos uno de k intentos; es el número adecuado cuando un verificador barato escoge al ganador de un montón. passk: la probabilidad de que tengan éxito todos los k intentos; es el número adecuado para un agente que debe acertar cada vez que actúa de forma desatendida. El mismo agente puede ser un triunfo según el primero y una catástrofe según el segundo (capítulo 16).

persona en el bucle / sobre el bucle

(human in the loop / on the loop) Los dos extremos del recorrido del dial de autonomía, en un vocabulario más antiguo que los modelos de lenguaje: en el bucle significa dentro de la ejecución, aprobando las acciones a medida que ocurren; sobre el bucle significa por encima de ella, revisando lo que una ejecución autónoma propone y produce (capítulos 12 y 25).

presupuesto

(budget) Un techo estricto que impone el harness, indiferente a la opinión del modelo: sobre las vueltas del bucle, los tokens, el tiempo de reloj o el dinero. Es obligatorio, porque un bucle cuya única salida es el juicio del modelo no tiene ninguna salida garantizada; los agentes maduros funcionan con varios presupuestos a la vez (capítulo 3).

programación aumentada

(augmented coding) Trabajar con un agente de programación sin dejar de cuidar el código mismo —su diseño, sus pruebas, su mantenibilidad—, con el agente como un colaborador cuya producción lees y moldeas. Es el extremo opuesto al vibe coding en el espectro de intención (capítulo 21).

prompt de sistema

(system prompt) El hueco de mensaje que lleva las instrucciones permanentes: quién se supone que es el modelo, qué puede y qué no puede hacer, qué forma deben tener sus respuestas. Se escribe una vez, el harness lo reenvía en cada llamada y —un dato que merecería llevarse tatuado en alguna parte— es una solicitud y no un mecanismo que obligue a cumplirla; véase salvaguarda (capítulos 2 y 17).

protocolo

(protocol) Un acuerdo sobre cómo hablan dos programas escritos de forma independiente —formas de los mensajes, secuencias, promesas—, para que el código de desconocidos coopere sin pegamento a medida para cada pareja. La práctica con agentes usa dos clases: los protocolos de herramientas conectan a un agente con capacidades y datos (el Model Context Protocol es el ejemplo destacado, etiquetado como tal) y los protocolos entre agentes lo conectan con otros agentes que razonan, planifican y responden a su propio ritmo (Agent2Agent es el ejemplo etiquetado). En ambos casos la ganancia es aritmética: los adaptadores dejan de multiplicarse como conectores × agentes (capítulo 6).

protocolo entre agentes

(agent protocol) Véase protocolo.

punto de aprobación

(approval gate) Un punto en el que la ejecución se detiene hasta que una persona aprueba, rechaza o edita la acción propuesta. Es el instrumento básico de la supervisión; coloca estos puntos según las consecuencias (lo que cuesta una acción equivocada), nunca según la comodidad (capítulo 12).

punto de control

(checkpoint) Un registro duradero de la posición de una ejecución, tomado para que una ejecución que se cae pueda reanudarse en lugar de empezar de cero. Un punto de control registra la posición y nunca si el mundo exterior hizo el trabajo; por ese hueco los puntos de control necesitan la idempotencia a su lado (capítulo 18).

radio de impacto

(blast radius) Todo lo que un paso, una ejecución o un agente podría romper o filtrar si saliera todo lo mal que puede salir. Es el vocabulario permanente del libro para la mitad «costo» de toda apuesta de despliegue; lo fijan tres diales: qué se le permite al agente, dónde se ejecuta y cuáles de sus acciones esperan a una persona (capítulo 17).

RAG (generación aumentada por recuperación)

(retrieval-augmented generation) El patrón que hay detrás de la mayoría de los sistemas que responden a partir de tus documentos: en el momento de la solicitud, se recuperan de un índice los fragmentos más relevantes y se colocan en la ventana junto a la pregunta, para que el modelo responda a partir de la evidencia que tiene sobre la mesa y no de sus datos de entrenamiento congelados (capítulo 8).

ReAct

La pauta intercalada que está en el corazón del bucle del agente —un pensamiento breve por escrito, una acción, una observación y, después, el siguiente pensamiento condicionado por lo que acaba de volver—, bautizada en la literatura de investigación como Reason + Act (razonar + actuar). El rígido formato textual del original se ha disuelto en el entrenamiento de los modelos; la pauta sobrevive (capítulo 3).

regresor

(regressor) Un sistema que asigna a cada entrada un número en lugar de una categoría. Para los puntuadores basados en LLM, véase escala ordinal (capítulo 26).

revelación progresiva

(progressive disclosure) Revelar la información por capas, incorporando cada capa solo cuando la tarea demuestra que hace falta: un nombre siempre visible, un procedimiento que se carga al activarse, archivos de referencia que se leen bajo demanda. Es el principio de diseño que permite que una gran biblioteca de habilidades no cueste casi nada hasta que se usa (capítulo 6).

salida estructurada

(structured output) Salida del modelo restringida a una forma legible por máquina —normalmente JSON conforme a un esquema—, para que el código ordinario pueda bifurcar según lo que el modelo decidió. Es el puente que hace posible el uso de herramientas y, con él, los agentes; viene en dos grados (véase decodificación restringida) (capítulo 2).

salvaguarda

(guardrail) Una comprobación que vive fuera del razonamiento del modelo y se ejecuta de forma determinista, haya decidido lo que haya decidido el modelo: código ordinario (de vez en cuando un segundo modelo, separado) apostado en las fronteras del agente y facultado para permitir, bloquear, modificar o escalar lo que pasa. El modelo aporta el criterio; el harness aporta los límites; solo a uno de los dos se le puede engatusar (capítulo 17).

sandbox

Una frontera estricta en torno al lugar donde se ejecuta el agente, impuesta por el sistema operativo o el hipervisor y no por el criterio de nadie. La lógica es la sustracción: una credencial que nunca se montó dentro de la frontera no puede leerla ninguna inyección, porque el objetivo no está. Constrúyelo con primitivas curtidas en mil batallas; la capa más débil es la que construiste tú (capítulos 17 y 20).

span

Una unidad de trabajo dentro de una traza: una sola operación con una hora de inicio, una hora de fin y atributos estructurados. Cada llamada al modelo es un span, cada llamada a herramienta es un span, cada subagente es un subárbol; la traza es el árbol que forman (capítulo 15).

subagente

(subagent) Otro motor sin estado cuya información de partida es, entera, lo que pongas en su delegación. La definición importa más que el antropomorfismo: no presenció nada de lo ocurrido, solo conoce el encargo y devuelve solo lo que su autor le impuso devolver (véase cuarentena) (capítulos 7 y 11).

superficie de supervisión

(supervision surface) Una interfaz construida para juzgar un trabajo en curso y no para conversar sobre él: la lista de ejecuciones, la cola de aprobaciones, la traza, la evidencia, los controles de recuperación; un tablero, allí donde el chat es un pergamino (capítulo 24).

teatro de la revisión

(review theater) Diligencia interpretada a un volumen en el que ya no puede ser real: recorrer cuatrocientas líneas generadas mientras el cuidado se va escurriendo, al tiempo que las marcas verdes junto al diff certifican la coherencia interna y no dicen nada sobre si esto era lo que había que construir (capítulo 12).

token

La unidad que un modelo lee y escribe en realidad: un trozo de texto de un vocabulario fijo, a menudo una palabra, a veces un pedazo de una; en promedio, piensa en tres cuartos de una palabra inglesa. En tokens se mide la ventana de contexto y en tokens factura el contador (capítulo 2).

transcripción

(transcript) Véase traza.

trayectoria

(trajectory) Véase traza.

traza

(trace) El registro completo y estructurado de una ejecución —cada llamada al modelo, cada llamada a herramienta y cada resultado—, en forma de árbol de spans que llevan tiempos, recuentos de tokens y costos. El mismo registro es una transcripción cuando se lee como una conversación y una trayectoria cuando se trata como un camino muestreado entre las posibilidades de una tarea: un solo objeto, y tres oficios que lo miran (capítulo 15).

trifecta letal

(lethal trifecta) La combinación de tres elementos que convierte a un agente en un riesgo de robo de datos: acceso a datos privados, exposición a contenido no fiable y un canal de comunicación con el exterior. Con dos cualesquiera se puede convivir; los tres en un mismo agente significan que una instrucción inyectada puede leer los secretos y enviarlos fuera por correo. El nombre viene de la literatura de seguridad, y este libro lo adopta como lista de comprobación (capítulo 17).

ventana de contexto

(context window) El tramo acotado de texto que un modelo puede considerar en una sola llamada —instrucciones, historial, resultados de herramientas y la respuesta que se está escribiendo, todo a cuenta de un mismo presupuesto de tokens—. Este libro la imagina como una mesa de trabajo (véase mesa de trabajo, la) (capítulo 2).

vibe coding

El modo en el que no lees el código antes de ejecutarlo: juzgas el comportamiento, y el código es un medio que renuncias a inspeccionar. Es legítimamente útil para código de usar y tirar y para prototipos; el término nunca pretendió abarcar toda la programación asistida por IA (véase programación aumentada) (capítulo 21).

zona tonta

(dumb zone) El estado degradado al que se desliza un modelo cuando su ventana se llena por encima de un límite blando muy inferior al máximo estricto: deja de atender a tus correcciones y asiente por reflejo («tienes toda la razón») mientras el trabajo deja de mejorar. Es el nombre que los profesionales dan al deterioro del contexto cuando se siente en el teclado; el remedio es mantener baja la ocupación de la ventana y empezar de cero en lugar de discutir con el modelo para recuperarlo (capítulo 7).