Salida estructurada
La salida estructurada es una técnica que restringe a un LLM a responder en un formato predefinido — generalemente JSON o XML — permitiendo el análisis programático fiable de las respuestas del modelo en lugar de texto libre.
Comprendiendo Salida estructurada
Los LLMs generan texto libre de forma natural, lo cual es potente para la conversación pero problemático para aplicaciones que necesitan analizar y actuar sobre la salida del modelo. Si una aplicación necesita extraer el título de una tarea, su fecha de vencimiento y prioridad del resultado de un modelo, el texto no estructurado requiere analizadores regex frágiles que fallan cuando el modelo varía el formato. La salida estructurada soluciona esto restringiendo la salida del modelo a un esquema específico. OpenAI, Anthropic y Google ofrecen modos nativos de salida estructurada que garantizan que las respuestas sigan un esquema JSON proporcionado. El modelo sigue razonando libremente: la salida estructurada solo condiciona cómo expresa ese razonamiento. La salida estructurada es esencial para el desarrollo fiable de aplicaciones de IA. Permite: la extracción consistente de campos específicos de las respuestas del modelo, la validación de que los campos requeridos estén presentes y con el tipo correcto, integración coherente con sistemas posteriores, y facilita la depuración cuando ocurre un error. Pydantic (en Python) y Zod (en TypeScript) son bibliotecas populares para definir esquemas que funcionan bien con APIs de salida estructurada, proporcionando análisis y validación tipados de las respuestas del modelo.
Cómo GAIA usa Salida estructurada
GAIA utiliza la salida estructurada extensamente para extraer información de manera fiable de las respuestas de los LLM. Al analizar correos electrónicos para tareas, extraer detalles de eventos de calendario o determinar la prioridad de acciones, GAIA limita el modelo a esquemas JSON estructurados validados por Pydantic. Esto asegura un procesamiento posterior fiable sin necesidad de analizar texto frágilmente.
Conceptos relacionados
Llamado de funciones
El llamado de funciones es una característica de los modelos de IA que les permite generar invocaciones estructuradas y legibles por máquina de funciones predefinidas, permitiendo a los sistemas de IA llamar APIs y herramientas externas con los argumentos correctos de manera fiable.
Uso de herramientas
El uso de herramientas es la capacidad de los agentes de IA para invocar funciones externas, APIs, bases de datos y servicios para recuperar información o realizar acciones en el mundo real, más allá de solo generar texto.
Ingeniería de prompts
La ingeniería de prompts es la práctica de diseñar y refinar entradas para los modelos de lenguaje de IA, a fin de provocar de manera confiable salidas deseadas, moldeando el comportamiento del modelo sin modificar sus parámetros subyacentes.
Modelo de lenguaje grande (LLM)
Un modelo de lenguaje grande (LLM) es un modelo de aprendizaje profundo entrenado con enormes conjuntos de datos textuales que puede comprender, generar y razonar sobre el lenguaje humano en una amplia variedad de tareas.
Bucle de agente
Un bucle de agente es el ciclo de ejecución iterativo de un agente de IA en el que razona sobre el estado actual, selecciona y ejecuta una acción (a menudo llamando a una herramienta), observa el resultado y repite hasta completar la tarea o alcanzar una condición de parada.
