IA Constitucional
La IA Constitucional (CAI) es una metodología de entrenamiento desarrollada por Anthropic que alinea los modelos de IA con los valores humanos permitiendo que la propia IA evalúe y revise sus resultados conforme a un conjunto escrito de principios — una "constitución" — en lugar de depender exclusivamente de datos etiquetados manualmente sobre preferencias humanas.
Comprendiendo IA Constitucional
Introducida por Anthropic en 2022, la IA Constitucional fue diseñada para abordar las limitaciones de escalabilidad del RLHF: a medida que los modelos se vuelven más capaces, los evaluadores humanos pueden tener dificultades para juzgar de manera confiable cuáles respuestas son mejores. La CAI sustituye parte de la retroalimentación humana por retroalimentación de la propia IA: el modelo recibe instrucciones para criticar sus propias respuestas frente a una constitución de principios (por ejemplo, "¿Esta respuesta es dañina?", "¿Esta respuesta es honesta?") y luego revisarlas. El proceso tiene dos fases principales. En el aprendizaje supervisado, el modelo genera respuestas, las critica de acuerdo a principios constitucionales y las revisa, creando así un conjunto de datos sintéticos de respuestas mejoradas. En el aprendizaje por refuerzo a partir de retroalimentación de IA (RLAIF), un modelo de IA independiente se entrena como modelo de preferencias usando comparaciones generadas por IA en lugar de comparaciones humanas, y luego se utiliza para afinar el modelo base mediante aprendizaje por refuerzo. La “constitución” en sí es un documento redactado por humanos: una lista de principios que describe lo que la IA debe y no debe hacer. La constitución de Anthropic se basa en fuentes como la Declaración Universal de los Derechos Humanos de la ONU y marcos éticos existentes para IA. Al codificar los valores explícitamente en el lenguaje, en lugar de hacerlo de forma implícita a través de valoraciones humanas, la CAI hace que el proceso de alineación sea más interpretable y ajustable. La IA Constitucional está más asociada con Claude, la familia de modelos de IA de Anthropic. Es una técnica que complementa, en vez de reemplazar, al RLHF; la mayoría de modelos en producción usan ambas técnicas.
Cómo GAIA usa IA Constitucional
GAIA puede configurarse para funcionar sobre Claude, la familia de modelos entrenados con IA Constitucional de Anthropic, lo que aporta las garantías de seguridad y utilidad de la CAI a las operaciones autónomas de GAIA. Cuando GAIA gestiona datos personales sensibles en sistemas de correo, calendarios y tareas, la alineación del modelo subyacente —incluyendo su resistencia a tomar acciones dañinas o violar la privacidad del usuario— determina directamente qué hará o no hará GAIA de manera autónoma.
Conceptos relacionados
Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF)
El Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF) es una técnica de aprendizaje automático que entrena modelos de IA para producir resultados preferidos por las personas, aprendiendo a partir de clasificaciones o valoraciones proporcionadas por humanos en lugar de solo datos brutos.
Human-in-the-Loop
Human-in-the-loop (HITL) es un patrón de diseño donde el sistema de IA incluye supervisión y aprobación humana en puntos de decisión críticos, asegurando que las acciones sensibles o de alto impacto requieran confirmación humana antes de ejecutarse.
Modelo de lenguaje grande (LLM)
Un modelo de lenguaje grande (LLM) es un modelo de aprendizaje profundo entrenado con enormes conjuntos de datos textuales que puede comprender, generar y razonar sobre el lenguaje humano en una amplia variedad de tareas.
Ajuste fino
El ajuste fino es el proceso de tomar un modelo de IA preentrenado y continuar su entrenamiento con un conjunto de datos más pequeño y específico para adaptar su comportamiento a un dominio o aplicación particular.
Agente de IA
Un agente de IA es un sistema de software autónomo que percibe su entorno, razona sobre qué hacer y realiza acciones para alcanzar objetivos específicos sin supervisión humana continua.
