Registro de auditoría
Un registro de auditoría es un historial cronológico e inmutable de los eventos y acciones realizados por un sistema, que proporciona un seguimiento verificable de qué sucedió, cuándo, y quién o qué lo provocó.
Comprendiendo Registro de auditoría
Los registros de auditoría son esenciales en cualquier sistema que realice acciones importantes, especialmente en sistemas con privilegios elevados como asistentes de IA que pueden enviar correos electrónicos, crear tareas y modificar eventos del calendario en tu nombre. Sin un registro de auditoría es imposible reconstruir lo ocurrido cuando algo sale mal. Los registros de auditoría cumplen varios propósitos: depuración (¿qué secuencia de eventos llevó a este resultado incorrecto?), seguridad (¿accedió algo a datos que no debía?), cumplimiento (¿podemos demostrar que seguimos los procedimientos requeridos?) y responsabilidad (¿qué usuario o acción del sistema provocó este cambio?). Para los sistemas de IA en concreto, los registros de auditoría son especialmente importantes porque el comportamiento de la IA es probabilístico y no siempre predecible. Cuando un asistente de IA realiza una acción inesperada — como enviar un correo electrónico que no pretendías, marcar una tarea como completada prematuramente o eliminar un evento del calendario — el registro de auditoría permite comprender exactamente qué sucedió y cómo evitar que vuelva a ocurrir. Un buen registro de auditoría es de solo anexado (no se pueden modificar ni eliminar entradas), tiene sellos de tiempo precisos, incluye el contexto suficiente para reconstruir el evento y permite búsquedas específicas de acciones o rangos de tiempo para la investigación.
Cómo GAIA usa Registro de auditoría
GAIA mantiene un registro de auditoría de todas las acciones del agente: correos electrónicos enviados o redactados, tareas creadas, eventos del calendario modificados y flujos de trabajo de automatización activados. Este registro proporciona total transparencia sobre lo que GAIA ha hecho en tu nombre, te permite revisar y deshacer acciones recientes, y respalda la responsabilidad cuando el comportamiento de la IA produce resultados inesperados.
Conceptos relacionados
Barreras de seguridad
Las barreras de seguridad son restricciones aplicadas a los sistemas de IA que limitan, filtran o redirigen las salidas del modelo para prevenir comportamientos dañinos, incorrectos o no deseados, permitiendo al mismo tiempo un uso beneficioso.
Human-in-the-Loop
Human-in-the-loop (HITL) es un patrón de diseño donde el sistema de IA incluye supervisión y aprobación humana en puntos de decisión críticos, asegurando que las acciones sensibles o de alto impacto requieran confirmación humana antes de ejecutarse.
Alineación de IA
La alineación de IA es el campo de investigación e ingeniería enfocado en asegurar que los sistemas de IA persiguen objetivos que son beneficiosos, seguros y coherentes con los valores e intenciones humanas, incluso a medida que se vuelven más capaces y autónomos.
Soberanía de los datos
La soberanía de los datos es el principio de que los datos están sujetos a las leyes y gobernanza de la jurisdicción donde se almacenan, y que las personas y organizaciones tienen derecho a controlar dónde residen sus datos y quién tiene acceso a ellos.
Autoalojamiento
El autoalojamiento es la práctica de ejecutar el software en tus propios servidores o infraestructura, en vez de utilizar un servicio alojado en la nube, otorgándote control total sobre tus datos, configuración y disponibilidad.
