Embeddings
Los embeddings son representaciones densas en vectores numéricos de datos, como texto, imágenes o audio, que capturan significado semántico y relaciones en un espacio de alta dimensión.
Comprendiendo Embeddings
Cuando un modelo de aprendizaje automático procesa texto, necesita trabajar con números y no con palabras. Los embeddings resuelven esto mapeando palabras, frases o documentos a listas de números flotantes, normalmente de 768 a 4096 dimensiones. La característica clave de los embeddings es que los contenidos semánticamente similares quedan próximos en este espacio vectorial. "Dog" y "puppy" tienen embeddings cercanos entre sí. "Schedule a meeting" y "book a call" también son vecinas. Esta propiedad geométrica hace que los embeddings sean útiles para la búsqueda semántica, sistemas de recomendación, agrupamientos y clasificación. Comparando la distancia entre embeddings, los sistemas de IA pueden encontrar contenido relacionado, identificar duplicados y entender relaciones conceptuales sin reglas explícitas. Los modelos de embeddings se entrenan aparte de los modelos generativos. Ejemplos populares incluyen text-embedding-3-large de OpenAI, embed-v3 de Cohere y modelos open-source como nomic-embed-text. Producen vectores de tamaño fijo independientemente de la longitud del input, permitiendo almacenamiento y recuperación eficiente en bases de datos vectoriales. En los sistemas RAG, los embeddings son el puente entre las consultas del usuario y el conocimiento almacenado. La consulta se convierte en embedding, y la base de datos vectorial encuentra los embeddings almacenados más cercanos, recuperando el contexto relevante para que el LLM lo use en su respuesta.
Cómo GAIA usa Embeddings
GAIA genera embeddings para cada correo electrónico, tarea, evento de calendario y documento almacenado en tus herramientas conectadas, luego los indexa en ChromaDB. Cuando buscas información o GAIA necesita contexto para una tarea, embebe la consulta y recupera el contenido almacenado más relevante semánticamente. Esto potencia la capacidad de GAIA para encontrar información por significado, no solo por palabras clave, en todo tu espacio de trabajo digital.
Conceptos relacionados
Incrustaciones Vectoriales
Las incrustaciones vectoriales son representaciones numéricas de texto, imágenes u otros datos que capturan el significado semántico, permitiendo que las máquinas comprendan la similitud y las relaciones entre diferentes piezas de información.
Base de datos vectorial
Una base de datos vectorial es un sistema de base de datos diseñado para almacenar, indexar y consultar embeddings vectoriales de alta dimensión a gran escala, permitiendo búsquedas de similitud rápidas en grandes colecciones de datos embebidos.
Búsqueda semántica
La búsqueda semántica es una técnica de búsqueda que comprende el significado y la intención detrás de una consulta, mostrando resultados según la relevancia conceptual y no sólo coincidencias exactas de palabras clave.
Generación Aumentada por Recuperación (RAG)
La Generación Aumentada por Recuperación (RAG) es una técnica que mejora las respuestas de LLM recuperando primero documentos o datos relevantes de una base de conocimiento externa e inyectando ese contexto en el prompt del modelo.
