Hallucination
L’hallucination d’IA est un phénomène où un modèle de langage produit des informations fausses, fabriquées ou incohérentes tout en semblant fiable, sans que celles-ci soient issues des données d’entrée ou d’entraînement.
Comprendre Hallucination
L’hallucination est l’un des défis majeurs lors du déploiement des grands modèles de langage. Les LLM ne récupèrent pas des faits depuis une base de données ; ils prédisent le prochain mot selon des schémas statistiques appris pendant l’entraînement. Lorsqu’on les interroge sur des sujets hors de leur corpus ou à la limite de leurs connaissances, les modèles peuvent générer des réponses crédibles mais erronées, avec une grande assurance. Les hallucinations peuvent être de simples erreurs factuelles (mauvaises dates, chiffres inexacts) ou des inventions complètes (fausses citations, personnes inexistantes, fonctionnalités inventées). Le danger est que le ton assuré du modèle ne laisse pas deviner l’inexactitude des informations. Divers facteurs accroissent le risque d’hallucination : demander des faits très spécifiques non vus lors de l’entraînement, interroger le modèle sur des sujets réels mais obscurs, formuler des questions orientées ou laisser le contexte insuffisant. Réduire la température de génération diminue mais n’élimine pas totalement les hallucinations. Les principales stratégies d’atténuation sont le grounding et le RAG. Le grounding consiste à fournir au modèle des documents sources et à lui demander de s’appuyer uniquement sur ce contenu. RAG récupère des documents pertinents avant la génération, apportant au modèle des informations fiables à référencer. Ces techniques sont particulièrement efficaces pour les requêtes factuelles.
Comment GAIA utilise Hallucination
GAIA minimise les hallucinations en s'appuyant sur des réponses basées sur des données récupérées. Lorsqu'elle répond à des questions concernant vos e-mails, tâches ou projets, GAIA commence par extraire le contenu pertinent de ChromaDB et l'injecte dans l'invite comme contexte. Le LLM est ensuite instruit de fonder sa réponse sur ces données récupérées plutôt que sur ses connaissances générales, ce qui réduit considérablement le risque d'informations inventées dans des contextes où la productivité est cruciale.
Concepts liés
Génération augmentée par récupération (RAG)
La Génération augmentée par récupération (RAG) est une technique qui améliore les réponses d'un LLM en récupérant d'abord des documents ou données pertinents à partir d'une base de connaissances externe et en injectant ce contexte dans l'invite du modèle.
Ingénierie de prompt
L’ingénierie de prompt est la pratique qui consiste à concevoir et affiner les instructions données à des modèles linguistiques d’IA afin d’obtenir de manière fiable les résultats souhaités, en influençant leur comportement sans modifier leurs paramètres internes.
Modèle de langage volumineux (LLM)
Un modèle de langage volumineux (LLM) est une intelligence artificielle entraînée sur d'énormes quantités de textes et capable de comprendre, de générer et de raisonner sur le langage humain avec une remarquable aisance.
Fenêtre de contexte
La fenêtre de contexte correspond au nombre maximal de jetons qu'un modèle de langage peut traiter en une seule inférence, incluant le prompt système, l'historique de conversation, les documents récupérés et la sortie générée.
Large Language Model (LLM)
Un Large Language Model (LLM) est un modèle d'apprentissage profond entraîné sur d'immenses ensembles de textes, capable de comprendre, générer et raisonner sur le langage humain dans une grande variété de tâches.
