Température (IA)
La température est un paramètre d'inférence des modèles de langage qui module l'aléatoire lors du choix des tokens — une température élevée génère des sorties plus variées et créatives, alors qu'une température basse rend les réponses plus cohérentes et déterministes.
Comprendre Température (IA)
Lorsqu'un LLM génère du texte, il calcule une distribution de probabilités sur les tokens suivants possibles. La température ajuste cette distribution avant l'échantillonnage. Avec une température à 0, le modèle choisit systématiquement le token le plus probable (décodage glouton), produisant une sortie déterministe. À des températures plus élevées (0,7-1,0), le modèle pioche dans une distribution plus large, générant davantage de variété et parfois des résultats surprenants — ou erronés. La température est un curseur entre créativité et constance. Pour les tâches nécessitant de la précision factuelle — résumer un e-mail, extraire des tâches d'une réunion — une faible température (0,0–0,3) est préférée. Pour les tâches créatives — brainstorming, rédaction de textes variés, génération de noms — une température plus élevée (0,7–1,0) produit des résultats plus originaux. Des paramètres associés comme top-p (échantillonnage par noyau), qui limite l'échantillonnage à la plus grande masse de probabilité, et top-k, qui restreint le choix aux k tokens les plus probables, permettent un contrôle fin du style et du contenu produit. La plupart des APIs d'assistants IA offrent la température comme paramètre configurable. GAIA utilise différents réglages de température selon le type de tâche — bas pour la récupération d'information et la planification, plus haut pour la rédaction créative et le brainstorming.
Comment GAIA utilise Température (IA)
GAIA utilise différents réglages de température selon la tâche. Pour les tâches factuelles comme la lecture de votre boîte de réception, l'extraction d’actions ou le rapport d’événements du calendrier, GAIA utilise une température basse pour garantir une précision constante. Pour les tâches créatives comme la rédaction de réponses, la génération de résumés ou le brainstorming, elle recourt à une température plus élevée pour obtenir des résultats plus variés et naturels.
Concepts liés
Large Language Model (LLM)
Un Large Language Model (LLM) est un modèle d'apprentissage profond entraîné sur d'immenses ensembles de textes, capable de comprendre, générer et raisonner sur le langage humain dans une grande variété de tâches.
Ingénierie de prompt
L’ingénierie de prompt est la pratique qui consiste à concevoir et affiner les instructions données à des modèles linguistiques d’IA afin d’obtenir de manière fiable les résultats souhaités, en influençant leur comportement sans modifier leurs paramètres internes.
Inférence
L'inférence est le processus consistant à exécuter un modèle d'IA entraîné sur de nouvelles données afin de générer des prédictions, des réponses ou des décisions, par opposition à l'entraînement, qui est le processus de création du modèle à partir de données.
Hallucination
L’hallucination d’IA est un phénomène où un modèle de langage produit des informations fausses, fabriquées ou incohérentes tout en semblant fiable, sans que celles-ci soient issues des données d’entrée ou d’entraînement.
Sortie structurée
La sortie structurée est une technique qui contraint un LLM à répondre selon un format prédéfini — généralement JSON ou XML — permettant une analyse programmatique fiable des réponses du modèle, par opposition au texte libre.
