Température (IA)
La température d'une IA (ou température d'un LLM) est le réglage qui détermine à quel point un modèle de langage choisit son mot suivant au hasard : basse (proche de 0), le modèle prend presque toujours le token le plus probable et ses réponses sont stables et prévisibles ; haute, il accepte des tokens moins probables et ses réponses deviennent plus variées, plus créatives et plus souvent fausses.
Comprendre Température (IA)
Lorsqu'un LLM génère du texte, il calcule une distribution de probabilités sur les tokens suivants possibles. La température ajuste cette distribution avant l'échantillonnage. Avec une température à 0, le modèle choisit systématiquement le token le plus probable (décodage glouton), produisant une sortie déterministe. À des températures plus élevées (0,7-1,0), le modèle pioche dans une distribution plus large, générant davantage de variété et parfois des résultats surprenants, voire erronés.
La température est un curseur entre créativité et constance. Pour les tâches nécessitant de la précision factuelle (résumer un e-mail, extraire des tâches d'une réunion), une faible température (0,0–0,3) est préférée. Pour les tâches créatives (brainstorming, rédaction de textes variés, génération de noms), une température plus élevée (0,7–1,0) produit des résultats plus originaux.
Des paramètres associés comme top-p (échantillonnage par noyau), qui limite l'échantillonnage à la plus grande masse de probabilité, et top-k, qui restreint le choix aux k tokens les plus probables, permettent un contrôle fin du style et du contenu produit.
La plage de valeurs dépend du fournisseur. L'API d'OpenAI et celle de Google Gemini acceptent de 0 à 2, l'API Claude d'Anthropic de 0 à 1. À 1, le modèle utilise la distribution de probabilités telle qu'il l'a apprise ; en dessous, la distribution se resserre sur les meilleurs candidats ; au-dessus, elle s'aplatit et des mots incongrus apparaissent. Au-delà de 1,5, le texte devient souvent incohérent, si bien que ces valeurs ne servent presque jamais en pratique.
Concrètement, le modèle attribue un score (logit) à chaque token candidat, divise ces scores par la température T, puis applique une softmax pour obtenir des probabilités. Avec deux candidats notés 2 et 1, on obtient environ 73 % et 27 % à T = 1, 88 % et 12 % à T = 0,5, et 62 % et 38 % à T = 2. Plus T est basse, plus le premier candidat concentre la probabilité.
Comment régler la température : dans une API, on la passe dans la requête (par exemple "temperature": 0.2). Les applications grand public comme ChatGPT ou Claude n'offrent en général pas ce réglage ; il se trouve dans les playgrounds pour développeurs. Même à 0, les réponses ne sont pas garanties identiques d'un appel à l'autre, à cause de l'ordre des calculs parallèles sur GPU. On recommande aussi de modifier soit la température, soit top-p, mais pas les deux à la fois.
GAIA utilise par défaut une température basse de 0,1 pour presque toutes ses tâches, car la plupart demandent de l'exactitude : trier des e-mails, extraire des tâches, lire un agenda, appeler des outils. Seules quelques tâches qui ont besoin de variété reçoivent une valeur plus haute.
Comment GAIA utilise Température (IA)
GAIA utilise une température par défaut de 0,1 pour presque toutes ses tâches. Pour lire votre boîte de réception, extraire des actions, rendre compte de votre agenda ou appeler des outils, il faut que la même entrée donne un résultat cohérent. Seules quelques tâches qui demandent de la variété utilisent une valeur plus élevée.
Concepts liés
Modèle de langage volumineux (LLM)
Un modèle de langage volumineux (LLM) est une intelligence artificielle entraînée sur d'énormes quantités de textes et capable de comprendre, de générer et de raisonner sur le langage humain avec une remarquable aisance.
Ingénierie de prompt
L’ingénierie de prompt est la pratique qui consiste à concevoir et affiner les instructions données à des modèles linguistiques d’IA afin d’obtenir de manière fiable les résultats souhaités, en influençant leur comportement sans modifier leurs paramètres internes.
Inférence
L'inférence est le processus consistant à exécuter un modèle d'IA entraîné sur de nouvelles données afin de générer des prédictions, des réponses ou des décisions, par opposition à l'entraînement, qui est le processus de création du modèle à partir de données.
Hallucination
L’hallucination d’IA est un phénomène où un modèle de langage produit des informations fausses, fabriquées ou incohérentes tout en semblant fiable, sans que celles-ci soient issues des données d’entrée ou d’entraînement.
Sortie structurée
La sortie structurée est une technique qui contraint un LLM à répondre selon un format prédéfini — généralement JSON ou XML — permettant une analyse programmatique fiable des réponses du modèle, par opposition au texte libre.
