Définition
Dans la littérature scientifique, une hallucination désigne un contenu généré qui est dénué de sens ou infidèle à la source fournie. La revue de référence de Ji et al. (2023) distingue deux cas : l’hallucination intrinsèque, qui contredit la source (un document que vous avez fourni dit une chose, la réponse en dit une autre), et l’hallucination extrinsèque, qui ajoute une information invérifiable à partir de la source (un chiffre, une référence, une citation sortis de nulle part).
Pourquoi elles arrivent
Un modèle de langage produit la suite de texte la plus plausible. Plausible ne veut pas dire vrai : quand l’information manque, le modèle peut combler le vide avec une réponse qui a la forme d’une bonne réponse. Deux situations aggravent le risque : les questions très précises (dates, montants, références juridiques) et les documents plus longs que ce que le modèle peut prendre en compte en une fois (sa « fenêtre de contexte »), au-delà de laquelle il « oublie » le début.
Où elles coûtent cher
- Chiffres, dates et montants repris tels quels dans un devis, un rapport ou une note client.
- Références réglementaires : un article de loi ou un seuil fiscal inventé ou périmé. En cabinet comptable, on s’entraîne à repérer une erreur de raisonnement fiscal dans une réponse sur la TVA.
- Citations et sources : une étude ou un lien qui n’existe pas.
- Synthèses : un point absent du document d’origine qui apparaît dans le résumé.
Cinq réflexes au travail
- Fournir la source plutôt que demander de mémoire : le document, le tableau, le modèle.
- Demander de signaler ce qui manque : « ne rien inventer ; signaler ce qui manque » fait partie des règles de nos agents.
- Vérifier les faits, chiffres et citations avant tout envoi externe.
- Découper les documents longs pour rester dans la fenêtre de contexte.
- Garder l’humain sur la décision : l’IA est la plus fiable pour produire des brouillons et des synthèses que l’on relit ensuite.
Repérer une hallucination et la corriger est le deuxième exercice de nos formations, dès le premier temps du programme.