IA générative

Une réponse vraisemblable, pas une réponse vérifiée

On appelle modèle de langage le système entraîné sur d’immenses volumes de texte pour prédire, à chaque étape, le mot suivant le plus probable. C’est le mécanisme derrière la plupart des assistants conversationnels. La CNIL définit l’intelligence artificielle générative comme la classe des systèmes capables de créer des contenus (texte, image, code, audio) à partir d’une instruction. Rien, dans ce mécanisme, ne garantit l’exactitude du résultat.

Ce défaut a un nom : l’hallucination. C’est une affirmation formulée avec assurance et sans fondement réel : un prix, un taux de TVA ou un article de loi inventés avec la même fluidité qu’une phrase correcte. La CNIL le résume ainsi : ces systèmes « peuvent générer des résultats inexacts qui peuvent, pourtant, paraître plausibles ».

Ce risque ne rend pas l’outil inutile, il en délimite l’usage. Sur la rédaction, la reformulation ou la structuration d’un texte, l’erreur reste rare et facile à repérer. Sur un chiffre, un taux applicable ou une base légale, elle passe souvent inaperçue. La règle qui en découle : l’IA rédige, la personne vérifie et finalise.

Un taux de TVA inventé sur un chantier

C’est pour cela qu’un brouillon généré par une IA, chez Deviseo comme ailleurs, reste un brouillon à relire et à corriger, jamais un document prêt à partir. Chez Deviseo, il s’ouvre dans l’écran de saisie sans être enregistré, et c’est vous qui l’enregistrez puis le finalisez.