Par Kewan Leonard, le 7 octobre 2026.
Une IA comme ChatGPT répond toujours avec assurance, même quand elle a tort. Ce n’est pas un défaut qu’on va bientôt corriger : cela tient à sa façon de fonctionner. Une fois qu’on l’a compris, on sait quoi lui confier.
Pourquoi elle invente
La CNIL l’explique simplement : ces modèles ne sont pas des bases de connaissances. Ils obéissent à une logique probabiliste, c’est-à-dire qu’ils produisent le résultat statistiquement le plus probable d’après les données sur lesquelles ils ont été entraînés.
Conséquence, toujours selon la CNIL : ils peuvent générer des résultats inexacts qui paraissent pourtant plausibles. On parle souvent d’« hallucinations ». Le risque est plus fort quand on les interroge sur ce qui ne figurait pas dans leurs données, par exemple un événement récent.
Une IA ne « sait » donc pas qu’elle se trompe. Elle écrit la suite la plus vraisemblable.
Cinq signes qui doivent vous alerter
- Un chiffre précis sans source. Un pourcentage, un montant, une date : demandez d’où il vient, puis vérifiez.
- Une référence de loi ou d’article. Les numéros d’articles inventés sont un grand classique.
- Une information très récente. Un prix, un taux, une règle qui vient de changer.
- Une réponse qui change quand vous reposez la même question autrement.
- Une réponse trop arrangeante. Si elle dit exactement ce que vous espériez, redoublez de prudence.
Ce qu’on peut lui confier
Les tâches où vous êtes capable de juger le résultat d’un coup d’œil :
- reformuler un e-mail, corriger des fautes, raccourcir un texte ;
- résumer un long document que vous avez sous les yeux ;
- préparer un brouillon : une réponse, une annonce, une publication ;
- classer des messages par sujet ;
- chercher des idées : des titres, des questions à poser, un plan.
Dans tous ces cas, vous fournissez la matière ou vous relisez. L’erreur éventuelle se voit.
Ce qu’il ne faut pas lui confier seule
- un calcul de prix, de TVA ou de cotisations ;
- une question de droit, de fiscalité ou de santé ;
- un message envoyé à un client sans relecture ;
- une décision.
La CNIL le dit ainsi : une confiance excessive dans les résultats, sans vérification appropriée, peut conduire à des décisions erronées.
La règle qui résume tout
L’IA rédige, vous signez. Tant qu’un humain qui connaît le sujet relit avant l’envoi, elle fait gagner du temps. Dès qu’on la laisse répondre seule sur un sujet qu’on ne maîtrise pas, on prend un risque.
C’est le premier point que je regarde pendant un Diagnostic IA : où l’IA vous ferait gagner du temps sans danger, et où elle n’a rien à faire. Et c’est ce que votre équipe apprend à repérer pendant un atelier IA.
Sources
- CNIL, « Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative » (18 juillet 2024), consultée le 7 octobre 2026.