L’intelligence artificielle n’est pas intelligente
Un modèle de langage ne comprend pas ce qu’il écrit : il prédit ce qui devrait suivre, à partir d’une quantité de textes considérable. Cette distinction n’est pas philosophique, elle est opérationnelle — elle explique pourquoi ces systèmes sont excellents pour reformuler, synthétiser et explorer, et pourquoi ils énoncent avec la même assurance une information exacte et une information inventée.
Ce que fait réellement un modèle
Un modèle de langage calcule, mot après mot, ce qui est le plus probable compte tenu de ce qui précède et de ce qu’il a vu pendant son entraînement. Il n’a ni intention, ni représentation du vrai, ni moyen de vérifier. Quand la réponse est juste, c’est parce que la formulation juste était la plus probable ; quand elle est fausse, c’est le même mécanisme qui a opéré.
C’est pourquoi l’expression « il s’est trompé » induit en erreur : se tromper suppose de viser la vérité. Le système ne vise pas la vérité, il vise la vraisemblance. La plupart du temps les deux coïncident — et c’est précisément ce qui rend les cas où elles divergent difficiles à repérer.
La conséquence pratique : plus le sujet est rare, technique ou récent, moins la vraisemblance et la vérité coïncident. Un modèle est le plus dangereux exactement là où vous auriez le plus besoin de lui — sur ce que vous ne savez pas vérifier.
Ce qu’il fait remarquablement bien
Reconnaître ces limites n’oblige pas à minimiser la capacité réelle de ces outils, qui est considérable sur une catégorie précise de tâches : celles où vous êtes en mesure de juger le résultat.
| Ce pour quoi c’est utile | Pourquoi |
|---|---|
| Reformuler, résumer, traduire | La matière vient de vous ; vous jugez le résultat immédiatement |
| Explorer des pistes, débloquer une page blanche | La qualité importe peu, la quantité d’options compte |
| Expliquer un sujet que vous connaissez à moitié | Vous détectez ce qui sonne faux et vous vérifiez le reste |
| Structurer une information dispersée | Tâche de forme, pas de fond |
Et symétriquement, la règle qui évite l’essentiel des mauvaises surprises : ne lui demandez pas ce que vous ne sauriez pas vérifier.
Pourquoi cet article existe
Parce que la promesse d’intelligence est vendue partout, y compris à des entreprises qui n’ont pas les moyens de vérifier ce qu’on leur promet. Comprendre le mécanisme coûte dix minutes et évite deux erreurs coûteuses : accorder à ces outils une confiance qu’ils ne méritent pas, et se priver d’un gain réel par méfiance globale.
Nous les utilisons nous-mêmes, en interne, avec cette lecture : un accélérateur sur ce que nous savons juger, jamais une autorité sur ce que nous ignorons.
Le risque concret pour une entreprise n’est pas l’erreur, c’est la fuite de données. Les dangers de l’IA pour les entreprises
Relier le sujet à votre entreprise.
Un article donne des repères généraux. Pour décider quoi faire sur votre parc, nous partons de vos outils, de vos contraintes et de vos priorités.
Parler d’un usage de l’IA