Aller au contenu
Article

Les dangers de l’IA pour les entreprises : risques et réponses

Mis à jour le

Pour une PME, le risque principal de l’intelligence artificielle n’est pas qu’elle se trompe : c’est qu’un collaborateur y dépose des informations confidentielles — un contrat, un fichier client, un code source — sans savoir où elles vont ni ce qu’il en advient. Ce risque se traite par une règle d’usage écrite et connue, pas par une interdiction que personne ne respectera.

Cinq risques, par ordre de probabilité

01La fuite de donnéesLe risque le plus fréquent et le plus concret. Ce qui est saisi dans un service en ligne quitte votre entreprise ; selon le contrat et les réglages, cela peut être conservé, analysé, voire utilisé pour l’entraînement.
02L’information fausse énoncée avec assuranceCes systèmes produisent un texte plausible, pas un texte vérifié. Un chiffre, une référence juridique ou une citation inventés se repèrent mal, précisément parce que la forme est impeccable.
03La dépendance à un fournisseurUn usage intégré aux processus devient difficile à retirer si le service change de prix, de conditions, ou disparaît.
04Les biaisUn système entraîné sur des données historiques reproduit leurs déséquilibres. Le sujet devient sérieux dès qu’il touche au recrutement, à l’attribution d’un droit ou à l’évaluation de personnes.
05Les coûts non anticipésAbonnements multipliés service par service, temps de vérification de ce qui est produit, et parfois un projet d’intégration qui coûte davantage que le gain espéré.

Ce qui fonctionne : une règle d’usage, pas une interdiction

Interdire ne marche pas : les outils sont accessibles depuis n’importe quel navigateur ou téléphone personnel, et l’interdiction déplace simplement l’usage hors de votre vue. Ce qui fonctionne tient en une page, comprise de tous.

01Dire ce qui ne se saisit jamaisDonnées personnelles de clients ou de salariés, contrats, éléments financiers, identifiants, code propriétaire. Une liste courte, concrète, avec des exemples.
02Désigner les outils autorisésUn ou deux, avec un compte professionnel dont les réglages de confidentialité ont été vérifiés — plutôt que dix comptes personnels invisibles.
03Poser la règle de vérificationTout élément factuel — chiffre, date, référence, citation — est vérifié avant usage externe. La responsabilité reste celle de la personne qui signe.
04Nommer les usages exclusDécisions concernant des personnes, contenus juridiques ou médicaux, tout ce qui engage l’entreprise sans relecture humaine.
Où cela rejoint la sécurité

Le risque de fuite se traite comme tout risque de données : savoir ce qui sort, vers qui, et l’écrire dans son registre. Comment nous documentons nos propres traitements

Notre position

8TECH utilise l’intelligence artificielle en interne, pour son propre travail — qualification des demandes, documentation, aide au diagnostic. Nous ne commercialisons pas d’offre d’intelligence artificielle à ce jour, et nous préférons le dire plutôt que de surfer sur un sujet porteur.

Ce que nous pouvons faire, en revanche, c’est vous aider à cadrer les usages, à savoir où partent vos données, et à héberger en France ce qui doit y rester. C’est un sujet de gouvernance et d’hébergement, pas un produit.

Sources datées en fin d’article · article revu au moins une fois par anAutres articles sur l’IA
Pour vérifier

Sources et références

Ce que cet article affirme et qui ne vient pas de notre pratique vient d'ici. Chaque référence porte son éditeur et sa date.

01Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générativeCNIL · 2024-07-18 — recommande une charte interne des usages autorisés et interdits, l'interdiction de saisir des données confidentielles ou personnelles, la vérification des sorties et la formation des salariés
02Recommandations de sécurité pour un système d'IA générativeANSSI · 2024-04-29 — posture de prudence et risques de sécurité sur tout le cycle de vie d'un système d'IA générative
03Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielleEUR-Lex · 2024-07-12 — classe à haut risque les systèmes d'IA utilisés pour le recrutement, l'évaluation des personnes et l'accès à des droits (annexe III)
Après cette lecture

Relier le sujet à votre entreprise.

Un article donne des repères généraux. Pour décider quoi faire sur votre parc, nous partons de vos outils, de vos contraintes et de vos priorités.

Parler de ma situation