Gestion des risques de l'IA : les incidents à éviter en entreprise

Face à l’essor de l’IA, le nombre d’incidents en forte hausse

Face à la démocratisation des outils d’intelligence artificielle, le nombre d’incidents liés à l’IA signalés dans les médias internationaux a augmenté de 1 278 % en un an seulement, entre 2022 et 2023, selon l’Observatoire des incidents liés à l’IA mené par l’OCDE. En cause : une augmentation marquée de l'adoption de ChatGPT, le manque d’encadrement et d’acculturation, la méconnaissance des risques réels et l’absence de gouvernance dédiée au sein des organisations.

‍

Ces incidents peuvent être de différentes natures et entraîner des conséquences préjudiciables pour l’entreprise, allant de simples dysfonctionnements opérationnels à l’atteinte à la réputation de la société, en passant par des sanctions juridiques lourdes.

‍

Alors que 96% des dirigeants pensent que l’adoption de l’IA générative augmente la probabilité des risques de sécurité, seuls 24% des projets actuels seraient sécurisés, selon une étude d’IBM.

Quels sont les principaux types de risques liés à l’IA en entreprise ? 

Cyberattaques, fuite de données, biais algorithmiques, atteinte à la vie privée… Voici les principaux types de risques liés à la mise en place de l’IA en entreprise.

‍

1. Les risques de sécurité et de protection des données

‍

L’une des principales préoccupations des sociétés qui utilisent l’intelligence artificielle est liée à la protection des données utilisées. En effet, même si les outils d’IA générative suivent des protocoles de sécurité rigoureux (données chiffrées en transit et au repos, gestion stricte des accès, pentests et audits réguliers…), ils restent, comme tout autre outil numérique, exposés à des vulnérabilités bien réelles.

Au moment d’injecter des données dans le modèle pour formuler leurs prompts, les entreprises ne sont donc pas à l’abri de certains dangers, tels que :

‍

• La réutilisation des informations dans l’entraînement de modèles futurs ;
• Le vol ou la fuite de données sensibles ;  
• Des interceptions malveillantes ; 
• L’accès non autorisé à des données confidentielles ;
• Une exploitation abusive ou détournée des informations partagées ; 
• … 

‍

Ces risques peuvent non seulement compromettre l’intégrité et la confidentialité des données, mais aussi entraîner des conséquences lourdes pour l'organisation : atteinte à la réputation, perte de confiance des clients et partenaires, sanctions réglementaires, litiges juridiques.

→ Pour maximiser la protection de la data partagée avec les outils d’IA, il est donc important :

• De choisir une solution d'intelligence artificielle sécurisée (telle que ChatGPT, Mistral, Claude…). Demandez à votre Directeur de la Technologie / CTO de vérifier la localisation des serveurs, le protocole de chiffrement des données, la conformité avec le RGPD, la politique de rétention de la data et les mesures de prévention mises en place par l’outil pour limiter les risques cyber.
  
  
• D’utiliser les versions dédiées aux entreprises : sur la version individuelle de ChatGPT, vos échanges avec l’outil peuvent, par défaut, être utilisés par OpenAI afin d’entraîner et d’améliorer les modèles. En revanche, sur la version Teams et Enterprise, les informations partagées ne sont jamais utilisées pour l’entraînement des modèles. De plus, cette version respecte la norme exigeante SOC-2 pour garantir le plus haut niveau de sécurité et de confidentialité des données ;
  
  
• De ne partager aucune information sensible ou personnelle avec le chatbot : données clients, informations financières, données RH, contrats, contenus soumis au secret professionnel ou protégés par la propriété intellectuelle…

‍

• D’anonymiser les données soumises et les requêtes envoyées à l’aide d’alias, de noms fictifs, de formulations génériques… 

‍

• De sensibiliser et de former les équipes aux enjeux de sécurité et à l'ensemble de ces bonnes pratiques
  

2. Les risques juridiques

‍

L’implémentation de l’intelligence artificielle en entreprise soulève également un certain nombre de risques juridiques, tels que : 

‍

• Le non-respect du RGPD qui encadre la collecte et le traitement des données personnelles au sein de l’Union européenne avec plusieurs principes clés en matière de sécurité, de transparence, de conservation des données… ; 
  ‍
• La violation des droits de propriété intellectuelle ; 
  ‍
• La responsabilité juridique en cas de dommage, si une décision automatisée entraîne un préjudice (erreur de diagnostic, licenciement abusif, incident technique…) ;
  ‍
• Une décision basée sur l’IA qui s’avère discriminatoire ou injustifiée

‍

En outre, en cas de litige, l’utilisation de l’IA risque de compliquer la résolution du contentieux, notamment si l’organisation ne parvient pas à démontrer la transparence, ou la conformité du traitement des données, ni à justifier clairement les prises de décisions automatisées devant les instances légales concernées.

‍

→ Pour limiter ces incidents, il est impératif d’intégrer les équipes juridiques dès les premières étapes de l’installation des outils d’IA dans la société, de favoriser les solutions offrant une excellente traçabilité, et d’encadrer les usages internes par l’élaboration de chartes et de politiques bien rodées. Il est également important de définir contractuellement les responsabilités pour identifier qui sera responsable en cas de dommage (l’éditeur de l’outil d’IA, l’entreprise, l’utilisateur, le développeur du modèle, le manager ayant validé la décision…). Pour aller plus loin, découvrez comment l’IA s’applique au métier de juriste.

‍

3. Les risques humains et opérationnels

‍

La mise en œuvre de l’intelligence artificielle en entreprise s’accompagne aussi de nombreux bouleversements sur le plan humain. Mal encadrée et accompagnée, cette transformation digitale peut générer une perte de motivation et de sens, une baisse de l’engagement et des tensions internes.

‍

En effet, l’IA est souvent perçue comme une menace pour les emplois et suscite une peur d’une déshumanisation du travail. Beaucoup de collaborateurs sont aussi réticents à l’idée de changer leurs pratiques habituelles et à digitaliser leurs tâches, par peur de l’inconnu ou tout simplement par manque d’acculturation digitale.

‍

Ces défis humains peuvent considérablement freiner l’adoption de l’intelligence artificielle dans l’entreprise et impacter les performances globales de la société. 

‍

D’autre part, il ne faut pas négliger les risques opérationnels liés à l’utilisation de l’IA : dépendance technologique excessive, dérives, erreurs de traitement, mauvaise interprétation des résultats… 

‍

→ Pour pallier ces incidents humains et opérationnels, voici quelques mesures à mettre en place : 

‍

• Impliquer les collaborateurs le plus en amont possible, et tout au long du projet de transition vers l’IA, à travers une communication étroite et transparente ; 
  ‍
• Accompagner le changement et anticiper les craintes, méfiances et résistances de la part des équipes ; 
  ‍
• Former ses équipes à l’usage de l’IA ; 
  ‍
• Sensibiliser les collaborateurs aux atouts, mais aussi aux limites de l’intelligence artificielle

‍

4. Les risques liés aux biais algorithmiques et aux hallucinations

‍

Souvent négligés, les biais algorithmiques sont pourtant loin d’être rares dans les solutions d’intelligence artificielle. Or, si elles ne sont pas identifiées, ces distorsions peuvent être à l’origine de décisions inéquitables, voire discriminatoires.

‍

Cela s'avère particulièrement problématique dans certaines situations sensibles, telles que des recrutements automatisés par l’IA, où des profils sont écartés en raison de critères biaisés (genre, origine, âge…), sans justification objective.

‍

Quant aux hallucinations (c’est-à-dire des erreurs ou des inventions produites par les IA), elles peuvent également avoir des conséquences graves si elles ne sont pas détectées et corrigées : prise de décision stratégique inadaptée, rapport financier erroné, contrat non conforme et désinformation.

‍

→ Pour éviter les incidents liés aux biais algorithmiques et aux hallucinations, voici quelques bonnes pratiques à adopter : 

‍

• Fournir des données variées, fiables et de qualité à l’IA ;
  ‍
• Former les équipes opérationnelles et les managers pour les aider à repérer les hallucinations, à vérifier les informations générées par l’IA et à garder, en tout temps, un regard critique sur les résultats fournis ;
  ‍
• Réaliser des audits réguliers pour identifier les biais et détecter les éventuelles dérives ;
  ‍
• Instaurer une gouvernance de l’IA ;
  ‍
• Faire preuve d’une vigilance humaine continue ; 
  ‍
• Encadrer les processus décisionnels et mettre en place un circuit de validation rigoureux

‍

5. Les risques éthiques

‍

Enfin, l’utilisation de l’intelligence artificielle en entreprise soulève plusieurs questions sur le plan éthique : jusqu’où aller dans l’automatisation des tâches ? Est-il juste de déléguer à une machine des décisions sensibles ? Comment garantir l’équité, la transparence et le respect des droits fondamentaux ? Quelle place accorder à l’humain ? Comment éviter les dérives et les abus ? ... 

‍

Ces interrogations nécessitent de mener une réflexion approfondie en interne pour définir les limites à poser ainsi que les valeurs à préserver face à l’essor de l’IA. Cela peut notamment se traduire par la rédaction d’une charte d’IA et par la mise en place d’une gouvernance dédiée, afin de garantir une utilisation respectueuse, responsable, inclusive et éthique de l’intelligence artificielle.

Comment prévenir les risques liés à l'IA en entreprise ?

Afin de limiter les incidents liés à l’intelligence artificielle et de se prémunir des risques évoqués plus haut, l’une des étapes préalables clés est de former ses équipes métiers à une utilisation conforme et sécurisée de l’IA. 

‍

Pour ce faire, Mister IA vous propose des formations professionnelles en intelligence artificielle, disponibles en ligne ou en présentiel.

‍

Plusieurs de nos modules sont éligibles au CPF (Compte personnel de formation), ainsi qu’aux dispositifs de financement pris en charge par les OPCO, l’AGEFICE ou encore le FSE+.

‍

Nous proposons également des prestations d’audit et de conseil en IA, visant à examiner vos process afin de vous livrer des recommandations adaptées pour implémenter l’IA de façon optimale et sécurisée au sein de votre organisation.