L’IA au sein des entreprises : relever le défi des biais

En France, le gouvernement a lancé l’"IA Booster France 2030", un programme d’accompagnement à 25 millions d’euros qui missionne Bpifrance pour accompagner les PME et ETI françaises dans l’intégration de l’IA. Difficile donc aujourd’hui d’ignorer l’IA, devenue omniprésence dans notre société.

Si l’IA apporte de nombreux avantages aux entreprises, en termes de productivité, de qualité et d’efficacité des processus, elle génère aussi d’importants défis auxquels les organisations sont confrontées lorsqu'elles cherchent à en tirer profit pour mener une activité centrée sur les données, notamment celui des biais.

De nombreux défis auxquels les organisations sont susceptibles d'être confrontées dans le cadre d’un projet intégrant de l'IA et l'analytique pour mettre en place une activité axée sur les données sont liés à des craintes en matière de protection de la vie privée. Pour se préparer à l'inévitabilité de la technologie de l'IA, les entreprises pourraient faire preuve d'une transparence totale en fournissant un accès facile à leurs politiques de confidentialité - ou, s'il n'y en a pas, les élaborer et les rendre facilement consultables sur le site internet de l'entreprise.

Les biais étant souvent invisibles, leur élimination est difficile à garantir. À l'heure actuelle, l'IA est tout aussi sujette aux biais que les humains. Elle doit être formée, et de nombreuses entreprises optent soit pour l'achat de données synthétiques auprès de fournisseurs tiers - susceptibles de présenter des biais distincts - soit pour l'exploration d’internet, en général à la recherche d'indices contextuels. Cependant, personne ne réglemente ni ne surveille le web pour y déceler les biais, et ceux-ci sont susceptibles de se glisser dans les bases d'une plateforme d'IA.

 L'un des moyens les plus efficaces de prévenir les biais est d'installer un filtre humain entre les phases de collecte et de traitement des données de la formation à l'IA. Les collaborateurs peuvent par exemple passer au peigne fin les données publiques afin d'éliminer toute trace de données personnelles identifiables, non seulement pour protéger ces personnes, mais aussi pour s'assurer que seuls les éléments d'information cruciaux sont retenus. Ensuite, les données peuvent être distillées pour n'inclure que ce qui est pertinent.

 La partialité est un concept évolutif et une cible mouvante, en particulier à mesure que l'accès aux données s'améliore. C'est pourquoi il est essentiel pour les entreprises de s'assurer qu'elles recherchent régulièrement de nouvelles informations et qu'elles actualisent en conséquence leurs critères de partialité.

 Changer le statu quo est un défi pour toute entreprise, et un programme ferme de gestion du changement doit être conduit pour sensibiliser le personnel sur l'importance et les avantages d'une approche axée sur les données, et pour le former à l'utilisation des meilleures pratiques des solutions qui sont introduites. Sans cela, les organisations sont confrontées à des problèmes de manque de compréhension de la part des collaborateurs quant à la manière de tirer le meilleur parti de leurs données et d'en tirer les analyses pertinentes pour les aider à renforcer la réussite de l'entreprise. Cela peut être dû à un manque d'éducation, de formation et/ou à l'utilisation d'un outil complexe qui n'offre pas une expérience utilisateur accessible à tous les niveaux de compétence. Ce peut être perçu comme quelque chose qui ne concerne que le Chief Data Officer ou son équipe, alors qu'en réalité, il existe des solutions sur le marché qui fournissent une interface simple, avec à des instructions simples afin d'extraire et de présenter leurs données dans le format le plus compréhensible pour eux.

 L'IA contribue à améliorer la productivité et la prise de décisions au sein des entreprises. Toutefois, les chefs d'entreprise doivent se montrer responsables et prévenir les biais relatifs aux données, car, malgré ses avantages, l'IA présente des risques liés à des défis majeurs, potentiellement considérables s’ils ne sont pas adressés. C’est pourquoi il est primordial de s'engager à déployer des systèmes d'IA dans l'ensemble des opérations tout en restant impartial, ce qui suppose la présence d’un jugement et des processus humains comme garde-fou gardant à l'esprit les notions de partialité et d'équité ; des enjeux cruciaux pour la réussite de tout projet intégrant de l’IA et de l’analytique.