A l’instar de toutes les créations humaines, la technologie est, elle aussi imparfaite et par conséquent soumise à l’influence des a priori et des biais cognitifs. Ainsi, qu’il s’agisse de l’aspect discriminant de l’intelligence artificielle, de la reconnaissance faciale ou du taggage automatique de photos, les biais humains, qu’ils soient conscients ou non, s’immiscent au cœur des créations technologiques. Mais, c’est précisément de la capacité à apprendre de nos erreurs que naissent la créativité et l’innovation ; et il en va de même pour la technologie qui doit être en mesure de s’améliorer également au fur et à mesure de son évolution.
Les exemples précédemment cités et d’autres du même genre servent souvent à illustrer le problème de diversité au sein du secteur de la technologie. Pour autant, ils ne sont qu’une partie d’un problème bien plus large car même si le secteur devenait exemplaire en matière de diversité et d’inclusion, des biais seraient toujours présents dans la technologie.
Cet enjeu est vital dans la mesure où il y a une utilisation croissante à l’intelligence artificielle et à l’apprentissage automatique, à la fois dans le domaine professionnel et personnel. La valeur de ces outils repose sur l’automatisation d’actions, réalisées à une vitesse allant au-delà de toute capacité humaine.
Néanmoins, cela signifie que les erreurs peuvent se produire produisent, elles aussi, beaucoup plus rapidement. Une application de reconnaissance faciale qui aurait été testée sur un groupe composé majoritairement d’hommes caucasiens, pourrait bien avoir des difficultés à identifier d’autres visages. Et si les hôpitaux, les écoles ou même les résidences privées ont recourt à cette application pour contrôler leurs accès, et que son évolutivité est nourrie par une plateforme d’apprentissage automatique, alors le problème ira en s’aggravant.
Aller au-delà de ses propres préjugés
Pour résoudre ce problème, les solutions envisagées doivent être conjointement humaines et technologiques
Sur le plan humain, la diversité et l’inclusion au sein de l’entreprise doivent être des priorités. Même si cela ne suffira pas pour éradiquer les biais, il est important que les entreprises, plus particulièrement dans le secteur technologique, reflètent plus fidèlement leur public à l’échelle mondiale. Et cela ne concerne pas uniquement les développeurs, même si c’est primordial. La diversité au sein des équipes est ce qui permet d’enrichir les points de vue et de contrer les préjugés des uns et des autres.
S’il est impensable d’imaginer que les entreprises responsables des exemples cités plus haut ont de manière délibérée reproduit leurs préjugés au sein de leurs applications, les acteurs technologiques doivent savoir se remettre en question et confronter leurs propres préjugés et biais en permanence. Alors que le recours à l’intelligence artificielle et à l’apprentissage automatique s’étend désormais à tous les aspects de la vie courante, du traitement des dossiers de candidatures à l’obtention de prêts immobiliers, cela prend toute son importance.
Seul l’humain est capable de saisir les nuances et d’introduire la notion d’empathie. Il ne s’agit donc pas seulement de mettre en avant les biais éventuels mais de faire en sorte que les hypothèses de départ se transforment en opportunités positives qui trouvent écho auprès des publics.
Sur le plan technologique, il est nécessaire de s’intéresser à la façon de se servir de la technologie pour intercepter les biais avant qu’ils ne s’insèrent dans le système et prolifèrent. Cela suppose des outils qui partent de nos suppositions pour nous forcer à envisager d’autres possibilités.
Prenons l’exemple des moteurs de recherche. À l’aide d’algorithmes et de cookies, les moteurs de recherche, qui sont connectés à nos appareils, présentent les résultats de manière personnalisé. Si cette approche répondait au désir de fournir une expérience plus personnelle en ne donnant que des résultats pertinents, elle crée en réalité des bulles qui confortent chacun dans ses idées puisque tous les résultats allant à l’encontre du contexte personnel de l’utilisateur sont exclus
Permettre aux données de s’auto-définir
Une autre approche consisterait à mettre en place ce que l’on appelle un moteur associatif. Ainsi, les données sont en mesure de se définir par elles-mêmes, plutôt que d’adopter une approche de structure rationnelle, où les données sont déjà prédéfinies en fonction des questions posées.
Dans le cas de cette approche, la question reste posée par un individu, mais plutôt que d’obtenir des réponses filtrées par un algorithme qui analyse les données selon des structures prédéfinies, les données sont présentées telles quelles. Les données étant directement connectées entre elles, les algorithmes peuvent trouver et faire remonter des informations que les utilisateurs n’auraient pas imaginées eux-mêmes.
Cette approche relève du concept de l’intelligence augmentée, qui s’appuie sur la puissance de l’intelligence artificielle pour soutenir, et non remplacer, l’intelligence humaine. L’intelligence augmentée offre la même rapidité et évolutivité que l’intelligence artificielle et l’apprentissage automatique, mais uniquement dans le but d’améliorer la performance humaine.
Vers un avenir sans préjugé ?
Les êtres humains sont une espèce imparfaite. Pourtant ce sont les erreurs humaines qui donnent à l’être humain toute sa valeur car elles sont source de créativité et d’innovation, ce que les machines sont pour le moment encore incapables de reproduire.
Pour pallier imperfections et préjugés, il faut être conscient des biais que nous appliquons dans nos raisonnements. La seule manière d’y parvenir est de conjuguer les capacités humaines d’empathie et de compréhension de la nuance avec la portée et la rapidité de la technologie. C’est ce qui définit l’intelligence augmentée.