Amazon : une intelligence artificielle misogyne aux ressources humaines

5
L'intelligence artificielle attribuait une note sur 5 aux CV qu'elle
traitait.

L'intelligence artificielle peut être d'un grand secours pour toutes sortes de missions dans l'entreprise. En revanche, il faut qu'elle soit « nourrie » convenablement : gare sinon aux risques de discrimination.

Cette mésaventure est arrivée à un système d'intelligence artificielle mise au point par une équipe d'Amazon, en 2014. L'objectif du robot était d'aider au tri des milliers de CV que reçoit le géant du commerce en ligne pour combler les postes de développeurs logiciel et d'emplois nécessitant des compétences techniques. Pour entraîner son modèle informatique, Amazon a « nourri » l'intelligence artificielle avec les CV reçus pendant dix ans pour ces postes. Dans leur grande majorité, ce sont des hommes qui répondent à ces offres d'emplois…

Modèle imparfait

Le robot en a donc conclu que les candidatures masculines étaient préférables aux CV féminins. Les notes des profils de femmes étaient systématiquement inférieures à celles des hommes, à compétences égales ; même sur des CV anonymes, l'intelligence artificielle parvenait à détecter ceux provenant de femmes : il suffisait qu'elle détecte des mots-clé comme « présidente du club d'échecs féminin » (signalé en hobby, par exemple) pour recaler une candidature féminine. Selon une source citée par Reuters, ce système devait déterminer les cinq meilleurs profils à embaucher dans une centaine de CV. Une sorte de « Graal » pour les ressources humaines…

Discrimination

En 2015, Amazon s'est aperçu du biais contre les femmes de ce robot. Le système a été corrigé depuis, mais il n'a servi que pour des essais, a assuré l'entreprise. Ce qui montre bien que le regard humain est tout aussi important, voire plus encore, que l'automatisation qui peut faire preuve de discrimination si elle est mal conçue au départ.


A découvrir