Le logiciel recruteur d’Amazon n’aimait pas les femmes
En 2014, Amazon a créé un logiciel pour identifier automatiquement les meilleurs candidats parmi les CV reçus par l’entreprise. Une intelligence artificielle misogyne révèle Reuters.
Le succès d’Amazon doit beaucoup à sa capacité à automatiser un maximum de choses: gestion des entrepôts et des livraisons, pricing, recommandations d’achats, supermarchés sans caisse… En 2014, l’équipe derrière ces logiciels intelligents a été chargée de créer un algorithme capable d’identifier les meilleurs talents parmi les tonnes de CV que reçoit l’entreprises de Jeff Bezos. Problème: Reuters révèle que l’intelligence artificielle qui attribuait de une à cinq étoiles aux candidats n’aimait pas les femmes.
Comme tout algorithme apprenant, ce software RH a été entraîné sur des jeux de données existantes, en l'occurrence les CV reçus par l’entreprise sur 10 ans et ceux qui ont été retenus. Comme la tech est un secteur très masculin, la machine n’a vu passer que très peu d’embauches féminines sur les postes de développeurs et autres métiers techniques. Et elle en a déduit que son job était de sélectionner des hommes.
Projet abandonné
Le géant du e-commerce s’est rendu compte de ce biais sexiste dès 2015. Le logiciel pénalisait les candidatures qui contenaient le mot femme ou ses dérivés comme les termes «capitaine de club d'échecs féminin», selon les sources anonymes de Reuters qui indiquent aussi qu’il avait laissé de côté deux CV envoyés par des diplômées d’écoles réservées aux femmes. Après une tentative d’ajustement qui ne garantissait pas que d’autres facteurs ne viendraient pas biaiser les résultats de ce tri, l’entreprise de Seattle a finalement abandonné ce projet au début de l’année 2017.
Interrogée par l’agence de presse britannique suite à cette découverte, Amazon a seulement répondu que l'outil «n'a jamais été utilisé par les recruteurs d'Amazon pour évaluer les candidats.» Les sources à l’origine de cette information sont plus nuancées. Selon elles, les recruteurs ont examiné les recommandations faites par cet algorithme sans toutefois se fier uniquement à ces classements. Un cas concret rassurant pour les professionnels des RH qui se demandent à quelle sauce (et à quel horizon) l’intelligence artificielle va-t-elle manger leur métier.
