[ad_1]
SAN FRANCISCO (Reuters) – Amazon.com Inc’s (AMZN.O) les spécialistes en apprentissage automatique ont découvert un gros problème: leur nouveau moteur de recrutement n’aimait pas les femmes.
L’équipe avait mis au point des programmes informatiques depuis 2014 pour examiner les curriculum vitae des candidats à un poste dans le but de mécaniser la recherche des meilleurs talents, ont déclaré à Reuters cinq personnes familiarisées avec cet effort.
L’automatisation a joué un rôle clé dans la domination du commerce électronique par Amazon, que ce soit dans les entrepôts ou dans la prise des décisions en matière de tarification. L’outil d’embauche expérimental de la société utilisait l’intelligence artificielle pour donner aux candidats des notes allant de 1 à 5 étoiles – un peu comme les clients évaluent les produits sur Amazon, selon certaines personnes.
«Tout le monde voulait ce Saint Graal», a déclaré l'une des personnes. "Ils voulaient littéralement que ce soit un moteur dans lequel je vais vous donner 100 curriculum vitae, ce seront les cinq meilleurs, et nous les louerons."
Mais en 2015, la société a réalisé que son nouveau système ne notait pas les candidats aux postes de développeur de logiciel ni aux autres postes techniques de manière non sexiste.
En effet, les modèles informatiques d’Amazon ont été formés pour examiner les candidatures en observant les modèles de curriculum vitae soumis à la société sur une période de 10 ans. La plupart venaient d'hommes, ce qui reflétait la domination des hommes dans l'industrie des technologies.
En réalité, le système d’Amazon a lui-même appris que les candidats masculins étaient préférables. Il reprend les mots pénalisés qui incluent le mot «femmes», comme dans «capitaine de club d’échecs pour femmes». Et il a déclassé les diplômés de deux collèges entièrement féminins, selon des personnes au fait du sujet. Ils n'ont pas précisé les noms des écoles.
Amazon a modifié les programmes pour les rendre neutres par rapport à ces termes particuliers. Mais cela ne garantissait pas que les machines ne trouveraient pas d'autres moyens de trier les candidats susceptibles de se révéler discriminatoires, a déclaré le peuple.
La société de Seattle a finalement dissout l’équipe au début de l’année dernière parce que les dirigeants avaient perdu tout espoir quant au projet, d’après les personnes qui parlaient sous le couvert de l’anonymat. Les recruteurs d’Amazon ont examiné les recommandations générées par cet outil lors de la recherche de nouveaux employés, mais ils ne se sont jamais appuyés uniquement sur ces classements, ont-ils déclaré.
Amazon a refusé de commenter les défis de la technologie, mais a déclaré que l’outil «n’a jamais été utilisé par les recruteurs d’Amazon pour évaluer les candidats». La société n’a pas donné plus de détails. Il n'a pas contesté que les recruteurs avaient examiné les recommandations générées par le moteur de recrutement.
L’expérience de la société, que Reuters est le premier à signaler, offre une étude de cas sur les limites de l’apprentissage automatique. Elle sert également de leçon à la liste croissante de grandes entreprises, notamment Hilton Worldwide Holdings Inc (HLT.N) et Goldman Sachs Group Inc (GS.N) qui cherchent à automatiser des parties du processus d’embauche.
Selon un sondage réalisé en 2017 par la société de développement de logiciels CareerBuilder, environ 55% des responsables américains des ressources humaines ont déclaré que l'intelligence artificielle, ou IA, ferait partie de leur travail habituel.
Les employeurs rêvent depuis longtemps de tirer parti de la technologie pour élargir le réseau d’embauche et réduire le recours aux opinions subjectives des recruteurs. Mais des informaticiens tels que Nihar Shah, qui enseigne l’apprentissage automatique à la Carnegie Mellon University, affirment qu’il reste encore beaucoup à faire.
"Comment s'assurer que l'algorithme est juste, comment s'assurer que l'algorithme est vraiment interprétable et explicable – c'est encore assez loin", a-t-il déclaré.
LANGUE MASCULINE
L’expérience d’Amazon a commencé à un moment charnière pour le plus grand détaillant en ligne au monde. L'apprentissage automatique gagnait en popularité dans le monde de la technologie, grâce à la montée en puissance de la puissance de calcul à faible coût. Et le département des Ressources humaines d’Amazon était sur le point de se lancer dans une aventure de recrutement: depuis juin 2015, l’effectif global de la société a plus que triplé pour atteindre 575 700 travailleurs, selon les dépôts de documents réglementaires.
Elle a donc créé une équipe dans le centre d’ingénierie d’Édimbourg d’Amazon, qui compte désormais une douzaine de personnes. Leur objectif était de développer une intelligence artificielle capable d'explorer rapidement le Web et de repérer les candidats intéressants à recruter, ont déclaré les personnes familiarisées avec le sujet.
Le groupe a créé 500 modèles informatiques axés sur des fonctions et des emplacements spécifiques. Ils ont appris à chacun à reconnaître environ 50 000 termes apparaissant sur les curriculum vitae des candidats précédents. Les algorithmes ont appris à attribuer peu d’importance aux compétences communes à tous les candidats, telles que la possibilité d’écrire divers codes informatiques, ont indiqué les participants.
Au lieu de cela, la technologie a favorisé les candidats qui se sont décrits en utilisant des verbes plus communs sur les curriculum vitae d’ingénieurs masculins, tels que «exécuté» et «capturé», a déclaré une personne.
Le sexisme n'était pas le seul problème. Les problèmes avec les données qui étayaient les jugements des modèles signifiaient que des candidats non qualifiés étaient souvent recommandés pour toutes sortes d’emplois, ont déclaré les participants. La technologie donnant des résultats presque au hasard, Amazon a mis fin au projet, ont-ils déclaré.
LE PROBLÈME OU LA CURE?
D'autres entreprises vont de l'avant, soulignant le désir des employeurs de faire appel à l'IA pour le recrutement.
Kevin Parker, directeur général de HireVue, une startup basée à Salt Lake City, a déclaré que l'automatisation aidait les entreprises à regarder au-delà des réseaux de recrutement sur lesquels elles s'appuyaient depuis longtemps. Son entreprise analyse les discours et les expressions faciales des candidats lors d’interviews vidéo afin de réduire le recours aux CV.
«Tu n’es pas retourné dans les mêmes endroits; vous ne reveniez pas seulement dans les écoles de la Ivy League », a déclaré Parker. Unilever PLC (ULVR.L) et Hilton.
Goldman Sachs a créé son propre outil d’analyse de curriculum vitae qui essaie de faire correspondre les candidats à la division où ils seraient le mieux à leur place », a déclaré la société.
Microsoft Corp's (MSFT.O) LinkedIn, le plus grand réseau professionnel au monde, est allé plus loin. Il propose aux employeurs un classement algorithmique des candidats en fonction de leur aptitude à être affiché sur son site.
Néanmoins, John Jersin, vice-président de LinkedIn Talent Solutions, a déclaré que ce service ne saurait remplacer les recruteurs traditionnels.
"Je ne ferais certainement pas confiance à aucun système d'IA aujourd'hui pour prendre une décision d'embauche tout seul", a-t-il déclaré. "La technologie n'est tout simplement pas encore prête."
Certains militants se disent préoccupés par la transparence de l'IA. L’American Civil Liberties Union s’attaque actuellement à une loi autorisant des poursuites pénales à l’encontre des chercheurs et des journalistes qui testent les algorithmes des sites Web d’embauche en matière de discrimination.
«Nous nous concentrons de plus en plus sur l’équité algorithmique en tant que problème», a déclaré Rachel Goodman, avocate au sein du programme de justice raciale de l’ACLU.
Néanmoins, Goodman et d’autres critiques d’Amnesty International ont reconnu qu’il pouvait être extrêmement difficile de poursuivre un employeur en justice pour une embauche automatisée: les candidats à l’emploi pourraient ne jamais savoir qu’il était utilisé.
Pour ce qui est d’Amazon, la société a réussi à récupérer une partie de ce qu’elle avait appris de son expérience ratée en matière d’IA. Il utilise désormais une "version beaucoup plus diluée" du moteur de recrutement pour faciliter certaines tâches rudimentaires, notamment la suppression des profils de candidats en double dans des bases de données, a déclaré une des personnes familiarisées avec le projet.
Un autre a déclaré qu'une nouvelle équipe à Edimbourg a été formée pour donner une nouvelle chance au filtrage automatisé des emplois, cette fois en mettant l'accent sur la diversité.
Reportage Par Jeffrey Dastin à San Francisco; Édité par Jonathan Weber et Marla Dickerson
Source link
