Le DRH est un ordinateur

Est-ce que l’utilisation des services de techniques arrête le biais, ou le renforce? Ce simple problème est devenu un motif de tension entre les partisans de la technologie et ses sceptiques, mais trouver la réponse est plus compliqué qu’il n’apparaît. L’utilisation des services de est rarement un choix individuel, mais l’aboutissement d’un certain nombre de petits jugements séquentiels. Les algorithmes remplissent différents rôles au moyen de cette méthode: certains orientent les annonces de tâches vers certaines personnes, tandis que d’autres indiquent des perspectives indirectes d’embauche. Les instruments prédictifs analysent et notent les CV, et aident les responsables de la sélection à évaluer les compétences des candidats de nouvelles façons, en utilisant chacune des données classiques et uniques. Plusieurs pensent que des ensembles de règles peuvent aider le choix de l’homme: les fabricants évitent leurs propres préjugés personnels en ajoutant de la régularité à la procédure d’emploi. Mais les algorithmes introduisent de nouveaux risques qui leur appartiennent. Ils peuvent reproduire des biais institutionnels et historiques, amplifiant les inconvénients cachés dans des facteurs de données tels que la fréquentation d’un collège ou les classements d’évaluation de la fonctionnalité.

Même si des règles éliminent une part de subjectivité de votre procédure de recrutement, les êtres humains continuent d’être fortement associés aux choix d’embauche définitifs. Les arguments qui font que les techniques «objectives» sont aussi justes et plus précises que les humains faillibles oublient de bien savoir que, dans la plupart des cas, jouent également un rôle. Pour comprendre les préjugés dans la sélection des algorithmes et les moyens de les minimiser, nous devrons explorer la façon dont la technologie prédictive fonctionne à chaque changement d’application de votre approche. Même s’ils partagent fréquemment une partie de l’unité d’apprentissage, les ressources utilisées précédemment dans le processus peuvent être fondamentalement différentes de celles utilisées par la suite. Même les instruments qui semblent effectuer exactement le même processus pourraient dépendre de plusieurs types de données, séminaire ou présenter des prophéties de manière très différente. Notre analyse de l’équipement prédictif dans le cadre de la méthode de recrutement vous aide à expliquer exactement ce que font les «algorithmes de recrutement» et comment et où des préjugés peuvent entrer dans la méthode. Malheureusement, nous avons découvert que la plupart des ensembles de règles d’embauche dériveraient au détriment des préjugés. Même si leur contribution probable à la réduction des préjugés interpersonnels ne doit pas être minimisée, seuls des outils permettant de gérer de manière proactive des disparités encore plus profondes vous donneront l’espoir que l’innovation technologique prédictive pourrait aider à promouvoir les garanties, au lieu de les atténuer. L’approche d’emploi commence effectivement juste avant qu’un demandeur d’emploi soumette un logiciel.

Au stade du «sourcing» ou de l’embauche, aide prédictive à l’innovation technologique destinée à promouvoir les possibilités d’emploi, informe les demandeurs d’emploi sur les emplois les plus susceptibles de plaire, et propose aux employeurs potentiels des candidats potentiels à la surface. Pour attirer des individus, de nombreuses entreprises utilisent des programmes d’annonces algorithmiques et des panneaux de tâches pour atteindre les chercheurs d’emploi les plus «pertinents». Ces méthodes, qui promettent aux entreprises une meilleure utilisation des budgets de dépenses de recrutement, produisent généralement des estimations remarquablement superficielles: elles ne prédisent pas qui peut réussir dans le poste, mais qui cliquera probablement simplement sur cette offre d’emploi. Ces prévisions font souvent en sorte que les offres d’emploi soient fournies de manière à soutenir les stéréotypes sexuels et raciaux, même lorsque les entreprises n’ont pas ce genre d’intention. Dans une recherche que nous avons menée récemment avec des collègues de la Northeastern University ou d’un collège et de l’USC, nous avons notamment constaté que les annonces généralement ciblées sur Facebook ou sur MySpace pour des postes de caissiers sur le marché alimentaire avaient été prouvées devant un public composé de 85% de femmes. avec les compagnies de taxi ont accompagné les téléspectateurs qui avaient été environ 75% de couleur noire. C’est vraiment une circonstance parfaite de votre algorithme reproduisant les préjugés du monde réel, sans implication humaine. Entre-temps, des panneaux de tâches personnalisés tels que ZipRecruiter tentent de comprendre automatiquement les préférences des recruteurs et utilisent toutes ces estimations pour solliciter des personnes similaires.

À l’instar de Facebook ou de Twitter, ces techniques de recommandation professionnelles sont conçues pour atteindre et reproduire les habitudes dans les actions des clients, en mettant à jour les estimations de manière dynamique à mesure que les employeurs et les demandeurs d’emploi se connectent. Si la méthode remarque que les recruteurs affligent se connectent plus fréquemment avec des hommes de couleur blanche, elle peut très bien localiser les mandataires pour tous ces attributs (comme se faire appeler Jared ou jouer activement à la crosse au lycée) et reproduire cette routine. Ce type d’impact négatif peut se produire sans la nécessité d’un coaching spécifique, voire pire, sans que personne ne s’en rende compte. Les techniques de recherche ne sont probablement pas une surface de pensées pour la plupart des gens une fois qu’ils pensent «à la formule de l’algorithme d’embauche». Cependant, les sélections programmées à ce stade très précoce de l’entonnoir de sélection sont très répandues. À titre d’exemple, l’outil mis au point par Amazon pour les femmes défavorisées n’était pas une ressource de sélection permettant d’évaluer de vrais candidats, mais plutôt un outil permettant de révéler les candidats indirects que les recruteurs devaient obtenir. Les algorithmes de localisation ne rejettent peut-être pas ouvertement les gens, mais comme l’a expliqué une érudite légitime, Pauline Kim, «ne pas informer les hommes et les femmes des possibilités d’emploi est vraiment un obstacle efficace» pour les personnes à la recherche d’une carrière. Ces outils peuvent bien ne pas toujours générer des lignes de force dystopiques, mais ils jouent néanmoins un rôle important pour déterminer qui peut accéder au processus de sélection par quelque moyen que ce soit.