Google a diffusé des annonces féminines pour des emplois moins bien rémunérés

Cette image a été supprimée pour des raisons juridiques.

Nous savons que les humains sont biaisés et discriminatoires en matière d'embauche. Malheureusement, il semble que les ordinateurs le soient aussi.

Une nouvelle recherche de l'Université Carnegie Mellon et de l'International Computer Science Institute a révélé que les algorithmes de ciblage publicitaire de Google pourraient par inadvertance discriminer certains utilisateurs d'Internet. Dans une étude présentée la semaine dernière au Symposium sur les technologies d'amélioration de la confidentialité à Philadelphie, les chercheurs ont créé un outil appelé AdFisher pour étudier comment l'algorithme de diffusion d'annonces de Google suit les utilisateurs.

Ce qui intéressait les chercheurs, c'était la façon dont les publicités que Google diffusait dans ces millions de petites boîtes publicitaires sur des sites Web pourraient changer en fonction des informations que Google a déduites sur un utilisateur. Si un utilisateur commence à naviguer sur des sites Web de toxicomanie, par exemple, quel type d'annonces verra-t-il? Ou que se passe-t-il si un utilisateur modifie son profil Google Ad Settings d'homme à femme?

Et en parcourant une liste des 100 meilleurs sites Web d'emploi , ils ont constaté que les faux utilisateurs que Google croyait être des hommes étaient plus susceptibles de voir des annonces pour des emplois de direction bien rémunérés que les utilisateurs supposés être des femmes. Théoriquement, il en résulte que les femmes sont moins susceptibles de voir et de postuler à des emplois plus rémunérés. En d'autres termes, l'algorithme a renforcé une inégalité sociétale déjà présente dans tant de lieux de travail: les hommes gagnent souvent plus que les femmes, souvent simplement parce qu'on attend d'eux qu'ils gagnent plus.

"Je pense que nos résultats suggèrent qu'il y a des parties de l'écosystème publicitaire où des types de discrimination commencent à émerger et où il y a un manque de transparence", a déclaré Anupam Datta, co-auteur de l'étude, au MIT Technology Review . "C'est préoccupant d'un point de vue sociétal."

C'est le dernier d'une série de tollés algorithmiques pour Google. En avril, les chercheurs ont découvert que les recherches d'images sur Google étaient « sexistes »; une recherche du terme «PDG», par exemple, a renvoyé des résultats qui n'étaient que 11 pour cent de femmes. Et plus tôt ce mois-ci, la société a été contrainte de présenter des excuses maladroites après que sa nouvelle application Photos ait étiqueté des photos de Noirs comme des gorilles . Et n'oublions pas cette campagne 2013 des  Nations Unies qui a examiné les suggestions automatiques de Google lorsque quelqu'un recherche «une femme devrait…» (la suggestion n'était pas «devenir PDG»). Parfois, les erreurs ne sont qu'un hasard. D'autres fois, les algorithmes héritent simplement des préjugés de leurs créateurs. Et, comme ce fut le cas avec le fiasco des gorilles de Google, il peut être difficile de dire de quoi il s'agit .

Souvent, au lieu d'éliminer les biais, les algorithmes les amplifient. Pensez à LinkedIn ou à un service comme Jobaline, qui aide les entreprises à déterminer qui embaucher en fonction d'une analyse vocale. En règle générale, ces algorithmes d'appariement reflètent simplement la préférence humaine, incorporant les préjugés de l'homme qui l'a programmé ou mis en place la recherche. Jobaline, par exemple, court le risque d'automatiser simplement ce qu'on appelle le profilage linguistique, ou de discriminer en fonction de facteurs tels que l'accent et le dialecte et de choisir à la place des candidats dont la voix ressemble au cliché du succès. Ainsi, le programme pourrait donner la priorité à un candidat avec une voix masculine qui sonne bas et blanche, une qui correspond au type de personne stéréotypiquement associé à de bonnes qualités de leadership.

«Aux États-Unis, la plupart des entreprises doivent être des employeurs garantissant l'égalité des chances; la discrimination fondée sur la race, le sexe, les croyances, la religion, la couleur et l'origine nationale est interdite », a écrit danah boyd, chercheur principal de Microsoft Research, dans un article de l'année dernière . «Cependant, rien n'empêche un employeur de discriminer sur la base d'un réseau personnel. De plus en plus, les moyens algorithmiques de prise de décision fournissent de nouveaux mécanismes par lesquels cela peut se produire. »

Dans la nouvelle recherche sur l'algorithme de ciblage publicitaire de Google, les chercheurs ont déclaré qu'il n'était pas clair ce qui avait fait émerger de tels modèles troublants. Les facteurs qui déterminent qui voit quel type d'annonce incluent non seulement des variables déterminées par Google, mais aussi par les acheteurs d'annonces, les sites Web sur lesquels les annonces apparaissent et les internautes eux-mêmes.

"Les annonceurs peuvent choisir de cibler le public qu'ils souhaitent atteindre, et nous avons des règles qui guident le type d'annonces basées sur les centres d'intérêt qui sont autorisées", a déclaré une porte-parole de Google dans un communiqué à Fusion. "Nous assurons la transparence aux utilisateurs avec des avis et des paramètres d'annonce" Pourquoi cette annonce ", ainsi que la possibilité de désactiver les publicités basées sur les centres d'intérêt."

Mais les algorithmes d'aujourd'hui effectuent les tâches de tri des personnes, de les segmenter et de les faire correspondre. Il est essentiel de développer des algorithmes qui le font sans retomber sur les mêmes stéréotypes et jugements que les humains qui les programment. L'inégalité algorithmique est autant une menace pour l'égalité sur le lieu de travail et ailleurs que tout préjugé humain. Pour résoudre ces problèmes, certains sont allés jusqu'à appeler à la « transparence des algorithmes ».

«Nous devons repenser nos modèles de discrimination et nos mécanismes de responsabilisation», a écrit Boyd.

Lançant Jobaline sur NPR, le PDG de la société, Luis Salazar, s'est vanté que si les recruteurs humains pourraient faire de la discrimination, les ordinateurs ne le font pas.

"C'est la beauté des mathématiques", a-t-il dit. "C'est aveugle."

Mais les mathématiques ne sont pas vraiment aveugles. Au lieu de cela, nous entrons nos préjugés dans une équation et cela nous les renvoie directement.

Suggested posts

L'homme déteste la façon dont le mois de la fierté a été totalement coopté par la communauté LGBTQ

L'homme déteste la façon dont le mois de la fierté a été totalement coopté par la communauté LGBTQ

NEW YORK – Exprimant son mécontentement face à la prise de contrôle totale de la célébration d'un mois, l'homme local Drew Barrington aurait été frustré mardi que Pride ait été complètement coopté par la communauté LGBTQ. "J'essaie juste de passer un bon moment avec ma famille, de regarder des catégories spéciales de streaming, peut-être de profiter de quelques articles aux couleurs de l'arc-en-ciel dans un magasin local, mais ces jours-ci, la fierté semble être entièrement gay, trans et queer des individus se réunissant pour célébrer leur identité », a déclaré Barrington, confirmant que le groupe de personnes repoussant leur histoire d'oppression avec un festival d'affirmation de soi interférait avec ses projets d'acheter une chemise « Ally » teintée à Target et dégustez une boisson de spécialité Starbucks.

Ron DeSantis célèbre la fierté en évinçant le programme de santé mentale pour les survivants du tir au pouls, le logement pour les jeunes LGBT sans-abri

Ron DeSantis célèbre la fierté en évinçant le programme de santé mentale pour les survivants du tir au pouls, le logement pour les jeunes LGBT sans-abri

Juste à temps pour la fierté et dans la foulée de la signature de l'interdiction discriminatoire de l'État sur les filles et les femmes transsexuelles qui souhaitent faire du sport, le gouverneur de Floride Ron DeSantis a une fois de plus montré à quel point il se souciait des personnes LGBT (alerte spoiler : pas beaucoup ). Mercredi, DeSantis a opposé son veto à près d'un million de dollars de financement pour les résidents LGBT de son État sur le budget de l'État, dont 150 000 $ destinés aux services de santé mentale pour les survivants du massacre de Pulse.

Related posts

La chef de la communauté trans de San Francisco, Felicia Elizondo, est décédée

La chef de la communauté trans de San Francisco, Felicia Elizondo, est décédée

Activiste, historienne, artiste et membre de longue date de la communauté LGBTQ + de San Francisco, Felicia Elizondo est décédée samedi. Elle avait 74 ans.

Quarante ans de Queering les banlieues

Quarante ans de Queering les banlieues

Le troisième vendredi de chaque mois, le professeur Jerry et le scientifique BJ

Si Caitlyn Jenner était une femme noire en lice pour le gouverneur de Californie, Brett Favre aurait déjà dit quelque chose

Si Caitlyn Jenner était une femme noire en lice pour le gouverneur de Californie, Brett Favre aurait déjà dit quelque chose

Caitlyn Jenner, bientôt candidate au poste de gouverneur républicain de Californie. Le racisme est une chose facile à repérer, surtout lorsque vous avez des exemples.

Il est Baaaaaaaaaaaack

Il est Baaaaaaaaaaaack

Courtage de patients? Une chose, apparemment! Parce que c'est ce que Michael Lohan a été arrêté pour avoir prétendument fait vendredi, les journaux me disent.Selon le New York Post, le père de Lindsay, Aliana, Cody et peut-être un autre aurait reçu des paiements illégaux allant jusqu'à 50000 $ pour référant des toxicomanes au Pride Recovery Center de Delray Beach, en Floride, en 2017 et 2018.

MORE COOL STUFF

'Loki': Owen Wilson dit que Mobius s'est senti 'trahi' après la fin de la surprise de l'épisode 2

'Loki': Owen Wilson dit que Mobius s'est senti 'trahi' après la fin de la surprise de l'épisode 2

Owen Wilson dit que Mobius s'est senti trahi à la fin de l'épisode 2 de "Loki", mais il dit aussi qu'une nouvelle facette de Loki sera bientôt révélée.

'RHOC': Braunwyn Windham-Burke 'blessé' par Andy Cohen expliquant pourquoi elle a été coupée de 'Les vraies femmes au foyer'

'RHOC': Braunwyn Windham-Burke 'blessé' par Andy Cohen expliquant pourquoi elle a été coupée de 'Les vraies femmes au foyer'

Braunwyn Windham-Burke parle de ses sentiments après avoir été licenciée du «RHOC» et Andy Cohen fait partie de la raison pour laquelle elle est blessée.

Rick James a aidé ce chanteur primé aux Grammy Awards en prenant de la cocaïne et en s'exposant

Rick James a aidé ce chanteur primé aux Grammy Awards en prenant de la cocaïne et en s'exposant

Rick James était connu pour ses singeries sauvages sur scène et en dehors. Une fois, il a aidé sans le savoir la carrière de Lionel Richie en conséquence

Jean-Luc Cerza-Lanaux de Under Deck Sailing Yacht veut savoir si le bébé de Dani Soares est le sien, mais Colin Macrae dit à « Man Up »

Jean-Luc Cerza-Lanaux de Under Deck Sailing Yacht veut savoir si le bébé de Dani Soares est le sien, mais Colin Macrae dit à « Man Up »

Le casting de "Below Deck Sailing Yacht" n'achète pas la déclaration de Jean-Luc Cerza-Lanaux sur le bébé de Dani Soares, lui disant de se lever.

Une inondation centenaire ne veut pas dire que vous n'en reverrez pas avant 99 ans

Une inondation centenaire ne veut pas dire que vous n'en reverrez pas avant 99 ans

La vérité est que vos chances de subir l'une de ces méga-inondations sont les mêmes chaque année : 1 %.

Comment la viande cultivée en laboratoire pourrait changer le monde de la nourriture pour animaux de compagnie

Comment la viande cultivée en laboratoire pourrait changer le monde de la nourriture pour animaux de compagnie

Une nouvelle ère d'aliments pour animaux de compagnie créés en laboratoire, de manière durable et avec un impact environnemental réduit, est à venir. Mais les animaux de compagnie - et leurs humains - l'aimeront-ils?

Vous voulez un Cuppa Joe parfait ? Torréfiez vos propres grains de café

Vous voulez un Cuppa Joe parfait ? Torréfiez vos propres grains de café

Vous avez cherché dans le monde la tasse de café parfaite ? Peut-être qu'apprendre les beaux-arts et la science de la torréfaction de vos propres grains de café est la voie à suivre.

Qui était le mystérieux Melchisédek dans la Bible ?

Qui était le mystérieux Melchisédek dans la Bible ?

Il ne fait qu'une brève apparition dans la Genèse, mais il a été considéré comme un précurseur de Jésus-Christ. Qu'était-il vraiment et comment s'est-il associé à Jésus ?

Will Smith révèle le titre et la couverture de son prochain mémoire : "Mon premier livre de tous les temps !"

Will Smith révèle le titre et la couverture de son prochain mémoire : "Mon premier livre de tous les temps !"

Les mémoires inspirantes de Will Smith, intitulées Will, devraient être publiées par Penguin Press le 9 novembre.

Pourquoi Colin Donnell et sa femme Patti Murin de Chicago Med n'ont pas encore joué à l'écran

Pourquoi Colin Donnell et sa femme Patti Murin de Chicago Med n'ont pas encore joué à l'écran

Les anciens mariés de Chicago Med parlent de la quarantaine survivante, des chansons préférées de leur fille au coucher et se rendent à Malte pour filmer leur nouveau film To Catch a Spy for Hallmark Movies & Mysteries

Bryson DeChambeau bombarde l'interview de Brooks Koepka à l'US Open alors que leur querelle se poursuit

Bryson DeChambeau bombarde l'interview de Brooks Koepka à l'US Open alors que leur querelle se poursuit

Les golfeurs Bryson DeChambeau et Brooks Koepka ont poursuivi leur rivalité à l'US Open jeudi lorsque DeChambeau a bombardé Koepka lors d'une interview.

Jennifer Garner achète un sweat-shirt hilarant félin pour son chat : l'orignal 'Cativated My Heart'

Jennifer Garner achète un sweat-shirt hilarant félin pour son chat : l'orignal 'Cativated My Heart'

L'actrice a montré un nouveau sweat-shirt félin qu'elle a acheté après l'avoir vu dans une publicité sur Instagram

Pour développer votre carrière d'écrivain, vous avez besoin de plus de moyens d'écrire pour de l'argent

Il s'agit d'avoir un repli

Pour développer votre carrière d'écrivain, vous avez besoin de plus de moyens d'écrire pour de l'argent

Alors vous prétendez que vous n'écrivez que pour le plaisir. L'argent est la chose la plus éloignée de votre esprit lorsque vous créez.

Décryptage des NFT

Décryptage des NFT

Vous pouvez posséder une version de n'importe quoi de nos jours, grâce à NFT ! Chaque génération avait sa monnaie personnalisée. Les millennials avaient des Pokémon et des cartes de catch, la génération X avait des cartes de baseball et des timbres postaux et les baby-boomers avaient leurs 8 balles magiques et leurs bandes dessinées.

C'est pourquoi vous ne gagnez pas d'argent en ligne

Je l'ai fait et j'ai réussi à 10X mon revenu en ligne

C'est pourquoi vous ne gagnez pas d'argent en ligne

Gagner de l'argent en ligne n'est vraiment pas si difficile. Il existe un certain nombre de raisons pour lesquelles les gens ont du mal à gagner de l'argent en ligne.

Le meilleur hack de réussite en course dont personne ne parle

Utilisez la méthode de la tortue 3 à 4 fois par semaine.

Le meilleur hack de réussite en course dont personne ne parle

Je fais partie de la communauté des coureurs depuis que je suis jeune. J'ai rejoint l'équipe d'athlétisme de mon école quand j'étais en septième année, et j'ai beaucoup couru sur le terrain en tant que basketteur avant cela.

Language