Une nouvelle étude de Stanford utilise la reconnaissance faciale pour déterminer si vous êtes libéral ou conservateur

IA intelligence artificielle bunk la reconnaissance faciale Stanford

Aujourd'hui dans des idées terribles: un système d'IA qui prétend pouvoir prédire avec précision votre affiliation politique en utilisant ... votre visage. Oui vraiment.

Le chercheur de S tanford, Michal Kosinski, a publié ses recherches (que vous pouvez lire ici ) dans la revue Nature plus tôt cette semaine. Vous vous souvenez peut-être du nom de Kosinski après avoir dirigé une étude similaire en 2017 qui prétendait détecter avec précision la sexualité d'une personne en fonction de la façon dont ses traits du visage étaient alignés. À l'époque, les groupes de défense des droits civiques et leurs collègues universitaires ont universellement plongé dans ces conclusions, qualifiant Kosinski d '«imprudent» pour sa publication.

Selon un registre d'inscription que Kosinski a déposé pour cette nouvelle étude auprès du Center for Open Science, il a commencé à travailler sur cette dernière étude en septembre 2017 - peu de temps après que la première vague d'indignation a commencé à s'essouffler. Cette fois, selon l'article de l'étude, Kosinski a prélevé un échantillon d'un peu plus d'un million de visages de personnes, en grande partie à partir d'un «site de rencontres populaire» sans nom utilisé aux États- Unis , au Royaume-Uni et au Canada. En plus de cet échantillon, le dépôt initial de Kosinski décrit comment certains de ces visages ont été tirés de U. S. -centric Facebook profils o nboarded par MyPersonality , une application de tests psychologiques que Facebook a fini par couper les liens avec en 2018 , citant quelques assez pauvres données les pratiques. 

Dans tous les cas, que ce soit quelque part sur ce site de rencontre ou quelque part sur leur profil Facebook, ces utilisateurs ont indiqué qu'ils étaient «conservateurs» ou «libéraux».

Ces lots de visages ont été introduits dans un algorithme de reconnaissance faciale open-source qui a ensuite réduit chaque visage en environ 2 000 points de données différents «regroupant leurs caractéristiques principales». Après avoir alimenté l'algorithme avec suffisamment de points de données à partir des photos, Kosinski s'est retrouvé avec un ensemble de points «moyen» qui pouvait être lié à un visage de tendance libérale ou conservatrice, et un algorithme capable de prédire avec succès l'affiliation politique d'une personne à partir de son photographier environ 72% du temps, en moyenne.

Ce qui distingue exactement un visage rouge d'un visage bleu est un peu difficile à définir, du moins selon l'article. Kosinski a tenté d'isoler quelques traits du visage - comme les lunettes qu'ils portent sur une photo donnée ou la façon dont leur visage était incliné vers la caméra - et a testé si ces traits pouvaient également servir de prédicteurs des tendances politiques de cette personne. Qu'il suffise de dire qu'aucune de ces fonctionnalités n'était aussi ciblée que cette boîte noire d'un algorithme.

Cela dit, il y avait quelques points communs que Kosinski décrit dans ses notes discutant du document. Les personnes qui s'identifient comme libérales, par exemple, étaient plus susceptibles de faire face directement à la caméra et d'exprimer davantage de «surprise» dans leurs photos. Les conservateurs, quant à eux, en plus d'être dans l'ensemble plus blancs , masculins et âgés , ont également fini par exprimer plus de «dégoût» dans leurs photos que leurs homologues libéraux.

Mais il n'y a rien dans les notes de l'auteur qui explique vraiment pourquoi cette étude a même été réalisée en premier lieu. Comme VentureB manger rappelle dans sa propre couverture de l'étude, l'ensemble de la thèse de la recherche de Kosinski est basé sur l'idée de pseudoscientifiques de ce qu'on appelle « la physionomie » -être capable de Suss toute la personnalité d'une personne par la façon dont leurs traits du visage alignés. Les chercheurs en psychologie disent depuis des années que les algorithmes qui prétendent classer si quelqu'un pourrait être plus susceptible d'être un voleur de banque, un politologue ou un républicain intransigeant sur la base de leur visage ne font pas beaucoup mieux que le hasard.

Les notes de Kosinski tentent de réfuter quelque peu ces résultats, affirmant que «de nombreuses études ont montré que les gens peuvent déterminer les opinions politiques, la personnalité, l'orientation sexuelle, l'honnêteté et de nombreux autres traits des autres à partir de leur visage», sans vraiment ... pointer vers des études pour soutenir son point. C'est peut-être parce que toutes les preuves semblent indiquer exactement la direction opposée.