LOADING ...

Selbst wenn Sie Geschlecht entdecken, funktioniert die aktuelle Gesichtserkennung Tech besser für weiße Dudes

Sidney Fussell Jul 12, 2018. 12 comments

Eine neue Überprüfung der Gesichtserkennungssoftware ergab, dass die Software bei der Geschlechtsbestimmung für Männer mit heller Haut am genauesten und für Frauen mit dunkler Haut am wenigsten genau ist. Joy Buolamwini, eine MIT Media Lab-Forscherin und Informatikerin, testete drei kommerzielle Gender-Klassifikatoren, die im Rahmen von Gesichtserkennungsdiensten angeboten werden. Wie sie herausgefunden hat, hat die Software das Geschlecht von dunkelhäutigen Frauen in 35 Prozent der Fälle falsch identifiziert. Im Gegensatz dazu betrug die Fehlerrate bei hellhäutigen Männern weniger als ein Prozent.

"Insgesamt wurden männliche Probanden genauer klassifiziert als weibliche Probanden, die frühere Befunde wiederholten (Ngan et al., 2015), und leichtere Probanden wurden genauer klassifiziert als dunklere Individuen", schreiben Buolamwini und Co-Autor Timnit Gebru in der Zeitung . "Eine intersektionale Aufschlüsselung zeigt, dass alle Klassifikatoren bei dunkleren weiblichen Probanden am schlechtesten abschnitten."

Die Ergebnisse spiegeln frühere Erkenntnisse über das Versagen von Gesichtserkennungssoftware bei der Identifizierung von Frauen und Personen mit dunklerer Haut wieder. Wie vom Centre for Privacy and Technology der Georgetown University festgestellt wurde, könnten diese geschlechts- und rassistischen Disparitäten im Zusammenhang mit Flughafen-Gesichts-Scans Frauen und Minderheiten werden eher für invasivere Verfahren wie manuelle Fingerabdrücke ins Visier genommen.

Alle Gesichtserkennungssoftware wird trainiert, indem Tausende von Bildern in einem Datensatz gescannt werden, wodurch die Fähigkeit verbessert wird, wertvolle Datenpunkte zu extrahieren und zu ignorieren, was nicht nützlich ist. Wie Buolamwini bemerkt, sind viele dieser Datensätze selbst verzerrt. Bei Adience, einem Maßstab für die Geschlechtseinstufung, werden 86 Prozent hellhäutige Personen verwendet. Ein anderer Datensatz, IJB-A, verwendet Themen, die zu 79 Prozent hellhäutig sind.

Neben anderen Problemen mit verzerrten Datasets erlauben sie Unternehmen, ihre Gesichtserkennungssoftware "genau" zu nennen, obwohl sie nur für Personen ähnlich sind, die denen im Datensatz ähnlich sind: meist Männer, meist leichter. Dunklere Frauen waren in diesen Datensätzen am wenigsten vertreten. 7,4 Prozent des Adiance-Datensatzes waren dunkelhäutige Frauen, während IJB-A 4,4 Prozent war. Dies wird zu einem Problem, wenn sich Unternehmen darauf verlassen.

Buolamwini testete drei kommerzielle Software APIs: Microsofts Cognitive Services Face API, Watson Visual Recognition API von IBM und Face ++, ein chinesisches Computer Vision Unternehmen, das Tech für Lenovo zur Verfügung stellt. Buolamwini testete, ob jeder das Geschlecht der Person in jedem Foto zuverlässig klassifizieren könnte.

Wie sie feststellte, schnitten alle Klassifikatoren auf männlichen Gesichtern besser ab als auf weiblichen Gesichtern, und alle Klassifikatoren waren bei der Bestimmung des Geschlechts von dunkelhäutigen Frauen am wenigsten genau. Face ++ und IBM hatten bei dunkelhäutigen Frauen eine Klassifikationsfehlerrate von 34,5 bzw. 34,7 Prozent. Beide hatten hellhäutige männliche Fehlerraten von weniger als einem Prozent. Die dunkelhäutige Fehlerquote von Microsoft betrug 20,8 Prozent und für hellhäutige Männer praktisch null.

Buolamwini hofft auf Gleichheit bei der Genauigkeit der Gesichtserkennung, insbesondere da die Gesichtserkennungssoftware in der Strafverfolgung und Terrorismusbekämpfung standardisiert ist. Passagiere werden in Flughäfen gescannt, Zuschauer werden in Arenen gescannt, und im Zeitalter des iPhone X könnte bald jeder mit seinem Handy gescannt werden. Buolamwini zitiert die Georgetown-Studie Als Warnung, dass die Gesichtserkennung in Flughäfen zum Standard wird und diejenigen, die den Test "nicht bestehen", eine zusätzliche Prüfung erhalten, könnte sich eine potenzielle Rückkopplungsschleife entwickeln. In dem Papier hofft sie, dass das Feld noch mehr intersektionale Audits umfassen wird, die überproportionale Auswirkungen haben, insbesondere wenn die KI bereit ist, ein zentraler Teil unserer Gesellschaft zu werden.

[ NYT ]

12 Comments

Other Sidney Fussell's posts

Airbnbs Diversity-Bericht: Weniger Weiße als je zuvor! Airbnbs Diversity-Bericht: Weniger Weiße als je zuvor!

Am Dienstag veröffentlichte Airbnb seinen Bericht 2016 über die Vielfalt des Unternehmens. Das Unternehmen meldet Fortschritte in Bezug auf die Vielfalt: Das Start-up für die gemeinsame Nutzung von Eigenheimen beschäftigt 56% weiße Arbeitskräfte, nach 63% im Jahr 2015 . Das ist etwas besser als bei Google und Microsoft, die beide zu 59% weiß sind, und etwas schlechter als bei...

Airbnb setzt eine strenge neue Antidiskriminierungsrichtlinie für Hosts durch Airbnb setzt eine strenge neue Antidiskriminierungsrichtlinie für Hosts durch

Ab dem 1. November fordert Airbnb von allen Nutzern, dass sie sich zu einem "Community Commitment " verpflichten, um eine inklusivere Community zu fördern, nachdem monatelange Untersuchungen und Rassismusvorwürfe stattgefunden haben . Die Zusage, die per E-Mail an alle Airbnb-Nutzer gesendet wird, zielt darauf ab, dem Vorwurf entgegenzuwirken, dass bereits bestehende Richtlinien es den Gastgebern ermöglichen, potenzielle Mieter stillschweigend...

Studie zeigt, dass vorausschauende Polizeiarbeit nicht rassistischer ist als regelmäßige Polizeiarbeit Studie zeigt, dass vorausschauende Polizeiarbeit nicht rassistischer ist als regelmäßige Polizeiarbeit

Polizeibehörden setzen zunehmend fortschrittliche Technologien zur Verbrechensbekämpfung ein, darunter Biometrie, akustische Erkennung und sogar virtuelle Realität. Eines der umstrittensten Instrumente ist das „Predictive Policing“, dem seit langem vorgeworfen wird, rassistische Vorurteile zu verstärken. Aber ein Team von Forschern der Indiana University, der UCLA und der Louisiana State University fand die Praxis, und ihre Auswirkungen auf die Voreingenommenheit, ist komplizierter...

Vier für Facebook angeklagte Live-Folterungen an psychisch kranken Menschen [AKTUALISIERT] Vier für Facebook angeklagte Live-Folterungen an psychisch kranken Menschen [AKTUALISIERT]

Am Donnerstag soll die Polizei von Chicago vier schwarze Einwohner von Chicago anklagen, nachdem ein Facebook-Live-Video aufgetaucht ist, in dem sie einen jungen weißen Mann gefesselt, geknebelt und angegriffen haben. Der Foltervorfall ereignete sich anscheinend über das Wochenende auf der Westseite von Chicago, und die Polizei nahm die Verdächtigen am späten Mittwoch fest. Der Interims-Superintendent der Chicago PD, Eddie...

Suggested posts

Cops geben Amazon Ring Ihre 911-Anruferdaten in Echtzeit Cops geben Amazon Ring Ihre 911-Anruferdaten in Echtzeit

Gizmodo hat erfahren, dass das Haussicherungsunternehmen Ring, das zu Amazon gehört, Verträge mit Polizeidienststellen abschließt, die ihm direkten Zugriff auf Echtzeit-Notfalldaten gewähren. Das in Kalifornien ansässige Unternehmen bittet die Polizei um die Erlaubnis, auf die computergestützten Versand-Feeds (CAD-Feeds) zugreifen zu dürfen, die zur Automatisierung und Verbesserung von Entscheidungen des Notdienstpersonals und zur Verkürzung der Reaktionszeiten der Polizei verwendet werden....

Zoll und Grenzschutz sagen dem Kongress, dass es absolut legal ist, die Gesichtserkennung bei Amerikanern anzuwenden Zoll und Grenzschutz sagen dem Kongress, dass es absolut legal ist, die Gesichtserkennung bei Amerikanern anzuwenden

Beamte der US-Heimatschutzbehörde sahen sich am Mittwoch einer Flut von Fragen von Gesetzgebern des Repräsentantenhauses gegenüber, die - wie mehrere sagten - über die angebliche mangelnde Transparenz des Zoll- und Grenzschutzes (CBP) frustriert waren, wenn es um den rechtlich unsicheren Einsatz von Gesichtserkennungswerkzeugen in US-Häfen ging der Einreise. Die Anhörung vor dem Homeland Security Committee des Repräsentantenhauses wurde von...

Wir müssen die Nutzung der Gesichtserkennung durch die Polizei nicht pausieren - wir müssen sie für immer verbieten Wir müssen die Nutzung der Gesichtserkennung durch die Polizei nicht pausieren - wir müssen sie für immer verbieten

Experten für Gesichtserkennung, die vor einer Anhörung im Kongress am Mittwoch zu einer Aussage aufgefordert wurden, waren sich einig: Jeder Bundesgesetzgeber drängte unter Berufung auf eine Litanei von Missbräuchen darauf, auf die weitverbreitete, unregulierte Nutzung der Technologie durch Strafverfolgungsbehörden auf allen Ebenen des Landes zu reagieren. Die Idee, dass wir die Polizei einfach davon abhalten sollten, diese problematische und...

IBM verkauft Gesichtserkennungsüberwachung an eine Diktatur: Bericht IBM verkauft Gesichtserkennungsüberwachung an eine Diktatur: Bericht

Die Vereinigten Arabischen Emirate gehören zu den modernsten und zukunftsorientiertesten Überwachungsstaaten des 21. Jahrhunderts. Die Vereinigten Arabischen Emirate, eine der stärksten Volkswirtschaften im Nahen Osten, haben seit Jahren massiv in die Spitzenklasse der Überwachung und Unterdrückung investiert. Die Regierung hat Millionen von Dollar für den Kauf und den Aufbau von Hacking-Möglichkeiten ausgegeben, mit denen sie Opfer wie den in...

Studie zeigt, dass vorausschauende Polizeiarbeit nicht rassistischer ist als regelmäßige Polizeiarbeit Studie zeigt, dass vorausschauende Polizeiarbeit nicht rassistischer ist als regelmäßige Polizeiarbeit

Polizeibehörden setzen zunehmend fortschrittliche Technologien zur Verbrechensbekämpfung ein, darunter Biometrie, akustische Erkennung und sogar virtuelle Realität. Eines der umstrittensten Instrumente ist das „Predictive Policing“, dem seit langem vorgeworfen wird, rassistische Vorurteile zu verstärken. Aber ein Team von Forschern der Indiana University, der UCLA und der Louisiana State University fand die Praxis, und ihre Auswirkungen auf die Voreingenommenheit, ist komplizierter...

Der New Yorker Vorschlag würde die Überwachung der Gesichtserkennung durch Vermieter verbieten Der New Yorker Vorschlag würde die Überwachung der Gesichtserkennung durch Vermieter verbieten

In der gleichen Woche, in der San Francisco gewählt Als erste Stadt in den USA untersagten zwei Gesetzgeber des Bundesstaates New York den Einsatz von Gesichtserkennungsüberwachungen durch Vermieter von Privathaushalten. Der Senator des Staates New York, Brad Hoylman, und die Versammlungsfrau, Latrice Walker, führten ein Gesetz ein ( S5687 ), das die Technologie im Zuge eines Kampfes in Brooklyn...

San Francisco ist die erste US-Stadt, die die Überwachung der Gesichtserkennung verbietet San Francisco ist die erste US-Stadt, die die Überwachung der Gesichtserkennung verbietet

San Francisco war am Dienstag die erste Stadt in Amerika, die den Einsatz von Gesichtserkennungstechnologien durch die Polizei und andere Regierungsbehörden untersagte. Die Maßnahme wurde vom Aufsichtsrat von San Francisco mit 8: 1 verabschiedet. Die Debatte über die Rechnung ist im Wesentlichen vorbei. Nach kalifornischem Recht sind zwei Stimmen erforderlich, damit eine Verordnung in Kraft tritt, und die zweite...

NYC schwört, dass sein Face-Scanning-Tech gefälscht ist und nur dazu gedacht ist, die Menschen vor Verbrechen zu erschrecken NYC schwört, dass sein Face-Scanning-Tech gefälscht ist und nur dazu gedacht ist, die Menschen vor Verbrechen zu erschrecken

Es ist eine Geschichte von zwei Städten. In San Francisco steht die Stadtverwaltung kurz davor, die erste amerikanische Stadt zu werden Gesichtserkennung verbieten Überwachung trotz Widerstand von örtlichen Bullen. Die Verbotsbewegung ist eine Reaktion auf Jahre der zunehmenden Forschung, dass die Technologie die marginalisierten Gemeinschaften überproportional negativ beeinflusst. In New York City stellt das U-Bahn-System einen scheinbar unbekannten Erkennungsmonitor...

Google-Mitarbeiter fordern das Unternehmen dazu auf, das Ghoul der KI-Ethikkommission der Heritage Foundation zu kicken Google-Mitarbeiter fordern das Unternehmen dazu auf, das Ghoul der KI-Ethikkommission der Heritage Foundation zu kicken

Google hat in der vergangenen Woche die Bildung eines globalen Rates für Technologieethik angekündigt, der mit einiger Verdienste beunruhigt ist. Sicher, das Unternehmen hatte einige hochqualifizierte Mitarbeiter für die Besetzung von Plätzen in diesem Gremium zusammengestellt - aber Googles Erfolg bei der Befolgung seiner eigenen internen Ethikkodizes ist nicht gerade makellos. Am meisten provoziert wurde jedoch die Ernennung von...

Das neue Billboard verwendet verborgene Kameras, um Anzeigen basierend auf Alter, Emotionen anzuzeigen Das neue Billboard verwendet verborgene Kameras, um Anzeigen basierend auf Alter, Emotionen anzuzeigen

Londons berühmter Piccadilly Circus erhält ein enormes und erschreckendes neues Videodisplay namens Piccadilly Lights. Nach Angaben des Herstellers kann der riesige Bildschirm (fast so groß wie zwei professionelle Basketballplätze) die Fahrzeuge, das Alter und sogar die Emotionen der Personen in der Nähe erkennen und durch gezielte Werbung darauf reagieren. Stellen Sie sich New Yorks Time Square vor, mit einem...

Language