Facebookのアルゴリズムが人種差別を賭け続けるのはなぜですか?[更新しました]

マーク・ザッカーバーグ(ゲッティ)

それをアルゴリズムの無知と呼んでください。または多分、アルゴリズムの特異性。木曜日、プロパブリカは、プロフィールデータに基づいてユーザーをグループ化するFacebookの広告ターゲティングシステムが、「ユダヤ人嫌い」と自己申告したFacebookユーザーの人口統計ターゲットにした広告を販売することを提案したことを明らかにしました

「JewHaters」はツイッターで話題になり始め、金曜日までにFacebookは、自己申告による教育と雇用者の分野全体を一時的に除外することで、「JewHaters」や他の同様のランクのグループを広告サービスから削除したと発表しました。発表に伴い、同社は予想通りアノダインの謝罪と説明を提供した。

Facebookが説明しているように、カテゴリは、ユーザー自身が従業員と教育のスロットに入れたものに基づいてアルゴリズムで決定されました。十分な数の人々が、職業を「ユダヤ人の憎しみ」のような人種差別的な胆汁として、雇用主を「ユダヤ人の殺害週刊誌」として、または彼らの研究分野を「スリーサムレイプ」として挙げていました。

Facebookの反応は、ユーザー自身がデータを自己報告したことを強調することで繰り返されています。しかし、独自のアルゴリズムの無知を主張することで、Facebookはより明白な質問を曖昧にすることができます:ナチスが彼らのプラットフォームで誇らしげに自己識別できることはFacebookについて何を教えてくれますか?Facebookのアルゴリズムで、「レイプ」、「ビッチ」、「キル」などの単語が有効な職業用語ではないと判断できないのはなぜですか。Facebookは、AIユーザーからの悪意のある表現を検出できると言っています。それでは、なぜFacebookはAIを広告ユーティリティに向けないことを選択したのでしょうか。

20億人のユーザーベースにもかかわらず、企業としてのFacebookには人間の顔がほとんどありません。COO Sandberg、CEO Zuckerberg、その他はほとんどいません。したがって、この規模の企業(自動化に依存している企業)が、収益スキームに反ユダヤ主義を組み込むなどの大きな間違いを犯した場合、責任を問われることはありません。名前のないpress@fb.comの定型文を除いて、謝罪でさえ信用されておらず、人間の連絡先がリストされていません。

Zuckerbergと彼のコホートは、アルゴリズムによる意思決定を広告ターゲティング収益スキームの中心に据え、それらのシステムをブラックボックスに包み込みました。そして、Facebookのユーザーベースが拡大するにつれて、その盲点も拡大しています。

昨年、弁護士は、Facebookの広告ターゲティングスキームが公民権法に違反しているという懸念を理由に、Facebookに対して集団訴訟を起こした。Facebookは、自己申告による広告ターゲティングに加えて、ユーザーが気付かない可能性のあるカテゴリにユーザーを分類するためのデータもまとめました。10月、プロパブリカは、友人グループ、場所、いいねなどのデータに基づいて、Facebookがユーザーを「民族的親和性」と呼ばれる人種に類似したカテゴリに分類したことを明らかにしました。

広告主は、その親和性 基づいてユーザーをターゲットにするか除外することができます。これは、人種に基づいて人々の住居と雇用を拒否することを禁止する国の重大な懸念です。Facebookは、反発を受けて「民族的親和性」のターゲティングを終了しました。Facebookがアルゴリズムが何をしているのかわからないと言った「ユダヤ人嫌い」の大失敗とは異なり、ここでFacebookはアルゴリズムの不均衡な影響を予測できないと主張した。そのアルゴリズムの特異性を呼び出します。

Facebookのアルゴリズムが人種差別を賭け続けるのはなぜですか?より具体的な答えはFacebookのブラックボックスの中に隠されていますが、より広い答えは次のようになります。それは有益です。各Facebookユーザーは、会社の潜在的な収入源です。そして、サイトを使用すればするほど、より多くの広告を引き付け、より多くの共有可能なコンテンツを作成し、Facebookに対してより多くのユーザーインサイトを生成できます。 ユーザーが人種差別主義者、反ユダヤ主義者などとして自分自身を明らかにした場合、Facebookはそれらを削除したり、独自の収益構造を失望させたりするためにどのような義務がありますか?ユーザーの削除または検閲は、最初の修正権に違反しますか?

元のプロパブリカレポートとスレートからのフォローアップの両方で、研究者はFacebookの広告ターゲティングカテゴリの公開データベースと、会社全体でのより広範な自動化解除の推進を求めています。この時点で、Facebookはもはや広告ビジネスのどこかで倫理的で道徳的な羅針盤の切実な必要性を否定することはできません。同社のアルゴリズムとその人種差別主義者および反ユダヤ主義の論争は関連しています。今こそ、説明責任への大きなパラダイムシフトの時であり、オープンであり、ブラックボックスの快適さの中でFacebookからのもう1つのぬるい半歩ではありません。

更新5:48 pm:Facebookの広報担当者は、Gizmodoに対し、プロパブリカによってフラグが立てられた不快な自己申告のカテゴリだけでなく、「自己申告の教育および雇用者の分野をすべて一時的に削除する」と語った。それに応じてストーリーを更新しました。「Facebookは、この問題を防ぐための適切なプロセスが整うまで、これらの自己申告のターゲティングフィールドをすべて削除しています」と別の広報担当者は別のメールでGizmodoに語った。

提案された投稿

Razerは、Blade14がこれまでで最も強力な14インチゲーミングノートパソコンであると主張しています

Razerは、Blade14がこれまでで最も強力な14インチゲーミングノートパソコンであると主張しています

新しいRazerBlade14。Razerはすでに13インチから17インチまでの幅広いラップトップを製造していますが、新しいBlade 14により、Razerはこれまでで最も強力な14インチのゲーミングラップトップを製造したと主張しています。

アンソニー・リゾが病気の子供たちを訪問する病院は、COVIDワクチンを「個人的な選択」と呼んでいます

アンソニー・リゾが病気の子供たちを訪問する病院は、COVIDワクチンを「個人的な選択」と呼んでいます

アンソニー・リゾシカゴ地域またはその周辺にいない場合は、アンアンドロバートH.ルリー子供病院について知らないかもしれません。

関連記事

ダンクレンショーの7月4日のパーティーのバイラル広告は少し偽物です

ダンクレンショーの7月4日のパーティーのバイラル広告は少し偽物です

テキサス州のダン・クレンショー議員の広告のスクリーンショットを見たことがありますか?共和党議員が独立記念日のためにパーティーを開き、広告からの画像がツイッターなどのソーシャルメディアサイトで巡回している。

この衝撃的な侵入型マルウェアは、325万台のWindowsコンピューターからデータを盗みました

この衝撃的な侵入型マルウェアは、325万台のWindowsコンピューターからデータを盗みました

2018年から2020年の間に、不思議なマルウェアが感染し、約325万台のWindowsベースのコンピューターから機密データを盗み出しました。これらのデバイスのユーザーに関する恐ろしい量の詳細な情報が含まれていました。

これらのGoogleリンクは、検索結果があなたの人生を台無しにするのを防ぐことができます

これらのGoogleリンクは、検索結果があなたの人生を台無しにするのを防ぐことができます

Googleには、リベンジポルノ、ドキシング、またはオンラインの誹謗中傷の被​​害者である場合にバックアップ用に送信するためのリンクが記載されたサポートページがあります。Googleは、リベンジポルノやオンライン中傷の被害者を支援するために検索アルゴリズムを変更しています。

以前は一般的な病気が、CovidHatiusの後に跳ね返っています

以前は一般的な病気が、CovidHatiusの後に跳ね返っています

米国でcovid-19が衰退している個々のノロウイルス粒子のデジタルカラー化された透過型電子顕微鏡(TEM)画像

MORE COOL STUFF

「RHOC」キャストシェイクアップ:ケリー・ドッド・アウト、ヘザー・ダブロウがシーズン16に復帰

「RHOC」キャストシェイクアップ:ケリー・ドッド・アウト、ヘザー・ダブロウがシーズン16に復帰

ケリー・ドッドは「RHOC」シーズン16からカットされており、ヘザー・ダブロウがオレンジを求めて戻ってきたため、戻ってきません。

Kevin Hartがキャンセルカルチャーで音を立てる— '最後に確認したのは、あなたが成長する唯一の方法は、F * ckingUpからです'

Kevin Hartがキャンセルカルチャーで音を立てる— '最後に確認したのは、あなたが成長する唯一の方法は、F * ckingUpからです'

Kevin Hartは最近、キャンセルカルチャーに反対し、公人だけが完璧であると期待されていると指摘しました。

「ソプラノス」の作家がインスピレーションを得るためにヒッチコックの「北北西に進路をとる」に目を向けたとき

「ソプラノス」の作家がインスピレーションを得るためにヒッチコックの「北北西に進路をとる」に目を向けたとき

「ソプラノス」の後半、作家はトニーソプラノの代替アイデンティティを作成するときにアルフレッドヒッチコック効果を求めました。

「ハンドメイドの物語」:ギレアデを脱出した後のリタの成長についてのアマンダ・ブルジェル

「ハンドメイドの物語」:ギレアデを脱出した後のリタの成長についてのアマンダ・ブルジェル

Showbiz Cheat Sheetは、「The Handmaid's Tale」のシーズン4でリタを演じることについて、アマンダ・ブルジェルにキャラクターへの期待とともにインタビューしました。

完璧なCuppaJoeが欲しいですか?あなた自身のコーヒー豆を焙煎する

完璧なCuppaJoeが欲しいですか?あなた自身のコーヒー豆を焙煎する

その完璧な一杯のコーヒーを世界で探していましたか?たぶん、あなた自身のコーヒー豆を焙煎する芸術と科学を学ぶことは行く方法です。

聖書の神秘的なメルキゼデクは誰でしたか?

聖書の神秘的なメルキゼデクは誰でしたか?

彼は創世記にほんの一瞬登場しますが、それでも彼はイエス・キリストの先駆者と見なされてきました。彼は本当に何でしたか、そしてどのようにして彼はイエスと関係を持つようになりましたか?

Fannie Lou Hamer:SharecropperからCivil and VotingRightsアイコンまで

Fannie Lou Hamer:SharecropperからCivil and VotingRightsアイコンまで

ミシシッピ州の貧しい小作人の家族に生まれたファニー・ルー・ハマーは、学生非暴力調整委員会(SNCC)のフィールドセクレタリーになり、公民権と投票権のための不屈の戦闘機になりました。

世界的な大災害の最悪の状況が世界的な半導体不足を引き起こしている

世界的な大災害の最悪の状況が世界的な半導体不足を引き起こしている

現代文明はますます半導体に依存していますが、需要が急増しているのと同じように、COVID-19のパンデミック、干ばつ、その他の問題によってサプライチェーンが混乱しています。

テキサス州の男性が、ママの元をトラックの後ろに引きずり、車両に火をつけた疑いで逮捕された

テキサス州の男性が、ママの元をトラックの後ろに引きずり、車両に火をつけた疑いで逮捕された

リバティ郡保安官事務所によると、ロバート・ユージーン・ホフパウアー(37歳)は、60歳のローマ・ロドリゲスの殺害で逮捕され、起訴されました。

レオナ・ルイスは、マイケル・コステロがいじめのクリスシー・テイゲンを告発した後、彼女は「ひどく傷ついた」と言います

レオナ・ルイスは、マイケル・コステロがいじめのクリスシー・テイゲンを告発した後、彼女は「ひどく傷ついた」と言います

「人々が(クリシー)を謝罪し、彼らの行動に対して誠実な反省とリハビリテーションを示すとき、私たちは彼らを受け入れ、彼らがダウンしているときに彼らを蹴ろうとしないでください」とレオナ・ルイスはインスタグラムに書いています

ケルシー・グラマーは、父親のマイケル・ジャクソンと子供だったときにパリス・ジャクソンに会ったことを思い出して涙を流します

ケルシー・グラマーは、父親のマイケル・ジャクソンと子供だったときにパリス・ジャクソンに会ったことを思い出して涙を流します

ケルシー・グラマーは、彼女が若かったときに初めて共演者のパリス・ジャクソンとのスペースに出会い、彼女と父親のマイケル・ジャクソンの間の愛らしい瞬間を目撃しました

ジャッカス4監督のジェフ・トレメインがバム・マージェラに対して3年間の拘束命令を下した

ジャッカス4監督のジェフ・トレメインがバム・マージェラに対して3年間の拘束命令を下した

元テレビスターが彼と彼の家族の殺害の脅迫を送ったとされた後、ジェフ・トレメイン(54歳)はバム・マージェラ(41歳)に対する拘束命令を申請した

あなたはジャッジですか?

科学は私たち全員がそうであると言います、そしてそれは必ずしも悪いことではありません。

あなたはジャッジですか?

あなたは誰かに会うときを知っています、そしてあなたは精神的なメモをするしかないのです。または、誰かがあなたを捕まえて、彼らが疑わしいことをしているときに彼らに悪臭を放ちます。

クリストファー・コロンブスはマナティーと人魚を区別できない

クリストファー・コロンブスはマナティーと人魚を区別できない

1493年1月9日にハイチ周辺の海域を航海しているときに、有名な探検家クリストファーコロンブスは、3人の人魚が水面で戯れていると思っていることに気づきました。彼は後で彼らが「水からかなり高くなった」と報告したが、彼らは「描かれているほどきれいではなかった。どういうわけか彼らは男性のように見えるからだ。

50人のクライアントの後のフィールドのビュー

やることはたくさんありますが、それは可能です

50人のクライアントの後のフィールドのビュー

2019年に、別のクラシック音楽機関を率いる前に、ある組織を超えて幅広い影響を与えるためにカリフォルニア交響楽団から移動することを決定したという発表があったとき、水門は最良の方法で開きました。数か月後、コロナウイルスがビジネスを突然停止し、組織や分野に新たな疑問や課題が生じたため、私たちのすべての作業はこれまで考えられていた以上に変化しました。

古い絵画の表面の背後に潜む秘密は何ですか?

現代の技術と昔ながらの創意工夫がいくつかの驚くべき発見を明らかにする

古い絵画の表面の背後に潜む秘密は何ですか?

フィンセントファンゴッホがやったし、パブロピカソもやった。アーティストは多くの理由で帆布の上に絵を描きました。

Language