LOADING ...

Perusahaan 'Skor Pengawasan' Digunakan untuk Mencopot Anda Mungkin Benar-Benar Ilegal

Dell Cameron Jun 25, 2019. 19 comments

Lain kali Anda pergi untuk membeli kertas toilet online, suatu algoritma mungkin memutuskan untuk menagih Anda $ 5 lebih dari tetangga Anda. Anda mungkin tidak akan pernah tahu. Tetapi bahkan jika Anda melakukannya, tidak ada cara bagi Anda untuk mencari tahu mengapa.

Selama setidaknya setengah dekade, para peneliti telah mendokumentasikan dan mempelajari penggunaan apa yang disebut "penilaian pengawasan," praktik bayangan, tetapi diadopsi secara luas menggunakan algoritma komputer yang, dalam perdagangan, menghasilkan pelanggan secara otomatis membayar harga berbeda untuk hal yang sama. produk. Istilah ini juga mencakup taktik yang digunakan oleh pengusaha dan tuan tanah untuk masing-masing menyangkal pekerjaan pelamar dan perumahan, berdasarkan saran yang dikeluarkan algoritma. Sekarang para ahli menuduh bahwa banyak dari perilaku penilaian pengawasan ini ilegal, dan mereka meminta Komisi Perdagangan Federal (FTC) untuk menyelidiki.

Dalam petisi 38 halaman yang diajukan Selasa, Consumer Education Foundation, sebuah organisasi nirlaba California yang memiliki hubungan dekat dengan kelompok Consumer Watchdog, meminta FTC untuk mengeksplorasi apakah penggunaan skor pengawasan merupakan "praktik tidak adil atau menipu" di bawah Undang-Undang Komisi Perdagangan Federal. .

Kasusnya, dibumbui oleh penelitian dan dokumentasi bertahun-tahun oleh para akademisi, jurnalis, dan kelompok advokasi konsumen lainnya, adalah kasus yang meyakinkan.

Petisi kelompok itu menyatakan bahwa orang Amerika terkejut dengan laporan penggunaan " nilai kredit sosial " China untuk menentukan "kepercayaan" warga negara yang sebagian besar tidak menyadari bahwa banyak bisnis AS sudah menggunakan kreasi yang sangat mirip; sistem jahat yang bahkan lebih tidak terlihat daripada keburukan China berkat hukum AS yang melindungi cara kerja algoritme komersial sebagai "rahasia dagang".

"Fakta bahwa perusahaan-perusahaan Amerika meniru tindakan pemerintah otoriter untuk menilai dan memperlakukan konsumen secara berbeda sangat mengganggu," Laura Antonini, direktur kebijakan di #REPRESENT , sebuah proyek Yayasan Pendidikan Konsumen, mengatakan kepada Gizmodo. Perusahaan-perusahaan AS, menurutnya, tidak boleh diberi izin untuk bersembunyi di balik "argumen palsu" bahwa skor konsumen yang diturunkan secara algoritmik adalah rahasia dagang untuk "menghindari akuntabilitas."

Petisi, yang mengidentifikasi lusinan bisnis besar AS yang diketahui menggunakan skor pengawasan, serta 11 perusahaan berbasis di AS yang diketahui menyediakannya, menjelaskan bagaimana sebanyak 121 perusahaan analitik di seluruh negeri “mengategorikan, menilai, atau menetapkan nilai numerik untuk seorang konsumen berdasarkan perkiraan prakiraan perilaku konsumen. ”Skor ini dapat menentukan pelanggan mana yang“ diperlakukan dengan buruk ”—disingkirkan kesempatan untuk mengembalikan barang, misalnya — dan yang menerima“ perlakuan istimewa. ”

Skor nilai pelanggan, seperti yang digunakan oleh pengecer besar seperti Walmart, memungkinkan pengecer untuk memberikan “penilaian instan dan otomatis tentang konsumen yang dapat mengakibatkan konsumen membayar harga yang berbeda untuk produk yang sama berdasarkan pada seberapa banyak laba yang diputuskan oleh algoritma yang ditentukan oleh konsumen tertentu. hasilkan, ”menurut petisi.

Sama seperti pengecer menyembunyikan penggunaan nilai nilai pelanggan dari konsumen, perusahaan analitik yang menghasilkan skor ini menjaga kerahasiaan proses internal mereka dari bisnis yang mengontrak mereka. Asal usul data mereka juga rahasia. Ini selalu berarti bahwa meskipun pelanggan entah bagaimana mengetahui skor buruk didasarkan pada informasi yang tidak akurat atau ketinggalan zaman, tidak ada jalan lain untuk naik banding.

Mengenai masalah data yang tidak dapat diandalkan, petisi menunjuk ke sebuah studi FTC 2013 yang menemukan sekitar lima persen dari nilai kredit aktual — yang dihasilkan di bawah sistem yang jauh lebih transparan — mengandung kesalahan yang dapat mengarahkan konsumen untuk “membayar lebih untuk produk seperti mobil pinjaman dan asuransi. "Howard Shelanski, kepala Biro Ekonomi FTC pada saat itu, menyebut studi itu" membuka mata, "mengatakan studi pertama dari jenisnya menjelaskan bahwa" konsumen harus memeriksa laporan kredit mereka secara teratur. "Atau yang lain," mereka berpotensi membahayakan dompet mereka. "

Sementara kelemahan pada skor kredit dapat diatasi melalui proses yang diatur ketat tersedia untuk semua konsumen, konsumen tidak memiliki cara untuk memverifikasi bahwa perusahaan tidak membebankan biaya lebih banyak kepada mereka — atau menyangkal mereka akses ke peluang pekerjaan atau perumahan — berdasarkan murni pada data yang salah

Petisi itu mengutip sebuah penelitian yang dilakukan oleh para peneliti di Northeastern University pada 2014 yang meneliti praktik penetapan harga toko online. Studi ini menemukan bahwa konsumen menghadapi harga yang lebih tinggi   di sejumlah situs dibandingkan dengan yang ditawarkan peramban otomatis tanpa riwayat pribadi.

Para peneliti yang sama kemudian merilis ekstensi Chrome yang memungkinkan pengguna untuk melakukan pencarian di lima toko online untuk mengetahui apakah mereka dikenakan harga yang berbeda berdasarkan data pribadi mereka. Consumer Education Foundation menulis bahwa mereka baru-baru ini menggunakan alat untuk melakukan penelitiannya sendiri. Dalam beberapa kasus, peramban yang tidak memiliki tautan ke orang nyata ditawari produk dengan harga lebih murah daripada perisetnya.

Perbedaan harga untuk pemegang tisu toilet di situs web Walmart adalah lebih dari $ 10. Sekotak pulpen: $ 9,69 ketika Walmart memiliki akses ke data pribadi pelanggan; $ 4,15 padahal tidak. Walmart tidak menanggapi permintaan komentar.

Petisi itu juga mengutip perbedaan harga antara barang-barang di situs web Home Depot, seperti seember cat yang menurut para pemohon dihargai dengan harga $ 62,96 untuk mereka dan $ 59,87 untuk pengguna anonim. Namun, dalam panggilan dengan Gizmodo, Home Depot membantah menggunakan segala jenis skor pelanggan apa pun untuk menetapkan harga produknya. Pelanggan di situs webnya mengutip biaya produk yang disediakan oleh toko Home Depot terdekat mereka, kata perusahaan itu, atau diberi harga yang terdaftar secara nasional. Harga itu bisa bervariasi, katanya.

Petisi melanjutkan dengan menyatakan bahwa tujuan sebenarnya dari skor nilai pelanggan yang dihasilkan secara algoritmik adalah untuk memberi konsumen nilai moneter "berdasarkan prediksi laba yang akan mereka hasilkan bagi perusahaan." Dengan kata lain, alasan mereka ada tidak memiliki apa pun. lakukan dengan memberikan manfaat pada konsumen, atau memastikan harga perusahaan lebih kompetitif.

Perusahaan dapat menganggap pelanggan kurang "berharga", misalnya, jika mereka sering menggunakan layanan pelanggan atau secara rutin membeli barang yang dijual. Ini, meskipun panggilan berulang-ulang ke layanan pelanggan, para pemohon berargumen, berpotensi menunjukkan bahwa suatu produk atau layanan buruk. "Memang, tampaknya tujuan skor nilai pelanggan adalah untuk menghukum konsumen yang cerdas yang berbelanja untuk kesepakatan terbaik atau tahu bagaimana menegaskan hak-haknya," kata petisi.

Skor pengawasan, kata Antonini kepada Gizmodo, juga menawarkan perusahaan cara diam untuk mendiskriminasi konsumen berdasarkan kekayaan. “Nilai apa pun berdasarkan pendapatan atau kode pos — karakteristik yang sering berfungsi sebagai pengganti ras — akan menyingkirkan konsumen yang tidak ingin berbisnis dengan mereka, tidak ingin menyewa, atau tidak ingin menyediakan perumahan,” dia kata.

Jadi bagaimana metode ini melanggar hukum federal yang ada? Pemohon mendalilkan bahwa skor pengawasan (dan khususnya skor nilai pelanggan) memenuhi definisi “tindakan atau praktik yang tidak adil atau menipu” berdasarkan Bagian 5 dari Undang-Undang Komisi Perdagangan Federal.

Undang-undang FTC menganggap praktik komersial “tidak adil” ketika memenuhi tiga kualifikasi : Praktik tersebut menyebabkan, atau kemungkinan besar menyebabkan, cedera substansial bagi konsumen; konsumen tidak bisa menghindarinya; dan manfaat bagi konsumen atau persaingan tidak melebihi dampak dari cedera itu sendiri.

Apakah perbedaan individu dalam harga— $ 10 lebih untuk sepotong logam yang memegang kertas toilet — signifikan atau tidak, tidak masalah, para pemohon membantah. Mereka cenderung menimbulkan "kerugian yang relatif kecil" pada "sejumlah besar konsumen," mengutip standar FTC.

Algoritma penetapan harga apa pun yang mengandalkan skor yang melibatkan faktor-faktor seperti usia, ras, jenis kelamin, etnis, atau agama — perincian demografis yang dapat dengan mudah ditentukan berdasarkan sejumlah faktor sekunder, seperti lingkungan tempat tinggal seseorang, sekolah tempat mereka bersekolah. , atau badan amal apa yang mereka berikan, belum lagi grup Facebook mana yang mereka ikuti — secara otomatis akan menjadi pelanggaran tegas terhadap UU FTC.

"Memberikan layanan pelanggan yang buruk kepada konsumen berdasarkan skor nilai pelanggan rahasia menyebabkan, atau kemungkinan besar akan menyebabkan, kerugian besar bagi konsumen," petisi berpendapat, menambahkan bahwa memberi label pelanggan sebagai "penipu" berdasarkan informasi yang tidak akurat atau tidak relevan kemungkinan akan dilakukan. sama.

Para pembuat petisi menunjuk ke penelitian yang diuraikan tahun lalu di Wall Street Journal yang menunjukkan “skor penipuan” yang tinggi dapat melekat pada pelanggan yang membeli barang “tanpa memeriksa kebijakan pengembalian” dan mereka yang membayar ekstra untuk opsi pengiriman tercepat. Perusahaan seperti Macy's dan Finish Line tidak menyangkal menggunakan metrik tersebut, yang dihasilkan oleh Riskified, sebuah perusahaan yang berbasis di Tel-Aviv.

Pada akhirnya, intinya adalah tidak mungkin bagi konsumen untuk menghindari kerugian yang ditimbulkan oleh algoritma ketika seseorang memutuskan untuk membebankan biaya yang berbeda kepada mereka atau hasilnya mereka menerima layanan pelanggan yang buruk. Semua bukti yang sedang terjadi dicap "Rahasia dan Milik Proprietary," dan dilindungi dari mata konsumen oleh agen yang bertugas melindungi mereka.

FTC tidak menanggapi permintaan komentar.

Anda dapat membaca petisi lengkap yang diajukan oleh #REPRESENT dan Yayasan Pendidikan Konsumen di sini .

Pembaruan, 25 Juni: Versi artikel sebelumnya menyatakan bahwa Home Depot mengandalkan skor nilai pelanggan yang mengutip penelitian oleh Consumer Education Foundation. Home Depot pada awalnya tidak menanggapi permintaan komentar, tetapi kemudian bersikukuh bahwa hal itu tidak bergantung pada skor apa pun untuk menentukan berapa banyak pelanggan membayar barang. Artikel ini diperbarui untuk menyertakan penolakan Home Depot.

19 Comments

Other Dell Cameron's posts

Dering Pasti Memiliki Banyak Kata Sandi Kebocoran Yang Sepenuhnya Salah Anda Dering Pasti Memiliki Banyak Kata Sandi Kebocoran Yang Sepenuhnya Salah Anda

Salah satu tujuan Ring yang dinyatakan adalah untuk "mengurangi kejahatan di lingkungan dengan menghubungkan orang." . Pada hari Kamis, BuzzFeed News melaporkan bahwa setidaknya 3.672 pemilik kamera Ring telah dikompromikan. Kata sandi, beberapa informasi pembayaran, dan detail pribadi lainnya ditemukan mengambang di internet. Akses yang dimungkinkan ini menakutkan. Seseorang pada dasarnya bisa menyisir video yang direkam berbulan-bulan untuk setiap...

'Aku Tidur Dengan Senjatau': Seperti Apa Rasanya Agar Kamera Cincin Anda Diretas 'Aku Tidur Dengan Senjatau': Seperti Apa Rasanya Agar Kamera Cincin Anda Diretas

Dia sedang dalam perjalanan pulang dari toko kelontong ketika dia mendapat telepon. Setelah akhir pekan keluar kota, anak-anak John akhirnya tertidur di rumahnya di Houston. Istrinya juga sedang bersiap-siap untuk tidur — sampai dia mendengar suara orang asing bergema di koridor. "Apakah ada orang di rumah?" Ia bertanya. "Kita akan mencari tahu," janjinya. Suara pria misterius itu datang, segera...

Amazon Menghadapi Panas Dari Senator Selama Praktek Keamanan Bel Bel Amazon Menghadapi Panas Dari Senator Selama Praktek Keamanan Bel Bel

Mengutip potensi rekaman sensitif "merinci kehidupan jutaan orang Amerika" untuk jatuh ke tangan peretas dan mata-mata asing, sekelompok anggota parlemen AS menuntut untuk mengetahui lebih banyak tentang bagaimana Ring, perusahaan keamanan rumah Amazon, melindungi pelanggannya 'data. Dalam sepucuk surat kepada CEO Amazon Jeff Bezos pada hari Rabu, lima senator dari Partai Demokrat AS mempublikasikan kekhawatiran mereka tentang kerentanan keamanan...

FCC Berencana untuk Memo Sistem Cacat yang Digunakan untuk Memposting Komentar Netralitas Neto Palsu FCC Berencana untuk Memo Sistem Cacat yang Digunakan untuk Memposting Komentar Netralitas Neto Palsu

Setelah bertahun-tahun apa yang disebut "peningkatan" yang telah gagal untuk meredakan kekhawatiran anggota parlemen tentang integritas sistem komentar publiknya, Komisi Komunikasi Federal tampaknya telah memutuskan untuk membatalkan dan mengganti sistem komentarnya sepenuhnya, beberapa sumber mengatakan kepada Gizmodo. Sistem Pengajuan Komentar Elektronik (ECFS), diluncurkan pada tahun 1998, memungkinkan orang Amerika dan hampir semua orang untuk menyumbangkan masukan tentang aturan FCC...

Suggested posts

Kesepakatan Fitbit Google Dilaporkan Akan Diteliti Oleh DOJ Antitrust Office Kesepakatan Fitbit Google Dilaporkan Akan Diteliti Oleh DOJ Antitrust Office

Google Kesepakatan $ 2,1 miliar untuk mengakuisisi produsen pelacak kebugaran Fitbit telah menarik perhatian penegak antimonopoli di Departemen Kehakiman, menurut laporan yang pertama kali muncul di tabloid New York Post dan kemudian diverifikasi oleh Reuters . Biasanya, kesepakatan sebesar ini harus disetujui oleh baik DOJ atau Komisi Perdagangan Federal, yang juga memiliki otoritas antimonopoli federal . Namun menurut Post,...

Lebih dari Setengah Negara Jaksa Agung Bisa Masuk ke Antitrust Enquiry Terhadap Google Lebih dari Setengah Negara Jaksa Agung Bisa Masuk ke Antitrust Enquiry Terhadap Google

The Washington Post melaporkan pada Selasa y bahwa "lebih dari setengah dari jaksa agung negara bagian" telah menandatangani dan sedang mempersiapkan penyelidikan anti-trust terhadap titan digital Google, dengan makalah yang menulis penyelidikan adalah "Dijadwalkan akan diumumkan minggu depan, menandai peningkatan besar dalam upaya regulator AS untuk menyelidiki perusahaan terbesar di Silicon Valley." Rincian penyelidikan tetap kabur, tetapi Post melaporkan...

Google Menyetujui untuk Membayar Hingga $ 200 Juta untuk Menyelesaikan Investigasi FTC Youtube: Laporkan Google Menyetujui untuk Membayar Hingga $ 200 Juta untuk Menyelesaikan Investigasi FTC Youtube: Laporkan

Komisi Perdagangan Federal mendenda Google antara $ 150 juta dan $ 200 juta untuk menyelesaikan seluruh kekacauan dengan anak perusahaannya, YouTube, yang diduga melanggar hukum privasi anak-anak, Politico pertama kali melaporkan Jumat. Sementara rincian tentang penyelesaian belum diumumkan secara resmi, seseorang yang akrab dengan masalah ini mengatakan kepada Politico bahwa langkah tersebut mendapatkan persetujuan FTC dengan suara 3-2 di...

Ketua FTC: Ya, Kita Bisa Menghancurkan Teknologi Besar, Tapi Hanya Jika Kita Benar-Benar Ingin atau Sesuatu Ketua FTC: Ya, Kita Bisa Menghancurkan Teknologi Besar, Tapi Hanya Jika Kita Benar-Benar Ingin atau Sesuatu

Ketua Komisi Perdagangan Federal, Ketua Joe Simons, mengakui dalam sebuah wawancara pada hari Selasa bahwa mungkin mungkin, mungkin saja, salah satu hasil dari penyelidikan gugus tugas FTC tentang apakah raksasa teknologi melanggar undang-undang anti persaingan dapat memaksa mereka untuk memecah menjadi perusahaan yang lebih kecil , menurut laporan di Reuters dan Bloomberg . Orang-orang seperti Facebook mungkin belum gemetar...

FTC 'Failed Miserably' dalam Menghukum Facebook Dengan Denda $ 5 Miliar, kata Demokrat FTC 'Failed Miserably' dalam Menghukum Facebook Dengan Denda $ 5 Miliar, kata Demokrat

Federal Trade Commission, yang telah menyelidiki Facebook setelah skandal besar-besaran Cambridge Analytica, telah memilih untuk menyetujui pengadaan denda besar-besaran $ 5 miliar terhadap raksasa media sosial, menurut laporan di Wall Street Journal dan Washington Post . Ini adalah denda tunggal terbesar terhadap perusahaan teknologi oleh FTC hingga saat ini, tetapi ketidakmampuannya untuk mengurangi pelanggaran di masa depan semacam ini...

FTC Klaim Potensi Probe Antitrust Facebook sebagai DOJ Menghambat Hak untuk Merusak Hari Apple FTC Klaim Potensi Probe Antitrust Facebook sebagai DOJ Menghambat Hak untuk Merusak Hari Apple

Dalam berita utama akhir pekan lalu, badan-badan pemerintah AS dilaporkan mencari kasus antitrust terhadap raksasa teknologi. Departemen Kehakiman memasang bendera di Indonesia Google pada hari Jumat, menurut laporan, sementara Komisi Perdagangan Federal tampak tertarik pada Amazon . Pada hari ini, Wall Street Journal melaporkan bahwa FTC juga mengajukan klaim untuk penyelidikan antimonopoli ke Facebook, sementara Reuters melaporkan perjanjian tersebut...

Kami Menyesal untuk Memberitahu Anda Regulator Iklan Inggris telah menganggap Siapapun Dengan 30.000 Pengikut Menjadi Selebriti Kami Menyesal untuk Memberitahu Anda Regulator Iklan Inggris telah menganggap Siapapun Dengan 30.000 Pengikut Menjadi Selebriti

Advertising Standards Authority (ASA), kelompok regulasi mandiri industri independen Inggris, telah secara resmi menentukan batas bawah bagi siapa yang dianggap sebagai "selebritas" internet: Siapa pun dengan lebih dari 30.000 pengikut di media sosial. Per Telegraph , keputusan datang melalui kasus yang melibatkan perusahaan farmasi Sanofi, yang membayar blogger ibu Sarah Willox Knott ( @ThisMamaLife ) untuk mendukung obat penenang...

Robocalls Benar-Benar Lebih Buruk Daripada Tahun Lalu, Laporan Menemukan Robocalls Benar-Benar Lebih Buruk Daripada Tahun Lalu, Laporan Menemukan

Jika Anda tidak mengangkat telepon lagi karena setiap kali tampaknya menjadi salah satu robot yang menjengkelkan, Anda tidak sendirian. Sebuah laporan yang baru dirilis menemukan bahwa 26,3 miliar robocall dibuat ke nomor telepon AS pada 2018, naik 46 persen dari 18 miliar pada 2017. Yikes. Laporan ini disusun oleh Hiya, aplikasi pemantauan panggilan spam. Di dalamnya, ditemukan bahwa rata-rata...

Klaim YouTube, Anak-Anak yang Dilacak Secara Ilegal, Kabarnya Memicu Investigasi Federal Klaim YouTube, Anak-Anak yang Dilacak Secara Ilegal, Kabarnya Memicu Investigasi Federal

Kegagalan terus-menerus YouTube untuk memastikan produknya tidak mengeksploitasi anak-anak telah mendorong penyelidikan oleh Komisi Perdagangan Federal ke perusahaan tersebut. Menurut sebuah laporan dari Washington Post pada hari Rabu, investigasi FTC ke YouTube tentang bagaimana perusahaan menangani informasi pribadi pengguna termuda berada pada tahap akhir dan dipicu oleh keluhan dari kesehatan anak-anak dan kelompok privasi . YouTube menolak mengomentari penyelidikan....

Facebook Khawatir Tentang Email Lama Mark Zuckerberg dalam FTC Privacy Probe Facebook Khawatir Tentang Email Lama Mark Zuckerberg dalam FTC Privacy Probe

Karyawan dalam Facebook telah menggali "email yang tampaknya menghubungkan Kepala Eksekutif Mark Zuckerberg dengan praktik privasi yang berpotensi bermasalah" dalam rangka menanggapi penyelidikan Komisi Perdagangan Federal, Wall Street Journal melaporkan pada hari Rabu, mengutip "orang yang akrab dengan masalah ini. ” Journal tidak dapat meninjau email secara langsung, tetapi menulis bahwa mereka dapat mempersulit upaya di Facebook untuk dengan...

Language