LOADING ...

Perusahaan 'Skor Pengawasan' Digunakan untuk Mencopot Anda Mungkin Benar-Benar Ilegal

Dell Cameron Jun 25, 2019. 19 comments
FTC

Lain kali Anda pergi untuk membeli kertas toilet online, suatu algoritma mungkin memutuskan untuk menagih Anda $ 5 lebih dari tetangga Anda. Anda mungkin tidak akan pernah tahu. Tetapi bahkan jika Anda melakukannya, tidak ada cara bagi Anda untuk mencari tahu mengapa.

Selama setidaknya setengah dekade, para peneliti telah mendokumentasikan dan mempelajari penggunaan apa yang disebut "penilaian pengawasan," praktik bayangan, tetapi diadopsi secara luas menggunakan algoritma komputer yang, dalam perdagangan, menghasilkan pelanggan secara otomatis membayar harga berbeda untuk hal yang sama. produk. Istilah ini juga mencakup taktik yang digunakan oleh pengusaha dan tuan tanah untuk masing-masing menyangkal pekerjaan pelamar dan perumahan, berdasarkan saran yang dikeluarkan algoritma. Sekarang para ahli menuduh bahwa banyak dari perilaku penilaian pengawasan ini ilegal, dan mereka meminta Komisi Perdagangan Federal (FTC) untuk menyelidiki.

Dalam petisi 38 halaman yang diajukan Selasa, Consumer Education Foundation, sebuah organisasi nirlaba California yang memiliki hubungan dekat dengan kelompok Consumer Watchdog, meminta FTC untuk mengeksplorasi apakah penggunaan skor pengawasan merupakan "praktik tidak adil atau menipu" di bawah Undang-Undang Komisi Perdagangan Federal. .

Kasusnya, dibumbui oleh penelitian dan dokumentasi bertahun-tahun oleh para akademisi, jurnalis, dan kelompok advokasi konsumen lainnya, adalah kasus yang meyakinkan.

Melamar Pekerjaan Anda Selanjutnya Mungkin Menjadi Mimpi Buruk Otomatis

Jika Anda berpikir mencari pekerjaan sudah menakutkan, penuh kecemasan, dan tidak menyenangkan, tunggu saja ...

Baca lebih banyak Baca

Petisi kelompok itu menyatakan bahwa orang Amerika terkejut dengan laporan penggunaan " nilai kredit sosial " China untuk menentukan "kepercayaan" warga negara yang sebagian besar tidak menyadari bahwa banyak bisnis AS sudah menggunakan kreasi yang sangat mirip; sistem jahat yang bahkan lebih tidak terlihat daripada keburukan China berkat hukum AS yang melindungi cara kerja algoritme komersial sebagai "rahasia dagang".

"Fakta bahwa perusahaan-perusahaan Amerika meniru tindakan pemerintah otoriter untuk menilai dan memperlakukan konsumen secara berbeda sangat mengganggu," Laura Antonini, direktur kebijakan di #REPRESENT , sebuah proyek Yayasan Pendidikan Konsumen, mengatakan kepada Gizmodo. Perusahaan-perusahaan AS, menurutnya, tidak boleh diberi izin untuk bersembunyi di balik "argumen palsu" bahwa skor konsumen yang diturunkan secara algoritmik adalah rahasia dagang untuk "menghindari akuntabilitas."

Sekotak pulpen: $ 9,69 ketika Walmart memiliki akses ke data pribadi pelanggan; $ 4,15 padahal tidak.

Petisi, yang mengidentifikasi lusinan bisnis besar AS yang diketahui menggunakan skor pengawasan, serta 11 perusahaan berbasis di AS yang diketahui menyediakannya, menjelaskan bagaimana sebanyak 121 perusahaan analitik di seluruh negeri “mengategorikan, menilai, atau menetapkan nilai numerik untuk seorang konsumen berdasarkan perkiraan prakiraan perilaku konsumen. ”Skor ini dapat menentukan pelanggan mana yang“ diperlakukan dengan buruk ”—disingkirkan kesempatan untuk mengembalikan barang, misalnya — dan yang menerima“ perlakuan istimewa. ”

Skor nilai pelanggan, seperti yang digunakan oleh pengecer besar seperti Walmart, memungkinkan pengecer untuk memberikan “penilaian instan dan otomatis tentang konsumen yang dapat mengakibatkan konsumen membayar harga yang berbeda untuk produk yang sama berdasarkan pada seberapa banyak laba yang diputuskan oleh algoritma yang ditentukan oleh konsumen tertentu. hasilkan, ”menurut petisi.

Sama seperti pengecer menyembunyikan penggunaan nilai nilai pelanggan dari konsumen, perusahaan analitik yang menghasilkan skor ini menjaga kerahasiaan proses internal mereka dari bisnis yang mengontrak mereka. Asal usul data mereka juga rahasia. Ini selalu berarti bahwa meskipun pelanggan entah bagaimana mengetahui skor buruk didasarkan pada informasi yang tidak akurat atau ketinggalan zaman, tidak ada jalan lain untuk naik banding.

Mengenai masalah data yang tidak dapat diandalkan, petisi menunjuk ke sebuah studi FTC 2013 yang menemukan sekitar lima persen dari nilai kredit aktual — yang dihasilkan di bawah sistem yang jauh lebih transparan — mengandung kesalahan yang dapat mengarahkan konsumen untuk “membayar lebih untuk produk seperti mobil pinjaman dan asuransi. "Howard Shelanski, kepala Biro Ekonomi FTC pada saat itu, menyebut studi itu" membuka mata, "mengatakan studi pertama dari jenisnya menjelaskan bahwa" konsumen harus memeriksa laporan kredit mereka secara teratur. "Atau yang lain," mereka berpotensi membahayakan dompet mereka. "

Sementara kelemahan pada skor kredit dapat diatasi melalui proses yang diatur ketat tersedia untuk semua konsumen, konsumen tidak memiliki cara untuk memverifikasi bahwa perusahaan tidak membebankan biaya lebih banyak kepada mereka — atau menyangkal mereka akses ke peluang pekerjaan atau perumahan — berdasarkan murni pada data yang salah

Petisi itu mengutip sebuah penelitian yang dilakukan oleh para peneliti di Northeastern University pada 2014 yang meneliti praktik penetapan harga toko online. Studi ini menemukan bahwa konsumen menghadapi harga yang lebih tinggi   di sejumlah situs dibandingkan dengan yang ditawarkan peramban otomatis tanpa riwayat pribadi.

Para peneliti yang sama kemudian merilis ekstensi Chrome yang memungkinkan pengguna untuk melakukan pencarian di lima toko online untuk mengetahui apakah mereka dikenakan harga yang berbeda berdasarkan data pribadi mereka. Consumer Education Foundation menulis bahwa mereka baru-baru ini menggunakan alat untuk melakukan penelitiannya sendiri. Dalam beberapa kasus, peramban yang tidak memiliki tautan ke orang nyata ditawari produk dengan harga lebih murah daripada perisetnya.

Perbedaan harga untuk pemegang tisu toilet di situs web Walmart adalah lebih dari $ 10. Sekotak pulpen: $ 9,69 ketika Walmart memiliki akses ke data pribadi pelanggan; $ 4,15 padahal tidak. Walmart tidak menanggapi permintaan komentar.

Petisi itu juga mengutip perbedaan harga antara barang-barang di situs web Home Depot, seperti seember cat yang menurut para pemohon dihargai dengan harga $ 62,96 untuk mereka dan $ 59,87 untuk pengguna anonim. Namun, dalam panggilan dengan Gizmodo, Home Depot membantah menggunakan segala jenis skor pelanggan apa pun untuk menetapkan harga produknya. Pelanggan di situs webnya mengutip biaya produk yang disediakan oleh toko Home Depot terdekat mereka, kata perusahaan itu, atau diberi harga yang terdaftar secara nasional. Harga itu bisa bervariasi, katanya.

Petisi melanjutkan dengan menyatakan bahwa tujuan sebenarnya dari skor nilai pelanggan yang dihasilkan secara algoritmik adalah untuk memberi konsumen nilai moneter "berdasarkan prediksi laba yang akan mereka hasilkan bagi perusahaan." Dengan kata lain, alasan mereka ada tidak memiliki apa pun. lakukan dengan memberikan manfaat pada konsumen, atau memastikan harga perusahaan lebih kompetitif.

"Perusahaan tidak boleh bersembunyi di balik argumen palsu bahwa skor ini adalah rahasia dagang untuk menghindari pertanggungjawaban."

Perusahaan dapat menganggap pelanggan kurang "berharga", misalnya, jika mereka sering menggunakan layanan pelanggan atau secara rutin membeli barang yang dijual. Ini, meskipun panggilan berulang-ulang ke layanan pelanggan, para pemohon berargumen, berpotensi menunjukkan bahwa suatu produk atau layanan buruk. "Memang, tampaknya tujuan skor nilai pelanggan adalah untuk menghukum konsumen yang cerdas yang berbelanja untuk kesepakatan terbaik atau tahu bagaimana menegaskan hak-haknya," kata petisi.

Skor pengawasan, kata Antonini kepada Gizmodo, juga menawarkan perusahaan cara diam untuk mendiskriminasi konsumen berdasarkan kekayaan. “Nilai apa pun berdasarkan pendapatan atau kode pos — karakteristik yang sering berfungsi sebagai pengganti ras — akan menyingkirkan konsumen yang tidak ingin berbisnis dengan mereka, tidak ingin menyewa, atau tidak ingin menyediakan perumahan,” dia kata.

Jadi bagaimana metode ini melanggar hukum federal yang ada? Pemohon mendalilkan bahwa skor pengawasan (dan khususnya skor nilai pelanggan) memenuhi definisi “tindakan atau praktik yang tidak adil atau menipu” berdasarkan Bagian 5 dari Undang-Undang Komisi Perdagangan Federal.

Undang-undang FTC menganggap praktik komersial “tidak adil” ketika memenuhi tiga kualifikasi : Praktik tersebut menyebabkan, atau kemungkinan besar menyebabkan, cedera substansial bagi konsumen; konsumen tidak bisa menghindarinya; dan manfaat bagi konsumen atau persaingan tidak melebihi dampak dari cedera itu sendiri.

Apakah perbedaan individu dalam harga— $ 10 lebih untuk sepotong logam yang memegang kertas toilet — signifikan atau tidak, tidak masalah, para pemohon membantah. Mereka cenderung menimbulkan "kerugian yang relatif kecil" pada "sejumlah besar konsumen," mengutip standar FTC.

Algoritma penetapan harga apa pun yang mengandalkan skor yang melibatkan faktor-faktor seperti usia, ras, jenis kelamin, etnis, atau agama — perincian demografis yang dapat dengan mudah ditentukan berdasarkan sejumlah faktor sekunder, seperti lingkungan tempat tinggal seseorang, sekolah tempat mereka bersekolah. , atau badan amal apa yang mereka berikan, belum lagi grup Facebook mana yang mereka ikuti — secara otomatis akan menjadi pelanggaran tegas terhadap UU FTC.

"Memberikan layanan pelanggan yang buruk kepada konsumen berdasarkan skor nilai pelanggan rahasia menyebabkan, atau kemungkinan besar akan menyebabkan, kerugian besar bagi konsumen," petisi berpendapat, menambahkan bahwa memberi label pelanggan sebagai "penipu" berdasarkan informasi yang tidak akurat atau tidak relevan kemungkinan akan dilakukan. sama.

Para pembuat petisi menunjuk ke penelitian yang diuraikan tahun lalu di Wall Street Journal yang menunjukkan “skor penipuan” yang tinggi dapat melekat pada pelanggan yang membeli barang “tanpa memeriksa kebijakan pengembalian” dan mereka yang membayar ekstra untuk opsi pengiriman tercepat. Perusahaan seperti Macy's dan Finish Line tidak menyangkal menggunakan metrik tersebut, yang dihasilkan oleh Riskified, sebuah perusahaan yang berbasis di Tel-Aviv.

Pada akhirnya, intinya adalah tidak mungkin bagi konsumen untuk menghindari kerugian yang ditimbulkan oleh algoritma ketika seseorang memutuskan untuk membebankan biaya yang berbeda kepada mereka atau hasilnya mereka menerima layanan pelanggan yang buruk. Semua bukti yang sedang terjadi dicap "Rahasia dan Milik Proprietary," dan dilindungi dari mata konsumen oleh agen yang bertugas melindungi mereka.

FTC tidak menanggapi permintaan komentar.

Anda dapat membaca petisi lengkap yang diajukan oleh #REPRESENT dan Yayasan Pendidikan Konsumen di sini .

Pembaruan, 25 Juni: Versi artikel sebelumnya menyatakan bahwa Home Depot mengandalkan skor nilai pelanggan yang mengutip penelitian oleh Consumer Education Foundation. Home Depot pada awalnya tidak menanggapi permintaan komentar, tetapi kemudian bersikukuh bahwa hal itu tidak bergantung pada skor apa pun untuk menentukan berapa banyak pelanggan membayar barang. Artikel ini diperbarui untuk menyertakan penolakan Home Depot.

19 Comments

Other Dell Cameron's posts

DOJ Merencanakan Bagian 230 Lokakarya untuk Menjamu 'Keragaman Sudut Pandang' di Pidato Internet DOJ Merencanakan Bagian 230 Lokakarya untuk Menjamu 'Keragaman Sudut Pandang' di Pidato Internet

Departemen Kehakiman AS mengadakan lokakarya bulan depan mencari "beragam sudut pandang" pada Bagian 230 dari Undang-Undang Keterbukaan ...

Insinyur Amazon Bocor Kunci Enkripsi Pribadi.  Analis Luar Menemukan Mereka dalam Menit Insinyur Amazon Bocor Kunci Enkripsi Pribadi. Analis Luar Menemukan Mereka dalam Menit

Insinyur Amazon Web Services (AWS) minggu lalu secara tidak sengaja mempublikasikan data sensitif senilai hampir satu gigabyte, termasuk dokumen pri...

Wanita Terkuat di Amerika menyebut Mark Zuckerberg seorang penjahat.  Facebook Tidak Membantah Wanita Terkuat di Amerika menyebut Mark Zuckerberg seorang penjahat. Facebook Tidak Membantah

Memalukan. Tidak bertanggung jawab Komplikasi. Ini adalah kata-kata Ketua DPR Nancy Pelosi digunakan untuk menggambarkan Facebook dan dewan ekse...

70.000 Foto Baru Perempuan Baru Dibuang di Forum Kejahatan Dunia Maya 70.000 Foto Baru Perempuan Baru Dibuang di Forum Kejahatan Dunia Maya

Lebih dari 70.000 foto pengguna Tinder dibagikan oleh anggota forum kejahatan cyber online, Gizmodo telah belajar, meningkatkan kekhawatiran tentang...

Suggested posts

FDA dan FTC Peringatkan Televangelist Jim Bakker Atas Klaim 'Solusi Perak' Membunuh Coronavirus FDA dan FTC Peringatkan Televangelist Jim Bakker Atas Klaim 'Solusi Perak' Membunuh Coronavirus

Di Jumat, Badan Administrasi Obat dan Makanan Amerika Serikat (FDA) dan Komisi Perdagangan Federal (FTC) mengirim surat peringatan kepada televang...

FTC Mempertimbangkan Langkah-langkah untuk Memblokir Facebook agar Tidak Bergabung dengan Instagram dan Whatsapp: Laporkan FTC Mempertimbangkan Langkah-langkah untuk Memblokir Facebook agar Tidak Bergabung dengan Instagram dan Whatsapp: Laporkan

Komisi Perdagangan Federal sedang mempertimbangkan meminta pengadilan untuk mengajukan a menghentikan rencana CEO Facebook Mark Zuckerberg untuk m...

Kesepakatan Fitbit Google Dilaporkan Akan Diteliti Oleh DOJ Antitrust Office Kesepakatan Fitbit Google Dilaporkan Akan Diteliti Oleh DOJ Antitrust Office

Google Kesepakatan $ 2,1 miliar untuk mengakuisisi produsen pelacak kebugaran Fitbit telah menarik perhatian penegak antimonopoli di Departeme...

Laporkan: Departemen Kehakiman AS untuk Membuka Investigasi Antitrust Facebook Laporkan: Departemen Kehakiman AS untuk Membuka Investigasi Antitrust Facebook

Departemen Kehakiman AS dilaporkan berencana untuk bergabung dengan sekelompok agensi yang sedang menyelidiki Facebook untuk pelanggaran antimonopoli...

Laporan: Awan Besar Masalah Vape Juul Tumbuh, dengan FBI Meluncurkan Investigasi Kriminal Laporan: Awan Besar Masalah Vape Juul Tumbuh, dengan FBI Meluncurkan Investigasi Kriminal

Raksasa e-rokok Juul sudah menghadapi reaksi besar dari tuduhan yang sengaja diiklankan kepada pengguna di bawah umur dan menerapkan taktik pemasara...

Masalah Antitrust Facebook Baru Saja Memburuk Masalah Antitrust Facebook Baru Saja Memburuk

Jaksa Agung New York Letitia James meluncurkan penyelidikan antimonopoli multi-negara ke Facebook pada hari Jumat, menerapkan lapisan baru pengawasa...

Lebih dari Setengah Negara Jaksa Agung Bisa Masuk ke Antitrust Enquiry Terhadap Google Lebih dari Setengah Negara Jaksa Agung Bisa Masuk ke Antitrust Enquiry Terhadap Google

The Washington Post melaporkan pada Selasa y bahwa "lebih dari setengah dari jaksa agung negara bagian" telah menandatangani dan sedang ...

Google Menyetujui untuk Membayar Hingga $ 200 Juta untuk Menyelesaikan Investigasi FTC Youtube: Laporkan Google Menyetujui untuk Membayar Hingga $ 200 Juta untuk Menyelesaikan Investigasi FTC Youtube: Laporkan

Komisi Perdagangan Federal mendenda Google antara $ 150 juta dan $ 200 juta untuk menyelesaikan seluruh kekacauan dengan anak perusahaannya, YouTube...

Ketua FTC: Ya, Kita Bisa Menghancurkan Teknologi Besar, Tapi Hanya Jika Kita Benar-Benar Ingin atau Sesuatu Ketua FTC: Ya, Kita Bisa Menghancurkan Teknologi Besar, Tapi Hanya Jika Kita Benar-Benar Ingin atau Sesuatu

Ketua Komisi Perdagangan Federal, Ketua Joe Simons, mengakui dalam sebuah wawancara pada hari Selasa bahwa mungkin mungkin, mungkin saja, salah satu...

FTC 'Failed Miserably' dalam Menghukum Facebook Dengan Denda $ 5 Miliar, kata Demokrat FTC 'Failed Miserably' dalam Menghukum Facebook Dengan Denda $ 5 Miliar, kata Demokrat

Federal Trade Commission, yang telah menyelidiki Facebook setelah skandal besar-besaran Cambridge Analytica, telah memilih untuk menyetujui pengadaa...

Language