Mesin Pembunuh Otonom Lebih Berbahaya Dari Yang Kita Pikirkan

Rudal penembak drone penuai. Kredit: YouTube

Seorang mantan pejabat Pentagon memperingatkan bahwa senjata otonom kemungkinan besar tidak akan terkendali dalam situasi dunia nyata berkat kegagalan desain, peretasan, dan manipulasi eksternal. Jawabannya, katanya, adalah untuk selalu menjaga agar manusia tetap “dalam lingkaran”.

Laporan baru, berjudul " Senjata Otonom dan Risiko Operasional ," ditulis oleh Paul Scharre, direktur di Center for a New American Security . Scharre dulu bekerja di kantor Menteri Pertahanan di mana dia membantu militer AS menyusun kebijakannya tentang penggunaan senjata tak berawak dan otonom. Setelah dikerahkan, senjata masa depan ini akan mampu memilih dan melibatkan target yang mereka pilih sendiri, menimbulkan sejumlah pertanyaan hukum, etika, dan moral. Namun seperti yang ditunjukkan Scharre dalam laporan baru, "Mereka juga meningkatkan pertimbangan yang sangat penting terkait keselamatan dan risiko."

Seperti yang ditunjukkan Scharre dengan hati-hati, ada perbedaan antara senjata semi-otonom dan senjata otonom penuh. Dengan senjata semi-otonom, pengontrol manusia akan tetap berada "dalam lingkaran", memantau aktivitas senjata atau sistem persenjataan. Jika itu mulai gagal, pengontrol hanya akan menekan tombol pemutus. Tapi dengan senjata otonom, kerusakan yang bisa ditimbulkan sebelum manusia mampu melakukan intervensi jauh lebih besar. Scharre khawatir bahwa sistem ini rentan terhadap kegagalan desain, peretasan, spoofing, dan manipulasi oleh musuh.

Sistem senjata tanpa manusia di masa depan dapat mencakup drone udara tanpa operator, kendaraan robotik bersenjata otonom , senapan mesin penjaga otomatis , dan sistem penembak jitu otonom .

Scharre melukiskan konsekuensi potensial dalam istilah yang suram:

Jadi kedengarannya seperti pembuatan film sci-fi distopia yang paling mengerikan. Namun, Scharre yakin bahwa beberapa risiko ini dapat dikurangi dan dikurangi, tetapi risiko kecelakaan "tidak pernah dapat sepenuhnya dihilangkan".

Kita masih jauh dari melihat sistem otonom sepenuhnya diterapkan di lapangan, tetapi belum terlalu dini untuk mulai memikirkan potensi risiko — dan manfaatnya. Ini telah berpendapat , misalnya, bahwa sistem otonom dapat mengurangi korban jiwa dan penderitaan di medan perang. Mungkin itu masalahnya, tetapi seperti yang ditunjukkan oleh Scharre dan timnya di Center for a New American Security, risikonya memang serius.

[ Pusat Keamanan Amerika Baru melalui New York Times ]

Suggested posts

Film pendek: R2-D2 jatuh cinta dengan kotak surat biru

Film pendek: R2-D2 jatuh cinta dengan kotak surat biru

Katakan dengan saya: awwwww. Dalam sebuah cerita yang sedikit mirip dengan satu jam pertama Wall-E, film pendek Artoo In Love karya Evan Atherton ini menceritakan sebuah kisah cinta yang lucu dari R2-D2 dan sebuah kotak surat berwarna biru.

Studi Terbesar tentang Kamera Badan Polisi Namun Tidak Menemukan Perubahan Penggunaan Kekuatan atau Keluhan Warga

Studi Terbesar tentang Kamera Badan Polisi Namun Tidak Menemukan Perubahan Penggunaan Kekuatan atau Keluhan Warga

Cuplikan gambar dari kamera tubuh yang menunjukkan penembakan polisi di San Diego. (Gambar: AP) Sebuah studi baru yang penting mengikuti petugas di ibu kota negara tidak menemukan bukti bahwa kamera tubuh mengurangi tuduhan pelanggaran polisi atau penggunaan kekuatan oleh petugas.

Related posts

Salah satu robot polisi yang berpatroli di Washington mengakhiri karirnya dengan melompat ke air mancur

Salah satu robot polisi yang berpatroli di Washington mengakhiri karirnya dengan melompat ke air mancur

Beberapa penyedot debu robot memiliki kecenderungan terdokumentasi untuk menjatuhkan diri ke bawah tangga dan tempat-tempat berbahaya lainnya. Sifat itu tampaknya telah diabadikan pada sepupu mereka yang lebih tua, robot polisi.

Anda Akhirnya Dapat Membeli Emulator Video Game Kayu Genggam Yang Indah

Anda Akhirnya Dapat Membeli Emulator Video Game Kayu Genggam Yang Indah

Beberapa bulan yang lalu desainer Love Hultén membuat kita semua bernafsu dengan konsol game kayu portabelnya yang disebut Pixel Vision yang mengingatkan kita pada Game Boy Advance SP lipat. Dan sebagai tanggapan atas semua umpan balik positif dan iri yang dia dapatkan, dia memutuskan untuk memasukkannya ke dalam produksi dan menjualnya melalui Kickstarter.

Ahli Biologi Menemukan Solusi Gila untuk Jamur Amfibi yang Mematikan itu

Ahli Biologi Menemukan Solusi Gila untuk Jamur Amfibi yang Mematikan itu

Dalam kemenangan pertama dari jenisnya, tim ahli biologi telah menemukan cara membersihkan kolam dari jamur chytrid mematikan yang memusnahkan populasi amfibi di seluruh dunia. (Spoiler: Ini sangat intens).

8 Alasan Mengapa Olimpiade Tokyo Akan Menjadi Yang Paling Futuristik Yang Pernah Kami Lihat

8 Alasan Mengapa Olimpiade Tokyo Akan Menjadi Yang Paling Futuristik Yang Pernah Kami Lihat

Pada tahun 1964, terakhir kali Tokyo menjadi tuan rumah Olimpiade Musim Panas, negara ini mengungkapkan salah satu tetes mikrofon terbesar dalam sejarah transportasi: debut shinkansen, kereta peluru terkenal di dunia yang menjadi ikon Jepang. Kereta berkecepatan tinggi pertama di dunia, memacu teknologi serupa untuk menyebar ke Eropa dan negara-negara Asia Timur lainnya, membuka jalan bagi kereta maglev saat ini dan, bisa dibilang, Hyperloop.

MORE COOL STUFF

'The Bachelorette': Ryan Fox Menjelaskan Mengapa Dia Membawa Notebook Terkenal

'The Bachelorette': Ryan Fox Menjelaskan Mengapa Dia Membawa Notebook Terkenal

Michelle Young mengirim Ryan Fox pulang setelah membaca buku catatannya pada malam 1 'The Bachelorette.' Ryan menjelaskan mengapa dia membawa catatan itu.

3 Resep Makanan Penutup Apel 'Pioneer Woman' yang Wajib Dicoba dari Ree Drummond

3 Resep Makanan Penutup Apel 'Pioneer Woman' yang Wajib Dicoba dari Ree Drummond

Dapatkan kue dengan apel dengan resep 'Pioneer Woman' sederhana dan lezat dari bintang Food Network, Ree Drummond, yang dibintangi oleh buah musiman.

'The Bold and the Beautiful' Sneak Peek: Deacon & Sheila Bekerja Sama Melawan Harapan — Siapa yang Mendapat Sekutu di Steffy

'The Bold and the Beautiful' Sneak Peek: Deacon & Sheila Bekerja Sama Melawan Harapan — Siapa yang Mendapat Sekutu di Steffy

'The Bold and the Beautiful' minggu ini menampilkan tim dengan proporsi epik — yang tidak pernah dilihat sebagian besar penggemar dalam mimpi terliar mereka.

'This Is Us' Musim 6 Menggunakan Rumah Alyson Hannigan untuk Memfilmkan Adegan Penting

'This Is Us' Musim 6 Menggunakan Rumah Alyson Hannigan untuk Memfilmkan Adegan Penting

Alyson Hannigan baru-baru ini mengungkapkan bahwa salah satu lokasi ikonik di 'This Is Us' Season 6 sebenarnya difilmkan di rumahnya di Los Angeles.

Cara Mengubah Nama Anda di Facebook

Cara Mengubah Nama Anda di Facebook

Ingin mengubah nama Anda di Facebook? Sangat mudah dilakukan hanya dalam beberapa langkah sederhana.

7.000 Langkah Adalah 10.000 Langkah Baru

7.000 Langkah Adalah 10.000 Langkah Baru

Jika Anda selalu gagal mencapai target harian 10.000 langkah yang sewenang-wenang itu, kami punya kabar baik. Kesehatan Anda dapat memperoleh manfaat yang sama jika Anda menekan langkah yang lebih sedikit juga.

Mengapa Anda Tidak Dapat Memompa Gas Anda Sendiri di New Jersey?

Mengapa Anda Tidak Dapat Memompa Gas Anda Sendiri di New Jersey?

Garden State adalah satu-satunya negara bagian di AS yang melarang memompa gas Anda sendiri. Apa yang memberi?

Peluang Anda Memukul Rusa Bangkit di Musim Gugur

Peluang Anda Memukul Rusa Bangkit di Musim Gugur

Dan omong-omong, mengemudi saat senja dan saat bulan purnama juga tidak membantu Anda.

Tak Tahu Malu' Emma Kenney Klaim Set Menjadi 'Tempat Lebih Positif' Setelah Keluarnya Emmy Rossum

Tak Tahu Malu' Emma Kenney Klaim Set Menjadi 'Tempat Lebih Positif' Setelah Keluarnya Emmy Rossum

Alumni tak tahu malu Emma Kenney berbicara tentang pengalamannya bekerja dengan Emmy Rossum di serial Showtime.

Bintang Hamilton Javier Muñoz tentang Menjadi Immunocompromised dalam Pandemi: 'Saya Benar-Benar Teror'

Bintang Hamilton Javier Muñoz tentang Menjadi Immunocompromised dalam Pandemi: 'Saya Benar-Benar Teror'

'Tidak ada kesempatan untuk diambil,' Javier Muñoz, yang HIV positif dan selamat dari kanker, mengatakan kepada ORANG.

Rachael Ray Mengatakan Dia Bersyukur 'Menjadi Hidup' Setelah Kebakaran Rumah dan Banjir Apartemen

Rachael Ray Mengatakan Dia Bersyukur 'Menjadi Hidup' Setelah Kebakaran Rumah dan Banjir Apartemen

"Begitu banyak orang menulis surat kepada saya dan menjangkau dan mengatakan bahwa kami juga kehilangan begitu banyak," kata Rachael Ray di Extra.

Freida Pinto Hamil Berbagi Foto dari Baby Shower 'Manis'-nya: 'Saya Merasa Sangat Diberkati dan Beruntung'

Freida Pinto Hamil Berbagi Foto dari Baby Shower 'Manis'-nya: 'Saya Merasa Sangat Diberkati dan Beruntung'

Freida Pinto, yang mengharapkan anak pertamanya dengan tunangan Cory Tran, merayakan si kecil di jalan dengan baby shower outdoor.

Proyek Perangkat Lunak yang Gagal Seperti Tali Dengan Simpul

Semakin banyak orang menarik ke arah yang berbeda, semakin buruk simpulnya

Proyek Perangkat Lunak yang Gagal Seperti Tali Dengan Simpul

“Anda mendapatkan apa yang Anda fokuskan. Anda tidak perlu bekerja lebih keras; itu bukan dengan melakukan lebih banyak jam, itu dengan menjadi lebih fokus dalam jam-jam itu.

Kamu, Sebuah Keajaiban

Siapa yang Meninggalkan?

Kamu, Sebuah Keajaiban

Saya seorang romantis yang putus asa dan saya percaya pada keajaiban Ada keajaiban dalam ungu senja yang jatuh Warna-warni yang mempesona menghiasi pertunjukan matahari terbenam Untuk membuat jerami saat bersinar Ada keajaiban di setiap tetes hujan, Di setiap badai petir Dalam ketenangan keheninganDalam segerombolan awan yang menggumpal Mencintai itu mudah saat kau percaya pada keajaibannyaKau salah satu keajaiban mengejutkan yang aku percayaUntuk itu, mencintaimu itu mudah Sekarang kau terbang pergiTolong bawa semua pesona bersamamuJangan tinggalkan debu ajaibmu bersamakuAku harus berhenti percaya dalam keherananmu.

Bagaimana Saya Mengatur CSS Saya untuk Situs Web Tanpa Kerangka

Dalam 20 tahun pengalaman pengembangan web saya, saya telah mengembangkan pendekatan CSS standar untuk diri saya sendiri yang ingin saya bagikan di artikel ini.

Bagaimana Saya Mengatur CSS Saya untuk Situs Web Tanpa Kerangka

Contoh berikut menunjukkan pendekatan struktural saya, tanpa desain. Jadi artikel tersebut bukan template visual dan tidak menunjukkan desain.

Obrolan kerja | Insinyur perangkat lunak, pelokalan

Ulang tahun kerja

Obrolan kerja | Insinyur perangkat lunak, pelokalan

Saya baru saja melihat sharing teman saya DHL[1], dan saya juga datang untuk merekam dan berbagi pengalaman kerja saya. Apa yang dilakukan Organisasi dan Tim kami? My Amazon Scout [2] adalah mobil robot self-driving, berjalan di trotoar, aplikasi utamanya adalah mengirimkan barang di last mile pinggiran kota Amerika Serikat. Mobil dimuati dengan barang yang akan dikirim, dan ketika sampai di depan pintu rumah, penerima barang akan diberitahu untuk mengambil barangnya. Di Amazon.com, itu termasuk dalam cakupan Layanan Web non-Amazon (AWS). Organisasi lain, Prime Air, menggunakan Drone [3] untuk pengiriman, dan skenario aplikasi kami agak berbeda. Teknologi mobil swakemudi meliputi perangkat keras dan perangkat lunak. Dalam perangkat lunak, pengenalan (Persepsi), lokalisasi (lokalisasi), navigasi (navigasi), dll. terkait dengan mengemudi sendiri. Saya di departemen Lokalisasi. Tujuan utama adalah untuk melacak mobil robot kapan saja. Lokasi dan pengenalan yang akurat dapat membantu robot memahami lingkungan sekitar, dan navigasi dapat digunakan untuk memahami ke mana harus pergi selanjutnya. Biasanya ada banyak sensor di mobil self-driving. Selain GPS, biasanya menggunakan beberapa kamera untuk mengamati lingkungan seperti mata manusia. Contoh: Tesla memiliki 8 kamera. Anda juga dapat menggunakan Lidar untuk mendapatkan peta kedalaman. :Waymo. Kami juga membutuhkan sensor untuk mencapai fungsi self-driving. Perbedaan antara mobil pengiriman self-driving dan mobil self-driving Sepintas, mobil pengiriman self-driving (disebut sebagai mobil pengiriman) sangat mirip dengan mobil self-driving, tetapi sebenarnya ada banyak perbedaan. Kecepatan, rute, dan jangkauan truk pengiriman berbeda. Truk pengiriman berjalan di trotoar dan bergerak dengan kecepatan orang berjalan. Dibandingkan dengan mengemudi berkecepatan tinggi yang harus dihadapi mobil yang mengemudi sendiri, truk pengiriman tidak terlalu berbahaya dan membutuhkan akurasi dan perhitungan. Latensi rendah. Truk pengiriman relatif nyaman untuk diuji. Mobil self-driving perlu menghadapi berbagai pemandangan, seperti kota atau gunung, gurun atau salju. Area yang kita hadapi kecil, dan setiap area mungkin memiliki bentang alam atau iklim yang berbeda, yang dapat dioptimalkan untuk area yang berbeda. Skenario penggunaan berbeda dan biaya berbeda, harga Tesla berbeda dengan harga truk pengiriman, dan sensor yang dapat digunakan juga berbeda. Tesla memiliki kapasitas baterai yang besar dan daya komputasi yang kuat yang dapat didukung. Kendaraan pengiriman perlu mengoptimalkan konsumsi energi dan terus menerus mengurangi biaya perangkat keras untuk mencapai tujuan pengiriman berbiaya rendah. Bagaimana tim kami bekerja? Melihat tim dari perspektif non-teknis, ada karakteristik berikut: Tim lengkap. Sekitar setengah dari tim kami adalah seorang ilmuwan (ilmuwan Terapan) dan setengah dari seorang insinyur (insinyur perangkat lunak), dan semuanya terkait dengan robot latar belakang. Diantaranya ada dari senior hingga baru lulus, dan beberapa anggota telah bergabung sejak awal proyek Pramuka ini, dan mereka memiliki pemahaman yang baik tentang arsitektur dan pengembangan perangkat lunak. Sejak saya bergabung dengan tim, anggotanya tidak banyak berubah, anggotanya stabil, dan operasinya relatif lancar. Bos (manajer) berkomunikasi dengan lancar dengan tim Bos mengadakan pertemuan dengan semua orang 1-1 setiap minggu untuk membahas berbagai masalah yang dihadapi dalam pekerjaan. Karena bosnya berlatar belakang engineering (PhD), dia sering membahas progres proyek, apakah ada kendala (Blocker), atau bagaimana Brainstorm bisa meningkatkan akurasi algoritma, seperti pertemuan mingguan antar lembaga penelitian. dan seorang profesor. Selain mendiskusikan proyek, bos akan menanyakan dari waktu ke waktu apakah dia mengalami masalah, masalah dengan operasi tim atau organisasi, dan sebagainya. Terkadang mereka tidak berani mengeluh, dan jika masalah kecil tidak diselesaikan, mereka mungkin menumpuk menjadi masalah yang lebih besar. Jika bos berdiskusi dengan sikap terbuka dan mendorong tim untuk mengangkat masalah, akan ada kesempatan untuk menyelesaikannya sesegera mungkin. Di antara mereka, seorang rekan mengangkat masalah terkait On-call, dan bos kemudian mendiskusikannya dengan semua orang di rapat tim dan mencapai konsensus.Pendapat negatif sangat berharga Dalam satu pertemuan, bos membuka survei kuesioner yang dilakukan oleh seluruh organisasi untuk didiskusikan dengan semua orang. Amazon juga sangat mementingkan pembentukan Mekanisme (sistem, proses). Setelah menemui masalah, ia akan memikirkan bagaimana memperbaiki prosesnya sehingga kesalahan serupa dapat ditemukan lebih mudah dan lebih awal, dan diperbaiki. Proyek apa yang Anda lakukan? Terutama proyek yang terkait dengan gambar, termasuk meningkatkan algoritme yang ada, meningkatkan tingkat keberhasilan, dan ketersediaan. Ada juga proyek tentang "posisi awal robot", umumnya dikenal sebagai masalah Inisialisasi.

Language