Microdrones Mematikan Masa Depan Senjata Otonom

Image: Slaughterbots/YouTube

In "Slaughterbots," a film created by a group of academics concerned about lethal autonomous weapons, swarms of explosive-carrying microdrones are used to kill thousands of people.

Pekan ini, pertemuan pertama Konvensi Senjata Konvensional (CCW) Kelompok Pakar Pemerintah mengenai sistem senjata otonom mematikan terjadi di Perserikatan Bangsa-Bangsa di Jenewa. Organisasi seperti Campaign to Stop Killer Robots mendorong PBB untuk bergerak maju dalam regulasi internasional senjata otonom, yang hebat, karena berbicara tentang bagaimana isu-isu ini akan membentuk masa depan robotika dan masyarakat adalah hal yang sangat penting.

Namun, akhir pekan ini, saya menemukan sebuah video yang menurut saya merupakan kontribusi yang mengganggu debat senjata otonom. Video tersebut, yang disebut "Slaughterbots" dan diproduksi dengan dukungan dari Future of Life Institute dari Elon Musk, menggabungkan kekerasan grafis dengan cukup masuk akal teknis untuk membayangkan skenario yang sangat suram: Masa depan yang fiktif di mana otomasi eksplosif yang membawa oksigen membunuh ribuan orang. keliling dunia.

Kami tidak akan menanamkan video di sini karena berisi sejumlah adegan kekerasan, termasuk serangan teroris di kelas (!). Anda bisa menemukannya di situs Future of Life.

Sangat mengecewakan bagi saya bahwa para periset robot dan AI yang saya rasa memiliki banyak penghormatan akan mendukung sensasi semacam ini yang tampaknya dirancang untuk mengejutkan dan menakut-nakuti orang daripada memberikan informasi bermanfaat tentang apa masalahnya sebenarnya. Pesan di sini nampaknya adalah bahwa jika Anda tertarik untuk berdiskusi mengenai masalah ini, atau jika Anda berpikir mungkin ada cara lain yang berpotensi lebih efektif untuk membentuk masa depan senjata otonom selain meminta larangan, maka Anda sedang berpihak pada teroris. 

Ini adalah bentuk retorika yang sangat dikenal yang terbukti efektif bila tujuannya tidak mengkomunikasikan fakta, namun justru mengeksploitasi emosi dan ketakutan. Masalah lain adalah bahwa video seperti ini, dibuat dan dipromosikan oleh akademisi, mungkin membuat masyarakat lebih curiga dan takut pada robot pada umumnya, yang merupakan komunitas robotika yang telah lama diperjuangkan.
 
Secara pribadi, saya bukan untuk "robot pembunuh." Saya bukan untuk "senjata otonom selain kendali manusia yang berarti," juga. Saya merasa sulit untuk mendukung larangan langsung pada saat ini karena menurut saya hal itu akan menjadi solusi yang berpotensi tidak efektif untuk masalah kompleks yang belum sepenuhnya dicirikan. 

 Pakar AI dan ahli kontrol senjata masih memperdebatkan apa, khususnya, harus diatur atau dilarang, dan bagaimana hal itu akan diberlakukan. Mengatakan "kami memiliki kesempatan untuk mencegah masa depan yang baru Anda lihat," sebagai profesor UC Berkeley Stuart Russell, salah satu pencipta "Slaughterbots," yang ada di akhir video, adalah penyederhanaan yang berlebihan - menurut pendapat saya, sebuah larangan Senjata otonom tidak akan mencegah miniaturisasi pesawat tak berawak, tidak akan mencegah kemajuan teknologi pengenalan wajah, dan sepertinya tidak akan mencegah integrasi keduanya, yang merupakan skenario yang "Slaughterbots" sajikan.

Ketika ditanya apakah film ini mengandalkan rasa takut, salah satu kolega Russell, Toby Walsh, seorang profesor AI di University of New South Wales, tidak setuju. "Bukan takut-mongering," katanya. "Duta Besar Rusia untuk PBB hanya mengatakan kepada pertemuan CCW bahwa kita tidak perlu khawatir tentang senjata otonom yang mematikan karena terlalu jauh sehingga perlu dikhawatirkan. Sebaliknya, film ini dirancang untuk menunjukkan seberapa dekat kita dengan senjata otonom. Ini menunjukkan apa yang terjadi jika Anda mengumpulkan beberapa teknologi yang ada dan penyalahgunaan yang dapat dilakukan oleh teknologi semacam itu. "

Dua tahun yang lalu, saya menanggapi surat terbuka pertama yang meminta larangan senjata otomatik yang menyinggung dengan menghadirkan perspektif alternatif mengapa senjata otonom juga bermanfaat. Russell dan Walsh, bersama dengan profesor MIT Max Tegmark, dengan ramah menanggapi sebuah artikel yang diterbitkan di IEEE Spectrum, yang dimulai dengan yang berikut ini:

    "Kami menyambut kontribusi Evan Ackerman untuk diskusi mengenai larangan yang diajukan pada senjata otonom yang menyinggung. Ini adalah masalah yang kompleks dan ada argumen menarik di kedua sisi yang perlu ditimbang dengan hati-hati. "

Saya sangat setuju. Setelah diskusi ini sekarang adalah cara terbaik untuk bekerja menuju masa depan yang lebih damai, tapi untuk melakukan itu, kita harus berdiskusi, tidak membuat video menakutkan yang dirancang untuk menjelekkan orang yang tidak kita setujui sementara memperkuat persepsi yang tidak realistis dan semakin negatif bahwa banyak orang sudah punya tentang robotika.

Referensi : https://spectrum.ieee.org/