Timor Leste: Konvensi Jenewa, Kecerdasan Buatan dan Masa Depan Peperangan

Oleh Steven Boykey Sidley

POS-KUPANG.COM - ‘Penjualan malapetaka membuat orang berkaca-kaca…(tetapi) mereka yang mengabaikan bencana, saya yakin, mengabaikan fakta obyektif yang ada di hadapan kita. Lagi pula, kita tidak sedang membicarakan tentang menjamurnya sepeda motor dan mesin cuci di sini’ – Mustafa Suleyman, salah satu pendiri DeepMind dan penulis Technology, Power, and the Twenty-first Century’s Greatest Dilemma.

AI (artificial intelligence - kecerdasan buatan) dengan cepat bermutasi menjadi kasus-kasus penggunaan yang tidak pernah kita duga mungkin terjadi beberapa tahun yang lalu, dan kebutuhan untuk membatasinya telah mendapat perhatian ketika kita mencoba untuk mengumpulkan akal sehat dan memutuskan masalah etika dan keselamatan. Ketika skenario ini terungkap, sebuah pemikiran baru dan meresahkan mulai mengakar.

Pemikiran ini berkaitan dengan apa yang dilakukan militer di berbagai negara terhadap AI dan fakta bahwa mereka peduli terhadap kasus penggunaan yang sangat berbeda dari kita semua.

Sebelum menyelidiki pemikiran yang meresahkan ini, kita mungkin harus mengucapkan selamat tinggal pada Konvensi Jenewa yang telah dicapai dengan susah payah dan kemudian diabaikan selama 160 tahun terakhir.

Konvensi pertama diadakan pada tahun 1864, dengan negara-negara yang hadir semuanya menandatangani prinsip perlakuan manusiawi terhadap tentara yang sakit dan terluka di medan perang.

Baca juga: Timor Leste: Dili Ingin Mengotomatiskan Uji Tuntas dengan Kecerdasan Buatan

Tiga perjanjian berikutnya menyusul, pertama, penambahan angkatan bersenjata yang terdampar (1906), kemudian tawanan perang (1926), dan terakhir, warga sipil di zona perang (1949), yang terakhir sebagai respons terhadap kekejaman Perang Dunia 2. Beberapa protokol lagi telah ditambahkan tetapi dokumen tahun 1949 adalah intinya.

Lanskap geopolitik saat ini merupakan bukti menyedihkan atas inisiatif yang sepenuhnya mulia dan kini sebagian besar gagal ini. Bahkan konflik yang paling dangkal sekalipun yang terjadi di Afrika, Timur Tengah, Timor Leste, Ukraina, belum lagi penumpasan brutal terhadap perbedaan pendapat di Korea Utara dan oleh Tiongkok di dalam dan luar negeri, memberikan gambaran yang menyedihkan.

Konvensi Jenewa sebagian besar diabaikan (tidak ada konsekuensi bagi pelanggarannya, selain dari tut-tutting yang dilakukan oleh PBB), sehingga negara-negara yang mencoba untuk mengikuti aturan-aturan tersebut terlihat seperti orang-orang yang asing, bahkan bodoh.

Tampaknya kita menganggap kengerian ini sebagai sesuatu yang paling disesalkan. Kita mengalihkan pandangan kita, atau menatap pembantaian itu, sedikit putus asa dan kemudian melanjutkan urusan kita.

Dan, dalam beberapa kasus, kekejaman bahkan bisa diterima, seperti dalam sebuah penelitian (dikutip di sini) yang menyimpulkan bahwa satu dari empat orang Afrika Selatan menganggap pemerkosaan terkadang dibenarkan sebagai senjata perang.

Yang membawa kita ke AI

Banyak komentar seputar inovasi sehari-hari di bidang AI dipicu oleh informasi yang tersedia untuk umum. Dan ada banyak hal seperti itu. Ini adalah alun-alun pasar yang besar dan semrawut yang dipenuhi dengan teriakan keras, pembualan, dan segala jenis perhiasan intelektual yang dipamerkan.

Pengumuman tentang algoritma, makalah penelitian, penilaian perusahaan, start-up, miliarder baru, perangkat baru, aplikasi pintar dan, tentu saja, banyak ramalan tentang hal-hal yang akan datang, baik dan buruk.

Namun di sektor militer dan pertahanan, ceritanya berbeda. Pekerjaan berlangsung dengan sangat cepat, diam-diam, dalam kerahasiaan yang hampir tertutup, dan dengan pendanaan yang hampir tidak terbatas. Di negara-negara seperti AS dan Tiongkok, serta di Rusia, Korea, Israel, India, Iran, Arab Saudi, dan Eropa.

Dan saya ingin menyampaikan bahwa Konvensi Jenewa tidak banyak dibahas di laboratorium di mana senjata perang baru diimpikan. Hanya ada dua permasalahan yang dipertaruhkan bagi lembaga-lembaga pertahanan di seluruh dunia – bagaimana negara kita akan bertahan jika kita kalah dalam perlombaan ini, dan bagaimana musuh dapat dikalahkan atau dihilangkan – dengan cepat, murah dan menyeluruh – dengan menggunakan alat baru ini.

Dalam skenario terburuk, ada kemungkinan bahwa suatu hari senjata AI akan menyimpang dari maksud aslinya, dipicu oleh bug dalam kode, peretasan, atau (lebih buruk lagi) dengan diam-diam menetapkan sasarannya sendiri.

Ada bisikan-bisikan yang kini muncul. Rumor tentang kemajuan besar dalam persenjataan ofensif otonom berbiaya rendah.

Misalnya, “kawanan drone” AI yang murah – ribuan drone seharga $1.000 bertindak bersama untuk menghindari penolak nyamuk.

Senjata biologis yang dirancang dengan AI dan mampu melumpuhkan atau membunuh jutaan orang dalam hitungan hari, penawarnya hanya tersedia di negara asal mereka.

Tentara robot yang mirip terminator, berjalan melintasi jalan-jalan kota menghancurkan bangunan dengan biaya yang lebih murah dan lebih akurat daripada tentara manusia.

Bot perangkat lunak buatan AI, yang dirancang untuk mematikan pasokan air, listrik, telekomunikasi, dan rantai pasokan, membuat suatu negara bertekuk lutut dalam beberapa minggu.

Jika semua ini terdengar familiar, memang seharusnya demikian. Senjata-senjata semacam ini adalah gambaran umum dari 1.000 acara TV, buku, dan film fiksi ilmiah. Jadi, inilah pemikiran yang meresahkan.

Apa pun yang dibuat oleh pabrik senjata setan kemungkinan besar berada di luar imajinasi kita. Kemampuan AI, yang difokuskan oleh pemerintah yang khawatir akan kerentanannya, pasti akan menghasilkan eksperimen gelap yang jika dibiarkan akan menimbulkan kesengsaraan yang belum pernah terjadi sebelumnya.

Sejujurnya, ada banyak penolakan terhadap pandangan ini. Para analis berbicara dengan gembira tentang menambahkan keharusan moral pada senjata AI untuk meminimalkan penderitaan manusia, tentang hanya menargetkan musuh melalui pembedahan, tentang menerapkan penghalang pertahanan yang dikendalikan oleh AI.

Namun, seluruh momentum pengembangan senjata otonom harus melibatkan pengurangan penilaian manusia dalam pengoperasiannya dan, dalam skenario terburuk, ada kemungkinan (beberapa orang akan mengatakan dengan pasti) bahwa senjata AI suatu hari nanti akan menyimpang dari maksud aslinya, dipicu oleh bug dalam kode, peretasan, atau (lebih buruk lagi) dengan diam-diam menetapkan tujuannya sendiri.

Baca juga: Vatikan Punya Pakar Etika Kecerdasan Buatan dari Ordo Fransiskan

Pertimbangkan hal ini, dari pensiunan Letnan Jenderal Angkatan Udara David Deptula, “Penting untuk diingat bahwa musuh mendapat suara. Bahkan jika kita menghentikan penelitian otonomi dan pengembangan AI militer lainnya, Tiongkok dan Rusia pasti akan melanjutkan penelitian AI mereka sendiri. Kedua negara menunjukkan sedikit minat untuk mewujudkan perjanjian pengendalian senjata di masa depan.”

Atau ini, dari pensiunan Jenderal Angkatan Udara AS Charles Wald, “Saya tidak percaya AS akan membiarkan hal-hal...di mana Anda tidak memiliki kendali manusia. Tapi saya tidak yakin orang lain tidak akan melakukan hal itu.”

Dalam peperangan zero-sum, ketakutan inilah yang mendorong baik strategi maupun taktik. Dan Anda dapat yakin bahwa tidak akan ada salinan Konvensi Jenewa yang disebarluaskan sebagai pedoman moral. DM Steven Boykey Sidley adalah profesor praktik di JBS, Universitas Johannesburg. Buku barunya It's Mine: How the Crypto Industry is Redefining Ownership diterbitkan oleh Maverick 451 di Afrika Selatan dan Legend Times Group di Inggris/UE, tersedia sekarang.

(dailymaverick.co.za)

Ikuti berita POS-KUPANG.COM di GOOGLE NEWS