Timor Leste: Konvensi Jenewa, Kecerdasan Buatan dan Masa Depan Peperangan

Oleh Steven Boykey Sidley

POS-KUPANG.COM - ‘Penjualan malapetaka membuat orang berkaca-kaca…(tetapi) mereka yang mengabaikan bencana, saya yakin, mengabaikan fakta obyektif yang ada di hadapan kita. Lagi pula, kita tidak sedang membicarakan tentang menjamurnya sepeda motor dan mesin cuci di sini’ – Mustafa Suleyman, salah satu pendiri DeepMind dan penulis Technology, Power, and the Twenty-first Century’s Greatest Dilemma.

AI (artificial intelligence - kecerdasan buatan) dengan cepat bermutasi menjadi kasus-kasus penggunaan yang tidak pernah kita duga mungkin terjadi beberapa tahun yang lalu, dan kebutuhan untuk membatasinya telah mendapat perhatian ketika kita mencoba untuk mengumpulkan akal sehat dan memutuskan masalah etika dan keselamatan. Ketika skenario ini terungkap, sebuah pemikiran baru dan meresahkan mulai mengakar.

Pemikiran ini berkaitan dengan apa yang dilakukan militer di berbagai negara terhadap AI dan fakta bahwa mereka peduli terhadap kasus penggunaan yang sangat berbeda dari kita semua.

Sebelum menyelidiki pemikiran yang meresahkan ini, kita mungkin harus mengucapkan selamat tinggal pada Konvensi Jenewa yang telah dicapai dengan susah payah dan kemudian diabaikan selama 160 tahun terakhir.

Konvensi pertama diadakan pada tahun 1864, dengan negara-negara yang hadir semuanya menandatangani prinsip perlakuan manusiawi terhadap tentara yang sakit dan terluka di medan perang.

Baca juga: Timor Leste: Dili Ingin Mengotomatiskan Uji Tuntas dengan Kecerdasan Buatan

Tiga perjanjian berikutnya menyusul, pertama, penambahan angkatan bersenjata yang terdampar (1906), kemudian tawanan perang (1926), dan terakhir, warga sipil di zona perang (1949), yang terakhir sebagai respons terhadap kekejaman Perang Dunia 2. Beberapa protokol lagi telah ditambahkan tetapi dokumen tahun 1949 adalah intinya.

Lanskap geopolitik saat ini merupakan bukti menyedihkan atas inisiatif yang sepenuhnya mulia dan kini sebagian besar gagal ini. Bahkan konflik yang paling dangkal sekalipun yang terjadi di Afrika, Timur Tengah, Timor Leste, Ukraina, belum lagi penumpasan brutal terhadap perbedaan pendapat di Korea Utara dan oleh Tiongkok di dalam dan luar negeri, memberikan gambaran yang menyedihkan.

Konvensi Jenewa sebagian besar diabaikan (tidak ada konsekuensi bagi pelanggarannya, selain dari tut-tutting yang dilakukan oleh PBB), sehingga negara-negara yang mencoba untuk mengikuti aturan-aturan tersebut terlihat seperti orang-orang yang asing, bahkan bodoh.

Tampaknya kita menganggap kengerian ini sebagai sesuatu yang paling disesalkan. Kita mengalihkan pandangan kita, atau menatap pembantaian itu, sedikit putus asa dan kemudian melanjutkan urusan kita.

Dan, dalam beberapa kasus, kekejaman bahkan bisa diterima, seperti dalam sebuah penelitian (dikutip di sini) yang menyimpulkan bahwa satu dari empat orang Afrika Selatan menganggap pemerkosaan terkadang dibenarkan sebagai senjata perang.

Yang membawa kita ke AI

Banyak komentar seputar inovasi sehari-hari di bidang AI dipicu oleh informasi yang tersedia untuk umum. Dan ada banyak hal seperti itu. Ini adalah alun-alun pasar yang besar dan semrawut yang dipenuhi dengan teriakan keras, pembualan, dan segala jenis perhiasan intelektual yang dipamerkan.

Pengumuman tentang algoritma, makalah penelitian, penilaian perusahaan, start-up, miliarder baru, perangkat baru, aplikasi pintar dan, tentu saja, banyak ramalan tentang hal-hal yang akan datang, baik dan buruk.

Namun di sektor militer dan pertahanan, ceritanya berbeda. Pekerjaan berlangsung dengan sangat cepat, diam-diam, dalam kerahasiaan yang hampir tertutup, dan dengan pendanaan yang hampir tidak terbatas. Di negara-negara seperti AS dan Tiongkok, serta di Rusia, Korea, Israel, India, Iran, Arab Saudi, dan Eropa.