Timor Leste: Konvensi Jenewa, Kecerdasan Buatan dan Masa Depan Peperangan

Dan saya ingin menyampaikan bahwa Konvensi Jenewa tidak banyak dibahas di laboratorium di mana senjata perang baru diimpikan. Hanya ada dua permasalahan yang dipertaruhkan bagi lembaga-lembaga pertahanan di seluruh dunia – bagaimana negara kita akan bertahan jika kita kalah dalam perlombaan ini, dan bagaimana musuh dapat dikalahkan atau dihilangkan – dengan cepat, murah dan menyeluruh – dengan menggunakan alat baru ini.

Dalam skenario terburuk, ada kemungkinan bahwa suatu hari senjata AI akan menyimpang dari maksud aslinya, dipicu oleh bug dalam kode, peretasan, atau (lebih buruk lagi) dengan diam-diam menetapkan sasarannya sendiri.

Ada bisikan-bisikan yang kini muncul. Rumor tentang kemajuan besar dalam persenjataan ofensif otonom berbiaya rendah.

Misalnya, “kawanan drone” AI yang murah – ribuan drone seharga $1.000 bertindak bersama untuk menghindari penolak nyamuk.

Senjata biologis yang dirancang dengan AI dan mampu melumpuhkan atau membunuh jutaan orang dalam hitungan hari, penawarnya hanya tersedia di negara asal mereka.

Tentara robot yang mirip terminator, berjalan melintasi jalan-jalan kota menghancurkan bangunan dengan biaya yang lebih murah dan lebih akurat daripada tentara manusia.

Bot perangkat lunak buatan AI, yang dirancang untuk mematikan pasokan air, listrik, telekomunikasi, dan rantai pasokan, membuat suatu negara bertekuk lutut dalam beberapa minggu.

Jika semua ini terdengar familiar, memang seharusnya demikian. Senjata-senjata semacam ini adalah gambaran umum dari 1.000 acara TV, buku, dan film fiksi ilmiah. Jadi, inilah pemikiran yang meresahkan.

Apa pun yang dibuat oleh pabrik senjata setan kemungkinan besar berada di luar imajinasi kita. Kemampuan AI, yang difokuskan oleh pemerintah yang khawatir akan kerentanannya, pasti akan menghasilkan eksperimen gelap yang jika dibiarkan akan menimbulkan kesengsaraan yang belum pernah terjadi sebelumnya.

Sejujurnya, ada banyak penolakan terhadap pandangan ini. Para analis berbicara dengan gembira tentang menambahkan keharusan moral pada senjata AI untuk meminimalkan penderitaan manusia, tentang hanya menargetkan musuh melalui pembedahan, tentang menerapkan penghalang pertahanan yang dikendalikan oleh AI.

Namun, seluruh momentum pengembangan senjata otonom harus melibatkan pengurangan penilaian manusia dalam pengoperasiannya dan, dalam skenario terburuk, ada kemungkinan (beberapa orang akan mengatakan dengan pasti) bahwa senjata AI suatu hari nanti akan menyimpang dari maksud aslinya, dipicu oleh bug dalam kode, peretasan, atau (lebih buruk lagi) dengan diam-diam menetapkan tujuannya sendiri.

Baca juga: Vatikan Punya Pakar Etika Kecerdasan Buatan dari Ordo Fransiskan

Pertimbangkan hal ini, dari pensiunan Letnan Jenderal Angkatan Udara David Deptula, “Penting untuk diingat bahwa musuh mendapat suara. Bahkan jika kita menghentikan penelitian otonomi dan pengembangan AI militer lainnya, Tiongkok dan Rusia pasti akan melanjutkan penelitian AI mereka sendiri. Kedua negara menunjukkan sedikit minat untuk mewujudkan perjanjian pengendalian senjata di masa depan.”

Atau ini, dari pensiunan Jenderal Angkatan Udara AS Charles Wald, “Saya tidak percaya AS akan membiarkan hal-hal...di mana Anda tidak memiliki kendali manusia. Tapi saya tidak yakin orang lain tidak akan melakukan hal itu.”

Dalam peperangan zero-sum, ketakutan inilah yang mendorong baik strategi maupun taktik. Dan Anda dapat yakin bahwa tidak akan ada salinan Konvensi Jenewa yang disebarluaskan sebagai pedoman moral. DM Steven Boykey Sidley adalah profesor praktik di JBS, Universitas Johannesburg. Buku barunya It's Mine: How the Crypto Industry is Redefining Ownership diterbitkan oleh Maverick 451 di Afrika Selatan dan Legend Times Group di Inggris/UE, tersedia sekarang.

(dailymaverick.co.za)

Ikuti berita POS-KUPANG.COM di GOOGLE NEWS