Roadmap AI untuk Ruang Digital Aman

POS-KUPANG.COM, JAKARTA -Lonjakan konten deepfake dan konten negatif menjadi alarm bagi pembuat kebijakan dan pelaku industri.

Data Sensity AI menunjukkan peningkatan konten deepfake hingga 550 persen dalam lima tahun terakhir.

Angka yang menegaskan bahwa ancaman deepfake bukan sekadar proyeksi, melainkan kenyataan yang terus menguat.

Pakar dan Praktisi IT Oskar Riandi menegaskan bahwa antisipasi terhadap deepfake harus
dilakukan dari berbagai sisi yaitu teknologi, edukasi, dan regulasi. ‘’Pertama, sisi teknologi, kita butuh teknologi deteksi deepfake (deepfake debunking). Harus disiapkan sejalan dengan semakin berkembangnya teknologi deepfake. Kedua, literasi digital masyarakat harus ditingkatkan,’’ujar Oskar.

‘’Masyarakat tidak boleh langsung percaya dan men-share konten tanpa verifikasi. Ketiga,
regulasi yang jelas tapi tidak menghambat inovasi. Perlu semacam digital signature yang
diterbitkan bersamaan dengan audio dan/atau video yang degenerate menggunakan Artificial Intelligence (genAI),’’sambungnya.

Baca juga: Opini - Internet dan AI, Empat Strategic Initiative Memperkuat Pers Indonesia

Oskar menjelaskan, digital signature atau tanda tangan digital dapat berfungsi sebagai penanda keaslian konten yang dibuat dengan AI, agar publik dapat membedakan mana yang otentik dan mana yang manipulatif. Langkah ini, katanya, dapat membantu mencegah penyalahgunaan serta memperkuat kepercayaan publik terhadap konten digital.

Ancaman yang ditimbulkan deepfake sangat beragam dan berdampak luas. Menurut Oskar,
dampak itu meliputi kerusakan reputasi, misalnya audio atau video palsu pejabat yang bisa
menimbulkan kerusakan berkepanjangan, hingga ancaman terhadap stabilitas politik.

‘’Kedua, dalam konteks politik, ini bisa mengancam demokrasi. Kita sudah lihat di beberapa
negara, deepfake digunakan untuk manipulasi opini publik menjelang pemilu. Di Indonesia
dengan 270 juta penduduk dan penetrasi media sosial yang tinggi, potensi penyebarannya
sangat cepat,’’ ungkapnya.

Dampak lain adalah aspek kemanusiaan: korban deepfake pornografi yang mengalami trauma psikologis berat.

“Ini bukan sekadar kejahatan siber, tapi kejahatan kemanusiaan,” kata Oskar.

Ancaman ekonomi juga nyata, seperti penipuan finansial berbasis deepfake yang meniru suara Chief Executive Officer (CEO) hingga memerintahkan transfer dana, serta potensi penggunaan untuk operasi intelijen asing.

‘’Kelima, ancaman keamanan nasional. Deepfake dapat digunakan untuk operasi intelijen asing, disinformasi strategis, atau bahkan memicu konflik antar negara,’’imbuhnya.

Fenomena information snacking memperparah keadaan: publik kini sering mengonsumsi
potongan informasi tanpa konteks lengkap, sementara algoritma platform memperkuat echo chamber. Hal ini membuat misinformasi cepat menyebar dan sulit dikendalikan.

‘’Ini adalah fenomena information snacking; orang mengkonsumsi informasi dalam potongan-potongan kecil, seringkali tanpa konteks yang lengkap/komprehensif. Ditambah algoritma media sosial yang memperkuat echo chamber, ini jadi resep sempurna untuk misinformasi,’’terangnya.

Dari sisi solusi, Oskar menekankan kombinasi teknologi dan edukasi. Di tingkat teknis,
pengembangan sistem deepfake debunking penting termasuk notifikasi konteks saat pengguna hendak membagikan potongan konten: “Hati-hati, konten ini belum terverifikasi” atau “Ini potongan dari video yang lebih panjang, lihat konteks lengkapnya.”