Negara-Negara Debat Masa Depan Senjata AI di PBB

Negara-negara berkumpul di Majelis Umum PBB di New York pada hari Senin untuk membahas masa depan senjata otonom yang dikontrol AI dan potensi regulasi yang mengatur penggunaannya. Para ahli memperingatkan tentang urgensi yang semakin meningkat, mengutip baik kurangnya konsensus internasional dan waktu yang terbatas.

Menurut Reuters, AI sudah memainkan peran signifikan dalam konflik saat ini, terutama di wilayah seperti Ukraina dan Gaza. Beberapa bulan yang lalu, Ukraina mengungkapkan bahwa mereka telah mengumpulkan sekitar 2 juta jam rekaman medan perang untuk melatih sistem AI.

Kerangka regulasi untuk teknologi AI kesulitan untuk mengimbangi perkembangan. Meskipun diskusi tentang senjata otonom telah berlangsung di Konvensi tentang Senjata Konvensional Tertentu (CCW) di Jenewa sejak 2014, hingga saat ini belum ada regulasi global yang mengikat telah dibentuk.

Sekretaris Jenderal PBB, António Guterres, menetapkan 2026 sebagai target untuk mencapai konsensus internasional tentang kerangka hukum baru.

“Waktu benar-benar semakin menipis untuk menempatkan beberapa batas pengaman sehingga skenario buruk yang diperingatkan oleh beberapa ahli terkemuka tidak terjadi,” kata Alexander Kmentt, kepala kontrol senjata di kementerian luar negeri Austria, kepada Reuters.

Selain senjata otonom, pertemuan minggu ini juga akan membahas topik kritis lainnya seperti hak asasi manusia dan kekhawatiran etis, serta keterlibatan aktor non-negara. Meskipun sebagian besar negara mendukung pembuatan kerangka kerja global yang mengikat, beberapa negara lainnya—seperti China, Amerika Serikat, India, dan Rusia—memilih untuk mengandalkan hukum internasional yang ada atau pedoman nasional.

Beberapa organisasi, termasuk Human Rights Watch, telah menyatakan kekhawatiran atas penyebaran senjata otonom yang tidak diatur di berbagai wilayah. Future of Life Institute telah mengidentifikasi sekitar 200 sistem senjata otonom yang digunakan di lokasi seperti Afrika, Timur Tengah, dan Ukraina.

“Kami umumnya tidak mempercayai industri untuk mengatur diri sendiri… Tidak ada alasan mengapa perusahaan pertahanan atau teknologi harus lebih layak dipercaya,” kata aktivis Laura Nolan dari Stop Killer Robots kepada Reuters.

Penggunaan AI dan sistem otonom untuk mengembangkan senjata semakin mendapatkan tempat di industri teknologi. Google mencabut larangan penggunaan AI untuk senjata beberapa bulan yang lalu, peneliti Cina telah menggunakan model Llama dari Meta untuk aplikasi militer, dan startup Theseus baru-baru ini mengumpulkan $4.3 juta untuk mengembangkan drone otonom.