Metapos.id, Jakarta – Sekretaris Jenderal PBB Antonio Guterres menyerukan langkah bersama untuk mengelola berbagai risiko kecerdasan buatan (AI), termasuk melalui pembentukan Kerangka Kerja Manajemen Risiko AI multilateral.
Seruan tersebut disampaikan Guterres dalam pidato pembukaan Debat Umum Sidang Majelis Umum PBB ke-81.
“Selama berabad-abad, kekuatan berasal dari wilayah. Kemudian industri. Lalu keuangan. Kini, kekuatan semakin bersumber dari data, kapasitas komputasi, dan algoritma. Kekuatan baru ini sangat terkonsentrasi. Perkembangannya sangat cepat, serta melaju mendahului kemampuan kita untuk memahami seluruh dampaknya,” ujar Guterres.
Menurut Guterres, persoalan utama bukan terletak pada teknologi AI itu sendiri, melainkan penggunaan teknologi tanpa akuntabilitas, kemampuan tanpa pengawasan, serta pengambilan keputusan tanpa transparansi.
Ia menilai pemerintah memiliki tanggung jawab untuk melindungi masyarakat dan negara dengan kemampuan AI terbesar memiliki tanggung jawab lebih besar terhadap umat manusia.
Guterres juga membandingkan kebutuhan pengelolaan risiko AI dengan mekanisme yang dibangun negara-negara rival selama Perang Dingin untuk mengurangi kesalahpahaman, mengelola eskalasi, dan mencegah bencana terkait persenjataan nuklir.
“Negara-negara yang memimpin revolusi teknologi ini harus berbagi informasi mengenai risiko keselamatan yang muncul, bekerja sama dalam pengujian dan evaluasi, serta mengupayakan langkah pengamanan bersama untuk melindungi kita semua,” ucapnya.
Menurut dia, koordinasi global diperlukan karena dampak AI dirasakan oleh seluruh negara dan PBB menjadi wadah bagi setiap negara untuk terlibat dalam pembahasan masa depan teknologi tersebut.
Melalui Global Digital Compact, Dialog Tata Kelola AI Global, serta Panel Ilmiah Internasional Independen tentang AI, PBB telah membangun sejumlah mekanisme untuk mendukung tata kelola AI berbasis kerja sama dan bukti.
Guterres menyebut negara-negara anggota PBB perlu mendorong pengembangan AI secara bertanggung jawab serta membentuk Kerangka Kerja Manajemen Risiko AI multilateral dengan pengawasan yang kredibel dan independen.
“AI harus dibentuk oleh umat manusia, bersama umat manusia, dan demi kepentingan seluruh umat manusia. Anak-anak tidak boleh dijadikan objek uji coba bagi sistem yang berjalan tanpa aturan. Keputusan hidup-mati tidak boleh diserahkan kepada mesin. Robot-robot pembunuh tidak boleh memiliki tempat dalam masa depan kita,” tandasnya.
