Metapos.id, Jakarta – Sejumlah peneliti kecerdasan buatan atau AI kembali memperingatkan pemerintah agar bersiap menghadapi potensi “ledakan kecerdasan” akibat perkembangan teknologi AI yang semakin cepat.
Peringatan tersebut disampaikan melalui riset berjudul Bagaimana jika otomatisasi R&D AI memicu ledakan kecerdasan? yang melibatkan 22 peneliti. Di antaranya terdapat Yoshua Bengio dan Geoffrey Hinton yang dikenal sebagai tokoh penting dalam perkembangan AI modern.
Dilansir dari berbagai sumber Riset tersebut juga melibatkan salah satu pendiri Anthropic Jack Clark dan Kepala Ilmuwan OpenAI Jakub Pachocki. Penelitian itu diterbitkan di jurnal Cambridge Programme on AI Science & Policy (CASP), dikutip dari berbagai sumber, Rabu (30/09/2026).
Para peneliti mendesak pembuat kebijakan segera mengambil langkah sebelum perkembangan AI memasuki fase yang sulit dikendalikan.
Istilah “ledakan kecerdasan” dalam riset tersebut merujuk pada percepatan drastis kemampuan AI yang dipicu oleh AI itu sendiri melalui recursive self-improvement (RSI). Proses tersebut memungkinkan AI membantu melakukan penelitian dan pengembangan AI secara otomatis.
Menurut para peneliti, otomatisasi R&D AI berpotensi membuat satu pengembang menjalankan tenaga kerja yang setara dengan jutaan peneliti manusia terbaik.
“Ledakan kecerdasan buatan bisa menjadi perkembangan teknologi paling penting dalam sejarah manusia, memadatkan kemajuan bertahun-tahun menjadi beberapa bulan atau kurang, mengancam kendali manusia atas sistem AI, dan sangat mengikis pengawasan kekuasaan di dalam dan antar negara, perusahaan, dan cabang pemerintahan,” tulis para peneliti di studi tersebut.
Tiga Prioritas Kebijakan
Para peneliti merekomendasikan tiga prioritas kepada pemerintah. Pertama, mewajibkan laporan kemajuan yang transparan terkait penelitian dan pengembangan AI.
Kedua, mencari cara untuk membatasi perkembangan AI yang berlangsung sangat cepat. Ketiga, menyiapkan langkah adaptasi jika ledakan kecerdasan benar-benar terjadi.
Anthropic dan OpenAI disebut telah sepakat meminta evaluator atau auditor independen untuk menilai model mereka setelah sebelumnya memperingatkan bahwa pengembangan AI telah melewati sejumlah batas keamanan.
Anthropic menyatakan AI kini menghasilkan sekitar 80 persen kode programnya sendiri. Sementara OpenAI menggunakan agen AI otonom dalam sejumlah bidang, termasuk pelatihan model baru.
Penelitian tersebut menyebut otomatisasi perangkat lunak AI berpotensi mempercepat pengembangan sistem yang sangat mumpuni atau superhuman AI system.
Jika terjadi, ledakan kecerdasan dapat membawa dampak positif, termasuk kemajuan di bidang medis dan teknologi. Namun, para peneliti juga mengidentifikasi sejumlah risiko, seperti ancaman biologis dan siber, hilangnya kendali serta keterlibatan manusia, dan potensi perang antarnegara.
Para peneliti menekankan bahwa risiko tersebut belum tentu terjadi. Terobosan teknologi juga dapat membutuhkan waktu untuk diterapkan.
Di sisi lain, AI juga berpotensi membantu mempercepat mitigasi risiko dan menjaga arah perkembangan teknologi. Karena itu, mereka menilai kesiapan pemerintah perlu menjadi salah satu prioritas.
Langkah yang diusulkan mencakup transparansi perkembangan AI, pembatasan kecepatan pengembangan, kerja sama untuk menghentikan proyek tertentu dengan pusat data, isolasi sistem otomatis, hingga penyusunan rencana tanggap darurat.
“Peningkatan produktivitas dari otomatisasi R&D AI belum mencapai ambang batas yang dibutuhkan untuk memicu ledakan kecerdasan, tetapi peningkatan dari sistem yang lebih baru kemungkinan mendekati ambang batas tersebut,” tulis para peneliti.
