Kecerdasan buatan (AI) berkembang pesat, menimbulkan pertanyaan tentang bagaimana masyarakat dan pemerintah dapat memanfaatkan manfaatnya sekaligus mengelola risiko yang seringkali melampaui batas negara.
Kekhawatiran ini semakin meningkat setelah seorang mantan peneliti di perusahaan AI Anthropic memperingatkan pada tanggal 8 September bahwa AI dapat menimbulkan ancaman eksistensial bagi umat manusia .
Bagi PBB, cara terbaik untuk mengatasi risiko global AI adalah dengan menyatukan negara-negara untuk mengadopsi prinsip dan komitmen bersama tentang tata kelola AI. “ Tindakan nasional sangat penting, tetapi koordinasi global mutlak diperlukan,” kata Sekretaris Jenderal PBB António Guterres pada hari Rabu.
PBB telah berupaya selama beberapa tahun untuk menyediakan forum di mana negara-negara dapat mengembangkan pemahaman bersama tentang teknologi AI dan membahas bagaimana mereka dapat bekerja sama – dan menyediakan kerangka peraturan – mengenai isu-isu seperti keselamatan, hak asasi manusia, dan kesenjangan dalam akses.
Pengembangan berbasis aturan
Upaya PBB saat ini terkait tata kelola AI berakar dari Pakta Digital Global , yang diadopsi oleh Negara-negara Anggota pada tahun 2024 sebagai bagian dari Pakta Masa Depan PBB , tepat dua tahun yang lalu.
Pakta tersebut menyerukan kerja sama internasional dalam bidang AI dan mengusulkan dua mekanisme baru: sebuah panel ilmiah independen untuk menilai risiko dan peluang AI, dan dialog global tahunan di mana pemerintah dan pemangku kepentingan lainnya dapat mengoordinasikan pendekatan terhadap tata kelola AI.
Pada Agustus 2025, Majelis Umum PBB – atau yang biasa kita sebut UNGA – secara resmi menetapkan keduanya.
Panel Ilmiah Internasional Independen tentang AI bertujuan untuk memberikan penilaian independen kepada pemerintah mengenai apa yang diketahui – dan apa yang belum diketahui – tentang teknologi yang berkembang pesat ini .
Sementara itu, Dialog Global tentang Tata Kelola AI mempertemukan pemerintah dan pemangku kepentingan lainnya untuk membahas kerja sama internasional, berbagi pengalaman, dan berupaya mencapai kompatibilitas yang lebih besar antara berbagai pendekatan terhadap tata kelola AI.
Majelis Umum merancang kedua lembaga tersebut untuk saling melengkapi: Panel Ilmiah menyediakan bukti, dan negara-negara memutuskan pada Dialog Global apa yang harus dilakukan sebagai tanggapan.
Laporan pendahuluan pertama dari Panel Ilmiah , yang dirilis pada 1 Juli, menyimpulkan bahwa kemampuan AI berkembang pesat – terutama di bidang-bidang seperti penalaran, pengkodean, dan sains – menciptakan peluang yang signifikan.
Laporan tersebut juga mengidentifikasi risiko-risiko seperti disinformasi, diskriminasi, pelanggaran privasi, serangan siber, dan apa yang disebut “kecerdasan super” yang dapat menjadi sulit dikendalikan.
“ Kita membutuhkan pemahaman bersama tentang bagaimana memajukan pengembangan AI yang aman, terjamin, dan bertanggung jawab – sambil mengidentifikasi kapan sistem yang semakin canggih mungkin memerlukan pengamanan yang lebih kuat, atau langkah-langkah tambahan untuk mengelola potensi risiko,” kata Guterres dalam pidatonya kepada media dunia di New York sebelum Sidang Umum PBB.
Berupaya mewujudkan batasan-batasan AI
Upaya PBB ini muncul ketika diskusi beralih dari apakah AI harus diatur, ke pertanyaan tentang perlindungan apa yang harus diterapkan.
Pada hari Rabu, Bapak Guterres menyerukan kerja sama internasional untuk memastikan bahwa pengembangan AI tetap aman, terjamin, dan bertanggung jawab . Beliau menambahkan bahwa upaya sukarela untuk memperlambat pengembangan AI tidak akan cukup jika upaya tersebut terisolasi, tidak dapat diverifikasi, atau diterapkan secara tidak merata.
Ketika ditanya tentang bagaimana PBB dapat menyelenggarakan pertemuan puncak sebagai bagian dari proses yang mengarah pada regulasi yang efektif bagi umat manusia, ia mengatakan bahwa hal itu tidak dapat dilakukan minggu depan – tetapi harus segera terjadi, dengan “keterlibatan semua pihak” dari sektor publik, swasta, ilmiah, dan masyarakat sipil.
“ Jika kita percaya bahwa pengembangan AI harus diperlambat ketika risikonya menjadi terlalu besar, kita membutuhkan lebih dari sekadar niat baik ,” katanya.
Sekretaris Jenderal telah menyerukan Janji Keamanan Anak dalam AI dan Dana Global untuk AI, yang akan mendukung negara-negara berkembang dalam membangun infrastruktur dan kapasitas AI.
Ia juga menekankan perlunya batasan-batasan yang membuat AI “aman, transparan, akuntabel, dengan martabat manusia sebagai pusatnya.”
Meskipun pemerintah nasional dan regional membuat keputusan sendiri tentang regulasi AI, peran PBB adalah untuk mempertemukan pemerintah-pemerintah ini, menyediakan dasar ilmiah untuk diskusi, dan mengidentifikasi area untuk kerja sama internasional.
AI di Sidang Umum PBB
Beberapa sumber diplomatik yang dikutip dalam laporan berita berspekulasi bahwa Dewan Keamanan akan membahas kecerdasan buatan selama pekan tingkat tinggi tersebut.
Di Markas Besar PBB, di sela-sela Debat Umum – yang kekhawatiran tentang AI pasti akan menjadi sorotan utama – Zona Media SDG PBB akan menyelenggarakan acara pada tanggal 21 September, dan rangkaian acara AI dan Pembangunan Manusia akan mencapai puncaknya dengan diskusi pada tanggal 23 September. Kedua acara ini akan berfokus pada hubungan antara AI dan peran serta manusia.
Dalam konferensi persnya pada hari Rabu, Bapak Guterres menggarisbawahi bahwa AI akan menjadi “topik utama” dalam diskusinya dengan para pemimpin dunia minggu depan.
Dengan membandingkan perkembangan AI dengan perlombaan senjata era Perang Dingin antara AS dan Uni Soviet, Sekretaris Jenderal menyerukan kerja sama antara negara-negara terdepan dalam bidang AI – termasuk AS dan Tiongkok – untuk memperlambat perkembangan AI sementara risiko terus dinilai .
“Negara-negara yang memiliki kapasitas tertinggi di bidang AI terdepan – menurut saya mereka harus membangun mekanisme kontak, melakukan pertukaran informasi, dan (menciptakan) beberapa batasan bersama untuk menghindari persaingan yang merugikan yang suatu hari nanti dapat menyebabkan bencana besar di tingkat global,” kata Guterres.
Dengan mekanisme ilmiah dan diplomatik yang kini telah tersedia, PBB akan terus berupaya untuk mengubah kerja sama tersebut menjadi tindakan nyata seiring dengan semakin kuatnya kecerdasan buatan (AI).
