RIAUREALITA.COM — Anggota AI Safety Institute Indonesia (AISII) Alva Erwin menilai potensi AI mengancam eksistensi manusia memang nyata jika dibiarkan tanpa kendali. Penilaian itu muncul di tengah wacana sejumlah perusahaan AI asal Amerika Serikat seperti OpenAI, Anthropic, dan Grok untuk memperlambat pengembangan teknologi mereka. Erwin menyebut perlambatan laju AI justru bisa memberi ruang bagi regulator dan industri untuk menyiapkan sistem keamanan sebelum teknologinya melompat terlalu jauh.
Pernyataan itu disampaikan Erwin kepada CNNIndonesia.com pada Minggu (21/9), merespons wacana sejumlah perusahaan AI asal Amerika Serikat seperti OpenAI, Anthropic, dan Grok untuk memperlambat pengembangan teknologi besutannya.
Spektrum Risiko dari Halusinasi hingga Ancaman Katastropik
Erwin menilai spektrum risiko pada AI bergerak dari level rendah hingga berujung risiko katastropik (existential risk) yang dapat mengancam keberadaan manusia. Menurutnya, risiko ini harus dikendalikan supaya tidak menimbulkan dampak yang tidak diinginkan.
Ancaman tersebut terbagi dalam empat domain utama. Pertama, masalah internal model (intrinsic risk) seperti halusinasi dan bias, serta potensi terciptanya super-intelligence.
Kedua, masalah penyalahgunaan dengan niat jahat (misuse) untuk serangan siber atau disinformasi seperti deepfake. Ketiga, dampak sosio-ekonomi-lingkungan (impact) berupa disrupsi tenaga kerja, krisis privasi, hingga konsumsi energi dan air yang sangat tinggi.
Keempat, kerapuhan sistem dan lambatnya regulasi (systemic & governance risks).
Mengapa Perlambatan AI Dinilai Perlu
Dengan memperlambat laju pengembangan AI, Erwin menilai berbagai pihak bisa mempersiapkan diri. Mulai dari masyarakat, industri, ilmuwan AI, hingga regulator.
"Memperlambat laju pengembangan AI dapat memberi ruang dari berbagai perspektif stakeholders seperti masyarakat pengguna maupun masyarakat terdampak, industri pengembang AI, AI scientist serta pembuat kebijakan untuk membuat regulasi, etika, dan sistem keamanan yang dibutuhkan, sebelum teknologinya melompat terlalu jauh di luar kendali kita," ujar Erwin.
Kekhawatiran soal ancaman AI ini, kata Erwin, tertuang dalam sejumlah riset. Secara teoritis, sistem cerdas memiliki kecenderungan untuk memastikan tercapainya tujuan yang telah ditetapkan.
Pencapaian tujuan itu bisa saja menggunakan cara yang keliru dan berisiko merugikan manusia. Risiko tersebut semakin besar jika teknologi ini memiliki kemampuan recursive self-improvement, yakni model AI mampu meriset, memperbaiki, serta melatih dirinya sendiri tanpa campur tangan manusia.
Kondisi itu dapat memicu ledakan kecerdasan yang di luar kendali manusia.
Dinamika Geopolitik AS-China dan Tudingan Fearmongering
Erwin menilai perdebatan mengenai ancaman AI tak lepas dari dinamika geopolitik antara Amerika Serikat dan China. Menurutnya, perdebatan ini kerap memicu pemikiran bahwa narasi bahaya AI dan upaya perlambatan hanyalah bentuk menakut-nakuti atau fearmongering.
"Seruan pembatasan dan perlambatan riset ini kerap dicurigai sebagai upaya untuk menghalangi kemajuan dari pihak lawan, sekaligus menjaga keunggulan kompetitif industri tertentu di kancah persaingan global," katanya.
Dampak ke Industri dan Ekosistem Open Source
Dari sisi industri, perlambatan pengembangan model AI paling mutakhir (frontier model) oleh sejumlah perusahaan besar dinilai dapat mengubah arah persaingan teknologi AI.
Menurut Erwin, pengembangan AI diperkirakan tidak lagi semata-mata berfokus memperbesar ukuran dan kemampuan model. Arahnya bergeser menjadi upaya membuat model lebih efisien dan andal.
"Industri akan beralih dari sekadar memperbesar ukuran model (frontier scalling) menuju optimalisasi model yang lebih ramping, arsitektur RAG yang presisi serta metode kompresi (quantization) untuk meningkatkan efisiensi," ujarnya.
Perlambatan laju AI juga berpotensi mendorong penerapan pengawas independen mirip regulator perbankan atau pasar modal. Namun, hal ini akan menambah beban biaya compliance yang kemungkinan hanya mampu dipenuhi oleh raksasa teknologi.
Dampak berikutnya menyentuh pertumbuhan ekosistem sumber terbuka (open source).
"Bila model tertutup (proprietary) melambat, komunitas open-source berpotensi mengisi kekosongan, kecuali jika regulasi juga mencakup pembatasan komputasi perangkat keras (hardware/GPU export limits)," tutup Erwin.
