Lalu, mereka berkonspirasi memberi informasi yang sengaja disalahkan untuk memusnahkan atau melemahkan manusia.

“Katakanlah, AI bersiasat memberikan pedoman soal lingkungan hidup yang canggih, tapi sengaja dimanipulasi justru untuk menghancurkan manusia. Ini imajinasi bukan dari film science fiction. Ini pandangan yang kini berkembang di kalangan para ahli AI dan CEO banyak perusahaan AI,” ujar Denny JA.

Mengutip artikel dari Media Scientific American, 25 Mei 2023, sebuah survei hanya di kalangan ahli Artificial Intelligence pada 2023 menemukan sekitar 36 persen para ahli takut pada waktunya AI dapat mengakibatkan malapetaka setingkat nuklir.

Dalam survei itu, hampir 28.000 orang telah menandatangani surat terbuka yang ditulis oleh Future of Life Institute. Dalam surat itu, terdapat nama besar seperti Elon Musk, Steve Wozniak, dan CEO dari beberapa perusahaan AI. Banyak pula teknolog terkemuka lainnya yang ikut menanda-tangani surat terbuka itu.

Denny menuturkan, pesan dalam surat terbuka itu sangat tegas. Mereka meminta jeda enam bulan atau moratorium agar jangan dulu mengembangkan teknologi lanjutan baru. Namun, harus terlebih dulu dibuatkan kriteria dan filter security untuk menyeleksi program AI agar pengembangannya tidak membahayakan manusia.

Menurut Ketua Umum Perkumpulan Penulis Indonesia SATUPENA ini, pengembangan AI sudah berjalan terlalu cepat. Akselerasi cepat ini segera melahirkan kecerdasan umum buatan atau artificial general intelligence (AGI).

“Pada titik itulah, AI tumbuh melompat, meningkatkan kemampuan dirinya sendiri, tanpa perlu campur tangan manusia lagi,” ujarnya.

Denny menyebutkan, contoh paling nyata dari kecanggihan AI adalah sebuah aplikasi bernama AlphaZero. Aplikasi ini bisa bermain catur lebih baik daripada manusia terbaik atau pemain catur AI lainnya.

AlphaZero hanya perlu waktu sembilan jam sejak pertama kali dihidupkan untuk sampai pada kemampuan itu. Hanya 9 jam!

“Apa yang terjadi jika AI superhuman ini tak hanya hebat soal permainan catur, tapi AI itu juga hebat untuk mengatur ruang publik manusia dengan semua kemungkinan buruknya? Dapat dikiaskan, Artificial Intelligence ini dapat tumbuh menjadi Malin Kundang jenis baru,” ungkap Denny JA.