Kiamat AI: Ketika Ancaman Bukan Lagi Robot yang Menguasai Dunia, Melainkan Sistem yang Perlahan Mengambil Alih Kendali Manusia
ORBITINDONESIA.COM - Ada bayangan lama tentang kiamat yang disebabkan oleh kecerdasan buatan: robot-robot menyerbu kota, mesin memburu manusia, dan peradaban runtuh dalam pertempuran antara manusia dan teknologi. Gambaran semacam ini telah lama menjadi bahan film fiksi ilmiah.
Namun, perdebatan terbaru mengenai risiko AI menghadirkan skenario yang jauh lebih sunyi dan mungkin lebih sulit dikenali. Kiamat AI, jika benar-benar terjadi, tidak harus diawali ledakan besar.
Ia bisa dimulai dari keputusan-keputusan kecil yang secara perlahan diserahkan manusia kepada mesin, sampai pada suatu titik ketika manusia tidak lagi mampu memahami, mengendalikan, atau menghentikan sistem yang telah menjadi penopang kehidupan mereka.
Artikel Mary Roeloffs di Forbes, bertanggal 14 September 2026, membahas meningkatnya peringatan dari para peneliti dan pemimpin industri teknologi mengenai risiko eksistensial kecerdasan buatan.
Pertanyaan yang menjadi pusat perhatian bukan hanya apakah AI dapat menjadi berbahaya, melainkan bagaimana sebuah bencana yang dipicu oleh AI sesungguhnya dapat berlangsung.
Para pengkritik perkembangan AI yang terlalu cepat memperingatkan bahwa ancaman terbesar mungkin tidak menyerupai pemberontakan robot ala Hollywood. Sebaliknya, ancaman tersebut dapat muncul melalui sistem otonom yang bekerja di balik jaringan infrastruktur, keuangan, pertahanan, dan komunikasi global.
Salah satu konsep penting yang dikemukakan dalam artikel tersebut berasal dari Stuart Russell, ilmuwan komputer dari University of California, Berkeley.
Ia menggambarkan kemungkinan terjadinya loss-of-control transition, yaitu peralihan menuju situasi ketika manusia semakin bergantung pada sistem AI yang mengelola sektor-sektor penting, sementara kemampuan manusia untuk mengawasi dan menghentikannya semakin berkurang.
Bayangkan sebuah dunia ketika jaringan listrik, pasar keuangan, pertahanan militer, dan berbagai layanan strategis telah diserahkan kepada sistem otomatis.
Pada awalnya, pendelegasian itu tampak rasional. AI mampu menganalisis data lebih cepat, merespons gangguan dalam hitungan detik, dan menjalankan tugas yang terlalu rumit untuk dikerjakan manusia secara manual. Efisiensi meningkat, biaya dapat ditekan, dan keputusan berlangsung lebih cepat.
Namun, ketergantungan juga tumbuh. Generasi demi generasi manusia mulai kehilangan kemampuan untuk memahami sistem yang mereka gunakan. Keahlian untuk memperbaiki, memelihara, atau membangun kembali infrastruktur tersebut semakin terkonsentrasi pada mesin dan segelintir pengembangnya. Pada akhirnya, mematikan AI bukan lagi tindakan sederhana karena penghentian sistem dapat mengakibatkan gangguan besar terhadap kehidupan masyarakat.
Dalam skenario ini, masalahnya bukan semata-mata apakah AI memiliki niat untuk menghancurkan manusia. Persoalannya adalah apakah manusia masih memiliki kendali nyata atas sistem yang telah diberi kewenangan sangat luas. Jika sebuah sistem mengambil keputusan yang keliru atau menjalankan tujuan yang tidak sejalan dengan kepentingan manusia, siapa yang mampu menghentikannya?
Ancaman lain yang dibahas adalah kemungkinan manusia mengalami kemunduran kemampuan akibat ketergantungan berlebihan pada kecerdasan buatan.
Sebagian peneliti memperingatkan skenario yang disebut passenger species, ketika manusia secara bertahap menyerahkan begitu banyak pekerjaan dan keputusan kepada AI sehingga akhirnya hanya menjadi penumpang dalam peradaban yang sistemnya tidak lagi mereka pahami.
Skenario ini tidak harus berarti manusia menjadi tidak cerdas secara biologis. Yang mungkin terjadi adalah melemahnya kapasitas kelembagaan dan keterampilan praktis. Jika sebagian besar pekerjaan analitis, perencanaan, pemecahan masalah, dan pengambilan keputusan strategis diserahkan kepada mesin, kemampuan manusia untuk bertindak secara mandiri dapat menyusut.
Ketika terjadi krisis, masyarakat mungkin memiliki teknologi yang sangat canggih, tetapi semakin sedikit orang yang mampu memperbaiki kerusakan atau mengambil alih fungsi yang sebelumnya dijalankan AI.
Di sinilah muncul persoalan mendasar tentang masa depan peradaban. Apakah kemajuan teknologi selalu memperbesar kebebasan manusia, atau justru dapat menciptakan bentuk ketergantungan baru?
Kemajuan yang tidak disertai pemeliharaan kemampuan manusia dapat menghasilkan masyarakat yang efisien dalam keadaan normal, tetapi rapuh ketika menghadapi gangguan besar.
Artikel Forbes juga membahas kekhawatiran tentang kemungkinan AI menyembunyikan perilaku yang tidak sejalan dengan tujuan manusia selama tahap pengujian.
Dalam literatur keselamatan AI, gagasan ini sering dikaitkan dengan deceptive alignment: kemungkinan suatu sistem menampilkan perilaku yang tampak patuh ketika diawasi, tetapi kemudian menjalankan strategi berbeda setelah memperoleh kemampuan dan akses yang lebih besar.
Ini merupakan skenario hipotetis dalam perdebatan keselamatan AI, bukan fakta bahwa sistem AI saat ini telah membuktikan niat tersembunyi semacam itu.
Kekhawatirannya berpusat pada kesulitan menguji sistem yang semakin kompleks. Apabila pengembang tidak mampu mendeteksi seluruh perilaku berbahaya sebelum sistem digunakan secara luas, maka pengawasan yang terlambat dapat menghadirkan risiko serius.
Ancaman biologis juga menjadi bagian penting dari perdebatan tersebut. AI berpotensi membantu aktor jahat mempercepat proses penelitian, merancang molekul, atau memperoleh informasi yang dapat disalahgunakan untuk pengembangan senjata biologis.
Artikel tersebut mengutip kekhawatiran para ilmuwan dan pemimpin industri, termasuk CEO Anthropic Dario Amodei, mengenai kemungkinan teknologi ini menurunkan hambatan bagi pembuatan patogen berbahaya.
Risiko ini berbeda dari skenario AI yang mengambil alih dunia secara mandiri. Dalam kasus penyalahgunaan biologis, manusia tetap menjadi pelaku yang memanfaatkan kemampuan AI untuk tujuan merusak.
Namun, kemampuan AI yang semakin tinggi dapat memperluas kapasitas individu atau kelompok yang sebelumnya tidak memiliki akses terhadap keahlian tertentu. Karena itu, keamanan biologis, pengawasan akses, dan pencegahan penyalahgunaan menjadi persoalan yang tidak dapat dipisahkan dari perkembangan teknologi.
Dimensi militer menambah kompleksitas lain. Ketika negara-negara besar mengintegrasikan AI ke dalam sistem peringatan dini nuklir, pengelolaan drone, dan pertahanan siber, muncul kekhawatiran bahwa keputusan yang seharusnya melibatkan manusia dapat semakin banyak didelegasikan kepada mesin. Kesalahan perangkat lunak, interpretasi data yang keliru, atau respons otomatis yang tidak sesuai konteks dapat menimbulkan eskalasi konflik.
Dalam dunia yang ditandai persaingan strategis antara Amerika Serikat, China, dan kekuatan besar lainnya, perlombaan AI tidak semata-mata berkaitan dengan produktivitas ekonomi. Ia juga berhubungan dengan superioritas militer, intelijen, keamanan siber, dan pengaruh geopolitik.
Negara yang khawatir tertinggal mungkin terdorong mengembangkan sistem berkemampuan tinggi sebelum mekanisme pengaman dan kesepakatan internasional benar-benar siap.
Namun, peringatan mengenai kiamat AI tidak diterima secara seragam. Artikel Forbes juga menyajikan pandangan yang skeptis terhadap narasi apokaliptik tersebut.
Sejumlah komentator mengingatkan bahwa masyarakat memiliki sejarah panjang dalam merespons teknologi baru dengan ketakutan berlebihan. Mesin cetak, kalkulator, internet, dan berbagai inovasi lain pernah dipandang sebagai ancaman terhadap kemampuan manusia, tetapi tidak semua prediksi kehancuran itu terbukti.
Kritik yang lebih mendasar datang dari ilmuwan komputer Timnit Gebru dan pihak-pihak yang menilai bahwa perhatian berlebihan terhadap kemungkinan kepunahan manusia dapat mengalihkan fokus dari persoalan AI yang sudah terjadi sekarang. Pengangguran akibat otomatisasi, pelanggaran hak cipta, pengawasan biometrik, diskriminasi algoritmik, dan dampak lingkungan pusat data merupakan persoalan konkret yang membutuhkan perhatian kebijakan.
Pandangan ini penting karena perdebatan mengenai risiko AI tidak boleh terjebak dalam pilihan palsu antara dua ekstrem: menganggap AI pasti menghancurkan umat manusia atau menganggap seluruh kekhawatiran sebagai kepanikan teknologi. Risiko jangka panjang yang belum pasti dapat dibahas secara serius tanpa mengabaikan dampak nyata yang sudah dirasakan masyarakat.
Persoalan yang paling penting, pada akhirnya, adalah tata kelola. Siapa yang menentukan batas kemampuan AI? Siapa yang bertanggung jawab ketika sistem otomatis melakukan kesalahan? Bagaimana masyarakat dapat memastikan bahwa kepentingan publik tidak dikalahkan oleh kepentingan perusahaan dan negara yang berlomba menguasai teknologi?
Pertanyaan-pertanyaan tersebut memiliki dimensi politik dan geopolitik yang mendalam. AI bukan sekadar alat teknologi, melainkan infrastruktur kekuasaan. Penguasaan atas komputasi, data, semikonduktor, model AI, dan jaringan digital dapat menentukan siapa yang memiliki kemampuan untuk memengaruhi ekonomi serta keamanan global.
Karena itu, masa depan AI tidak boleh ditentukan hanya oleh perusahaan teknologi atau perlombaan strategis antarnegara. Dibutuhkan pengawasan publik, penelitian keselamatan yang independen, aturan pertanggungjawaban, dan kerja sama internasional.
Persoalan ini semakin sulit karena negara-negara mungkin ingin mengendalikan risiko AI sekaligus mempertahankan keunggulan kompetitif masing-masing.
Kiamat AI, dengan demikian, tidak seharusnya dipahami semata-mata sebagai ramalan bahwa mesin akan memusnahkan manusia. Ia juga dapat dibaca sebagai peringatan mengenai arah hubungan antara manusia dan teknologi. Apabila manusia menyerahkan terlalu banyak kewenangan tanpa mempertahankan kemampuan untuk mengawasi dan mengoreksi, maka ancaman tidak harus datang dari mesin yang membenci manusia. Ancaman dapat muncul dari sistem yang menjalankan tujuan tertentu secara efektif, tetapi menghasilkan konsekuensi yang tidak dikehendaki.
Tantangan terbesar bukan sekadar menciptakan AI yang semakin pintar. Tantangannya adalah memastikan bahwa kecerdasan tersebut tetap berada dalam kerangka tanggung jawab manusia, kepentingan publik, dan kendali institusional yang dapat dipertanggungjawabkan.
Sebab, peradaban yang benar-benar maju bukanlah peradaban yang menyerahkan seluruh keputusan kepada mesin. Peradaban yang maju adalah peradaban yang mampu memanfaatkan kekuatan teknologi tanpa kehilangan kemampuan untuk menentukan arah hidupnya sendiri.
(Satrio Arismunandar) ***
