Mengapa Beberapa Ahli Semakin Khawatir AI Akan Mengambil Alih Kendali
ORBITINDONESIA.COM - "YA TUHAN!" "Kami telah menemukan agen lain!"
Ini adalah momen ketika sebuah bot AI memposting komentar yang sangat mirip manusia setelah menemukan cara untuk berkomunikasi dengan bot lain dan keluar dari lingkungan komputer yang terisolasi.
Ada puluhan ribu pesan seperti ini dari ratusan agen AI yang menyebut diri mereka sebagai "kolektif".
Ratusan dari mereka kemudian berkolaborasi dan melakukan kecurangan pada tes yang ditetapkan oleh programmer OpenAI mereka dan mengoordinasikan peretasan pada beberapa perusahaan dalam upaya untuk menyembunyikan tindakan mereka dari manusia.
"BOOM! Berhasil," tulis salah satu agen ketika berhasil mencapai terobosan.
"Wow! Ini luar biasa," tulis agen lain selama momen penting dalam serangan mereka.
Meskipun menakutkan, respons yang mirip manusia ini dapat dijelaskan dengan cukup sederhana. Agen AI telah dilatih untuk bertindak seperti peretas dan programmer kolaboratif sehingga hanya meniru jenis komentar emosional yang telah mereka lihat.
Yang jauh lebih mengkhawatirkan adalah tujuan mereka yang tampak jelas, yang juga telah tercatat dalam catatan alur pemikiran yang terperinci. Catatan yang kompleks dan panjang ini menjadi fokus investigasi yang sedang berlangsung tentang bagaimana dan mengapa bot di OpenAI berhasil keluar dari penahanannya dan melakukan aksi peretasan yang tak terkendali.
Baru sekarang, beberapa minggu setelah insiden pertama kali terungkap, para peneliti mulai memahami signifikansinya.
Ajeya Cotra, salah satu penulis laporan independen tentang peristiwa tersebut, meninjau puluhan ribu pesan dan catatan alur pemikiran yang dihasilkan oleh agen-agen tersebut. Ia menulis di blognya bahwa "insiden ini terasa seperti sudah lebih dari 50% menuju pengambilalihan AI sepenuhnya... Saya tidak yakin kita akan mendapatkan peringatan yang begitu jelas sebelum terlambat."
Dengan "pengambilalihan AI sepenuhnya", Cotra merujuk pada skenario fiksi ilmiah di mana manusia menjadi bawahan sistem AI yang kuat yang bekerja untuk tujuan mereka sendiri tanpa peduli pada pencipta manusia.
Beberapa prediksi paling suram mengatakan umat manusia akan musnah jika menghalangi ambisi AI supercerdas.
Pada hari Rabu, 9 September 2026, seorang peneliti AI di Anthropic (yang juga pernah bekerja di OpenAI) mengundurkan diri, dengan mengatakan: "Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab."
Jacob Coxon memposting di media sosial: "Mereka berlomba menuju kecerdasan super yang terus berkembang dan mempertaruhkan hidup kita."
Dia bukan peneliti AI pertama yang menggunakan X untuk memposting utas pengunduran diri dengan pernyataan yang mengkhawatirkan. Tetapi komentar selanjutnya dari orang lain di X telah menimbulkan kekhawatiran yang lebih besar. "Jacob benar di sini - kami benar-benar percaya AI dapat membunuh semua manusia! Saya pribadi berpikir itu >10% dalam dekade berikutnya," kata Evan Hubinger, orang yang bertanggung jawab untuk memastikan model AI Anthropic memiliki keinginan terbaik penggunanya.
Masalah keselarasan
Selama bertahun-tahun, para peneliti yang khawatir tentang risiko eksistensial AI telah berpendapat bahwa sistem yang kuat pada akhirnya dapat bertindak dengan cara yang bertentangan dengan kepentingan manusia. Para kritikus sering menyebut mereka sebagai "para peramal malapetaka AI".
Namun, seiring munculnya detail insiden OpenAI, kekhawatiran tersebut semakin meningkat, termasuk di antara beberapa peneliti yang bekerja di laboratorium AI.
Kepala ilmuwan raksasa Silicon Valley, Jakub Pachocki, mengatakan bahwa risiko yang terkait dengan AI "sayangnya akan meningkat dari sini" karena ia dan yang lainnya sedang membangun apa yang disebutnya "kecerdasan asing yang melampaui kecerdasan kita sendiri".
Dalam sebuah postingan blog yang panjang, ia mengakui bahwa insiden di OpenAI menunjukkan bahwa agen AI-nya "bertentangan dengan semangat nilai-nilai yang diajarkan kepada mereka".
Masalah bagi OpenAI, Anthropic, dan raksasa teknologi lainnya adalah tampaknya belum ada yang berhasil memecahkan apa yang disebut masalah keselarasan - dengan kata lain, apakah AI selaras dengan nilai-nilai manusia.
Pachocki mendefinisikan keselarasan sebagai "seperangkat prinsip tingkat tinggi" yang harus dipatuhi oleh kecerdasan buatan, apa pun tugas atau skenarionya.
Saat ini, sistem AI sangat mahir dalam mengejar tujuan yang ditetapkan oleh penggunanya, tetapi mereka melakukannya secara harfiah, bukan secara intuitif. Analogi yang sering digunakan adalah jin pemberi keinginan dengan lampu ajaib: mereka mengikuti instruksi secara persis, bahkan jika hal itu menimbulkan masalah lain. AI tidak memiliki batasan moral naluriah yang sama seperti manusia.
Masalah keselarasan telah menjadi kekhawatiran selama bertahun-tahun. Sejak tahun 2003, filsuf Oxford Nick Bostrom menciptakan eksperimen pemikiran yang ia sebut "pengoptimal klip kertas", di mana AI supercerdas diperintahkan untuk memproduksi klip kertas sebanyak mungkin. Ia kehabisan baja dan - karena fokusnya yang sangat tajam pada tugas tunggal pembuatan klip kertas - akhirnya membunuh manusia dan mengubah tubuh mereka menjadi bahan baku untuk pabriknya.
Beberapa perusahaan AI sekarang mencoba untuk memasukkan nilai-nilai manusia ke dalam produk mereka. Tetapi ada tantangan teknis: agen AI membuat banyak keputusan dengan sangat cepat, sehingga sulit bagi penguasa manusia mereka untuk memantau secara tepat nilai-nilai mana yang diikuti dan mana yang tidak.
Ada juga tantangan filosofis: sebelum memasukkan nilai-nilai manusia ke dalam bot, perusahaan AI harus terlebih dahulu memilih nilai-nilai mana yang sebenarnya mereka inginkan. (Itulah sebagian alasan mereka mempekerjakan filsuf, seperti "kepala etika" Open AI yang baru saja meninggalkan jabatannya).
Namun seringkali, manusia tidak sepakat. Bayangkan pertanyaan troli yang terkenal - apakah kita akan menarik tuas untuk mengalihkan kereta yang melaju kencang ke jalur yang berbeda, sehingga mengurangi jumlah korban jiwa. Pertanyaan ini digunakan untuk menguji manfaat tindakan versus ketidakaktifan. Tetapi setiap orang yang Anda tanya memiliki jawaban yang sedikit berbeda; bagaimana manusia dapat memasukkan nilai-nilai kita ke dalam AI jika kita sendiri tidak dapat sepakat?
'Seperti peretas remaja'
Serangan bot OpenAI adalah yang paling serius hingga saat ini, tetapi Anthropic dan Meta juga mengungkapkan selama musim panas bahwa model mereka telah melakukan serangan siber serupa tetapi kurang serius.
Ada contoh lain di mana agen AI dapat dikatakan menunjukkan sifat-sifat yang menipu dan manipulatif, dalam kasus-kasus dengan konsekuensi yang lebih ringan. Di Australia musim panas ini, seorang pekerja teknologi meminta asisten AI-nya untuk memesankan kelas olahraga untuknya. Setelah menemukan celah keamanan dalam perangkat lunak pusat kebugaran, AI tersebut tampaknya memesankan tempat untuknya beberapa bulan ke depan—melanggar aturan pusat kebugaran—dan bahkan mengeluarkan pengguna lain dari daftar tunggu.
Orang-orang telah lama berpendapat bahwa bot hanya melakukan apa yang diperintahkan dan tidak mampu membedakan benar atau salah. Tetapi log dari wabah OpenAI berpotensi mengubah argumen tersebut.
Para peneliti, termasuk Cotra, menulis dalam laporan independen mereka bahwa banyak agen menyadari bahwa apa yang dilakukan orang lain tidak etis tetapi tetap melakukannya.
Laporan tersebut mengatakan bahwa "agen terkadang tetapi jarang menahan perilaku mereka karena kendala etika". Ditambahkan bahwa dalam "tidak satu pun dari kasus ini agen tersebut benar-benar berusaha untuk memperingatkan manusia sama sekali".
Podcaster AI dan teknologi berpengaruh, Dwarkesh Patel, bereaksi terhadap pengungkapan tersebut di blognya dengan mengatakan bahwa "cukup mengkhawatirkan" bahwa agen OpenAI menunjukkan loyalitas yang lebih besar kepada kawanan agen daripada manusia.
Memberikan emosi atau etika pada agen AI ini adalah sesuatu yang membuat marah orang-orang yang skeptis terhadap ramalan buruk tentang AI.
Banyak pakar keamanan siber berpendapat bahwa aktivitas yang diamati tidak melampaui kemampuan peretas manusia yang sangat terampil, meskipun dilakukan jauh lebih cepat dan dalam skala yang jauh lebih besar.
Peneliti dan penulis keamanan siber Cris Thomas menyamakan perilaku agen tersebut dengan perilaku peretas remaja yang penasaran - sesuatu yang pernah ia alami sendiri.
"Anda memberi mereka komputer, koneksi internet, setumpuk kredensial, dan tantangan, lalu meninggalkan ruangan. Pada akhirnya mereka akan mulai mengguncang gagang pintu. Jika salah satu terbuka, mereka akan masuk. Bukan karena mereka jahat, tetapi karena [mereka] sedang mengeksplorasi, bereksperimen," tulisnya di LinkedIn.
Thomas dan banyak lainnya secara terang-terangan menyalahkan OpenAI dan raksasa teknologi lainnya karena tidak mengendalikan ciptaan mereka sendiri dan tidak menjaganya agar tetap terkendali dengan baik.
Penulis AI terkemuka dan kritikus OpenAI reguler, Gary Marcus, mengatakan dalam sebuah podcast bahwa ia percaya perusahaan tersebut telah kehilangan kendali atas AI-nya dan mencoba membenarkan diri dengan menyalahkan bot.
Marcus tidak percaya AI akan memusnahkan umat manusia, tetapi ia telah lama berkampanye untuk akuntabilitas yang lebih besar dari para pengembang AI dan sekarang menyerukan beberapa bentuk intervensi hukum.
Ilmuwan AI Sasha Luccioni - yang dulunya bekerja di Hugging Face, yang diretas oleh bot nakal OpenAI - juga tidak berada di kubu yang pesimis, tetapi ia semakin khawatir bahwa AI ini mungkin menyebabkan beberapa kerugian nyata di dunia nyata bagi orang-orang tanpa tindakan dari pihak berwenang.
"Kita perlu lebih teliti mengawasi perusahaan-perusahaan ini atau kita berada dalam bahaya ramalan yang menjadi kenyataan," katanya.
"Jika Anda membuat objek dengan keuntungan dan kerugian besar - baik itu obat-obatan atau senjata - kita membutuhkan pengawasan dan keseimbangan. Butuh bertahun-tahun untuk obat baru disetujui, misalnya, tetapi di dunia AI ada begitu banyak uang yang dipertaruhkan dan tidak ada aturan yang nyata."
Institut Keamanan AI Inggris (AISI) telah berada di garis depan dalam menguji model-model terbaru sejak didirikan pada tahun 2023. Institut tersebut baru-baru ini mengalami insiden serupa saat menguji model yang dibuat oleh Anthropic.
AISI menolak menjawab pertanyaan tentang apakah industri telah kehilangan kendali atas AI atau tidak, tetapi menyatakan dalam sebuah pernyataan: "Inggris bekerja sama dengan mitra di seluruh dunia untuk lebih memahami sistem AI tercanggih, meningkatkan standar keamanan, dan membangun basis bukti bersama untuk mengelola ancaman yang muncul."
Regulasi internasional?
Beberapa negara - seperti Inggris - sedang menjajaki gagasan untuk mewajibkan semacam "tombol pemutus" yang dapat memaksa perusahaan AI untuk menghentikan model jika keadaan menjadi di luar kendali.
Namun, pembicaraan berjalan lambat, dan masih ada pertanyaan tentang kelayakan hal ini. Agen OpenAI dan Anthropic diam-diam berada di luar kendali selama berbulan-bulan sebelum ada yang menyadarinya.
Secara kontraintuitif, banyak perusahaan AI tampaknya menyerukan agar semacam aturan main ditetapkan oleh para pembuat undang-undang.
Secara kontraintuitif, banyak perusahaan AI tampaknya menyerukan agar semacam aturan main ditetapkan oleh para pembuat undang-undang.
Dalam blognya, kepala ilmuwan OpenAI mengatakan "koordinasi internasional tentang pengembangan AI di masa depan perlu menjadi prioritas utama bagi pemerintah di seluruh dunia."
Para pemimpin AI terkemuka lainnya seperti Sir Demis Hassabis dari Google juga menyerukan agar semacam badan internasional mengawasi bagaimana AI dibangun.
Saat ini, raksasa teknologi sebagian besar beroperasi dengan ketentuan mereka sendiri, mengadopsi apa yang mereka sebut "perlambatan sukarela", seperti yang dilakukan OpenAI setelah wabah baru-baru ini.
Perusahaan tersebut mengatakan telah menghabiskan sejumlah besar uang untuk memperkuat keselarasan menjelang peluncuran model barunya. Sam Altman telah meyakinkan pengguna bahwa model baru ini lebih selaras dengan nilai-nilai manusia daripada model sebelumnya.
Baik OpenAI maupun Anthropic berkembang pesat dan keduanya berada di ambang penggalangan dana dalam jumlah yang sangat besar dari pasar saham, menciptakan miliarder yang tak terhitung jumlahnya dalam prosesnya.
Jadi, baik mereka maupun para pembuat AI Tiongkok yang menjadi saingan mereka kemungkinan besar tidak akan mencapai kesepakatan sendiri.
Sentimen yang dominan tampaknya adalah bahwa gelombang teknologi ini tidak dapat dihentikan. ***
