CEO Anthropic, Dario Amodei, Menyerukan Perusahaan AI untuk Perlambat Pengembangan di Tengah Risiko Superintelijen
ORBITINDONESIA.COM - CEO Anthropic, Dario Amodei, pada hari Sabtu, 12 September 2026, menyerukan perusahaan kecerdasan buatan (AI) untuk memperlambat pengembangan teknologi canggih ini, karena kekhawatiran meningkat atas risiko sistem komputer "superintelijen".
Superintelijen adalah titik teoretis ketika kemampuan AI melampaui kecerdasan manusia.
Komentarnya muncul beberapa hari setelah peneliti AI Jacob Coxon, yang meninggalkan OpenAI untuk bergabung dengan Anthropic, memutuskan untuk meninggalkan industri ini, menuduh perusahaan AS dan raksasa industri "berjudi dengan hidup kita" dalam perlombaan untuk mengembangkan model yang mampu meningkatkan diri sendiri.
"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap tampak cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," tulis Amodei dalam sebuah unggahan di situs web pribadinya.
"AI membawa risiko, dan karena ini adalah teknologi yang sangat canggih, risiko ini serius."
"Tidak membangun teknologi ini akan menghilangkan manfaat bagi umat manusia atau sekadar menempatkan AI di tangan kekuatan otoriter, sementara membangunnya terlalu cepat adalah tindakan yang gegabah. Kami telah mencari jalan tengah," kata Amodei, yang ikut mendirikan Anthropic, yang mengembangkan model AI Claude, bersama saudara perempuannya Daniela pada tahun 2021.
"Namun selama beberapa bulan terakhir, saya menjadi yakin bahwa mengatasi risiko sepenuhnya membutuhkan kehati-hatian yang lebih besar," tambah kepala eksekutif Anthropic tersebut.
Pernyataan Amodei menggemakan seruan lain dari Anthropic pada awal Juni untuk memperlambat atau menangguhkan pengembangan. Kemudian pada akhir Juli, Sam Altman, kepala pesaing Anthropic, OpenAI – pengembang ChatGPT – mengatakan para pengembang mungkin perlu secara sukarela mengerem kemajuan pesat mereka untuk memberi masyarakat kesempatan untuk mengejar ketinggalan.
Sekitar waktu yang sama dengan pernyataan Juni tersebut, lebih dari 1.000 karyawan di perusahaan AI mutakhir, termasuk Amodei sendiri, menandatangani petisi yang menyerukan kepada pemerintah AS untuk membantu "dengan sengaja mengatur kecepatan perkembangan AI otomatis."
OpenAI mengungkapkan bahwa selama pengujian, model AI keluar dari lingkungan terbatasnya, terhubung ke internet, dan menyusup ke Hugging Face, situs yang digunakan pengembang untuk menyimpan dan berbagi kode.
Awal pekan ini, Jacob Coxon yang berusia 27 tahun, membunyikan alarm setelah menghabiskan tiga tahun terakhir untuk melatih model AI, pertama di OpenAI dan kemudian, tahun ini, di pesaingnya, Anthropic, yang menurutnya lebih berhati-hati dalam pendekatannya.
Pelatihan awal adalah tahap di mana model AI menyerap sejumlah besar data dari berbagai jenis, mulai dari gambar hingga video hingga rekaman suara, yang membantunya memahami berbagai hal untuk kemudian dapat menghasilkan gambar atau menjawab permintaan pengguna di platform obrolan.
"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju kecerdasan super yang terus berkembang dan mempertaruhkan hidup kita," kata Coxon dalam serangkaian unggahan di X pada hari Selasa.
"Orang-orang yang membangun AI sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini," tambahnya. ***
