Zuckerberg vs Amodei: Debat Keselamatan AI dan Perlambatan Model
ORBITINDONESIA.COM – Debat keselamatan AI kembali memanas ketika Mark Zuckerberg menolak gagasan perlambatan pengembangan model AI, sementara Anthropic dan OpenAI mendorong standar lebih ketat. Di saat yang sama, CEO Nvidia Jensen Huang menegaskan industri bisa mengejar kecepatan dan keamanan sekaligus, tanpa regulasi baru.
Terjemahan akurat artikel sumber: Zuckerberg menulis di X bahwa perusahaan AI punya “insentif alami” menjaga keselamatan model untuk menghindari “tanggung jawab hukum yang signifikan.” Ia menilai orang tidak akan memakai agen AI yang “tidak selaras” dan tidak melakukan apa yang diminta, sehingga pasar mendorong perusahaan memastikan alignment.
Zuckerberg juga mengatakan “kepercayaan dan alignment” adalah kemampuan terpenting, dan perusahaan yang gagal akan tertinggal. Ia mengklaim Meta menunda peluncuran agen AI pribadi barunya, Muse, selama “beberapa bulan” demi memastikan keselamatan, namun “tidak menyerukan orang lain melakukan ini sebelum kami melakukannya.”
Ia menepis ide bahwa lab AI harus berkoordinasi untuk keselamatan, dengan menekankan setiap lab punya tanggung jawab dan insentif untuk bergerak pada kecepatan yang diperlukan agar pelatihan aman. Namun ia mendukung pelibatan evaluator dan penasihat independen, sesuatu yang juga didorong Anthropic dan OpenAI, dan menyebut Meta sudah melakukannya di beberapa area.
Di Dreamforce, Jensen Huang menolak perlambatan dan menyebut pilihan antara keselamatan dan kecepatan sebagai dikotomi “palsu.” Ia berkata, “Kita tidak butuh undang-undang baru—kita tidak butuh regulasi baru,” lalu menunjuk pada kekuatan pasar agar perusahaan merilis sesuatu hanya ketika yakin pasar akan menghargainya.
Sehari sebelumnya, Huang mengikuti panggilan dari Presiden Donald Trump yang menyebut ketakutan soal keselamatan AI sebagai “tipuan,” saat ia tampil langsung di panggung All-In Summit. Trump menyatakan penentang AI dan pembangunan pusat data “bermain tepat ke tangan” pihak yang tidak ingin hal itu terjadi, dan Huang menjawab, “Anda benar. Kami tidak akan membiarkan itu terjadi, Pak.”
Zuckerberg juga tampak menyindir Anthropic dan OpenAI terkait dorongan “recursive self-improvement,” yaitu penggunaan model AI yang ada untuk melatih dan membangun model baru yang lebih canggih. Ia menulis bahwa mengalokasikan mayoritas komputasi untuk melayani orang, bukan “berlomba” menuju recursive self-improvement, adalah salah satu cara terbaik memastikan teknologi berkembang aman.
Kontra datang dari CEO Anthropic Dario Amodei, yang memperingatkan keselamatan AI dan meminta perusahaan besar memperlambat pengembangan model frontier. Dalam analogi perusahaan mobil, ia mengatakan mudah menyerang pesaing yang mengalami insiden keselamatan, tetapi respons yang lebih bertanggung jawab adalah memeriksa rekam jejak sendiri karena “saya yakin kita tidak sempurna.”
Amodei menyebut momen ini sebagai peluang untuk “berkomitmen ulang pada transparansi,” berinvestasi lebih banyak pada keselamatan, dan mengorganisasi industri agar menetapkan standar untuk semua pihak. Dengan kata lain, ia melihat keselamatan AI bukan sekadar urusan reputasi satu perusahaan, melainkan disiplin kolektif yang butuh aturan main bersama.
Inti pertarungan ini adalah siapa yang dipercaya publik untuk mengatur laju inovasi AI: pasar, perusahaan, atau standar bersama. Zuckerberg dan Huang bertaruh bahwa insentif pasar dan risiko tuntutan hukum cukup kuat untuk menahan perilaku sembrono, sehingga perlambatan terkoordinasi dianggap tidak perlu.
Masalahnya, “insentif alami” tidak selalu bekerja pada teknologi yang dampaknya melampaui pengguna langsung. Ketika agen AI menyebar ke layanan publik, pekerjaan, dan infrastruktur digital, kerusakan dapat bersifat sistemik, sementara biaya sosialnya tidak sepenuhnya ditanggung perusahaan.
Argumen Zuckerberg bahwa orang tidak akan memakai agen AI yang “misaligned” terdengar masuk akal, tetapi mengabaikan asimetri informasi. Pengguna sering tidak mampu menilai risiko laten, terutama pada model yang tampak membantu namun menyimpan potensi penyalahgunaan atau kegagalan pada skala besar.
Di sinilah relevansi “liability” menjadi rumit, karena kerangka hukum sering tertinggal dari teknologi. Jika standar pembuktian, audit, dan atribusi kesalahan belum jelas, ancaman tanggung jawab hukum bisa melemah, sehingga insentif pasar tidak otomatis mengunci keselamatan.
Huang menyebut keselamatan dan kecepatan bisa berjalan bersamaan, dan secara teknis itu mungkin jika proses evaluasi, red-teaming, dan kontrol rilis matang. Namun klaim “tidak perlu regulasi baru” mengandaikan tata kelola internal dan tekanan pasar cukup, padahal sejarah industri teknologi menunjukkan koreksi sering datang setelah insiden besar.
Perbedaan penting lainnya ada pada istilah “recursive self-improvement” yang disorot Zuckerberg. Ia mengusulkan fokus komputasi pada layanan pengguna, bukan kompetisi peningkatan diri model, yang secara implisit menilai perlombaan kemampuan sebagai sumber risiko.
Namun, layanan pengguna juga bisa menjadi jalur percepatan adopsi yang masif, dan adopsi masif berarti risiko masif bila kontrolnya lemah. Jadi, memindahkan compute ke “serving people” tidak otomatis lebih aman, kecuali disertai pengujian ketat, batasan penggunaan, dan pemantauan pasca-rilis.
Amodei menawarkan gagasan yang lebih mirip standar industri, yakni transparansi, investasi keselamatan, dan koordinasi. Analogi perusahaan mobil menekankan bahwa ketiadaan insiden besar bukan bukti aman, melainkan bisa jadi sekadar keberuntungan dalam periode tertentu.
Koordinasi industri juga bukan berarti mematikan inovasi, melainkan menyepakati garis merah minimal. Auditor independen yang didukung Zuckerberg dapat menjadi titik temu, tetapi efektivitasnya bergantung pada akses data, metode uji yang disepakati, dan kewenangan untuk menunda rilis bila temuan serius muncul.
Debat keselamatan AI ini memperlihatkan konflik klasik Silicon Valley: “move fast” versus “prove safe.” Zuckerberg dan Huang berbicara atas nama efisiensi pasar, tetapi pasar sering menghargai produk yang cepat dan murah, bukan yang paling aman.
Jika keselamatan AI diserahkan sepenuhnya pada reputasi dan risiko tuntutan hukum, maka insentifnya akan naik turun mengikuti sorotan media. Industri cenderung disiplin setelah krisis, bukan sebelum krisis, dan itu pola yang berbahaya untuk teknologi berdaya ungkit tinggi.
Di sisi lain, seruan perlambatan tanpa definisi teknis yang jelas juga bisa menjadi alat kompetisi terselubung. Publik berhak curiga ketika “perlambatan” terdengar seperti cara mengunci posisi pemain tertentu, terutama jika standar yang diusulkan tidak transparan.
Jalan tengah yang realistis adalah memperlakukan keselamatan sebagai prasyarat rilis, bukan rem darurat sesekali. Itu berarti audit independen, pelaporan insiden, uji ketahanan terhadap penyalahgunaan, dan mekanisme penghentian fitur ketika risiko nyata terdeteksi.
Di sinilah pernyataan politik Trump dan respons Huang menjadi relevan, karena memperlihatkan bagaimana narasi “ketakutan itu tipuan” dapat menekan diskusi keselamatan. Ketika keselamatan dipolitisasi, standar teknis mudah tergeser oleh slogan, dan publik kehilangan pijakan untuk menilai risiko secara rasional.
Pada akhirnya, keselamatan AI bukan soal memilih antara melambat atau melaju, melainkan soal siapa yang menanggung akibat ketika sesuatu gagal. Jika perusahaan ingin mengandalkan “insentif alami,” maka mereka juga perlu membuktikan secara terbuka bahwa audit, evaluasi, dan kontrol rilis benar-benar bekerja.
Jika industri ingin menghindari regulasi baru, industri harus menunjukkan disiplin baru. Pertanyaannya sederhana namun menentukan: apakah kita menunggu insiden besar untuk belajar, atau berani membangun standar sebelum kerusakan terjadi. (Orbit dari berbagai sumber, 17 September 2026)
