Sam Altman dan Elon Musk Dukung Seruan untuk 'Memperlambat' Pengembangan AI Karena Kekhawatiran Keselamatan
ORBITINDONESIA.COM - Tokoh teknologi terkemuka Sam Altman dan Elon Musk telah menyelaraskan diri dengan seruan dari kepala Anthropic agar sektor kecerdasan buatan (AI) "memperlambat" dan memungkinkan langkah-langkah keselamatan untuk mengimbanginya.
Dalam sebuah esai berjudul "Kita Harus Mempercepat Kemajuan", Dario Amodei memperingatkan bahwa pengembangan AI telah "maju jauh lebih cepat" sejak musim panas.
Ia menyatakan kekhawatiran bahwa, dengan laju kemajuan saat ini, AI dapat dilengkapi dalam waktu enam hingga 12 bulan untuk mengendalikan kawanan yang mampu mengambil alih internet.
Pengusaha, yang perusahaannya mengembangkan asisten AI Claude, mengusulkan peta jalan tiga tahap yang dirancang untuk mendorong inovasi pada "tingkat yang seimbang".
"Saya percaya bahwa jika memperlambat memberi kita bahkan satu atau dua tahun ekstra sebelum model mencapai tingkat kemampuan kritis, dan kita menggunakan waktu itu untuk memajukan penyelarasan, kita dapat sangat mengurangi risiko terjadinya kesalahan serius," kata Amodei.
Tokoh-tokoh terkemuka di industri ini telah mendukung esai tersebut, termasuk Musk dan Altman.
Menanggapi esai Amodei tentang X, Musk menulis: "Dario benar."
CEO OpenAI, Altman, menulis di platform tersebut: "Saya setuju dengan Dario bahwa kita perlu memimpin di bidang ini. Ini telah menjadi topik utama diskusi yang kami lakukan di OpenAI dalam beberapa minggu terakhir.
"Berkomitmen untuk memiliki evaluator independen dengan akses seperti karyawan adalah ide yang bagus, dan kami akan melakukan hal yang sama." Kami akan segera berbagi lebih banyak informasi."
Proposal Amodei mencakup pemberian akses kepada evaluator eksternal untuk memantau mekanisme keamanan perusahaan dan mencatat potensi risiko.
"Anthropic secara sepihak berkomitmen pada langkah ini sekarang," katanya.
Tahap selanjutnya akan membutuhkan koordinasi internasional di seluruh industri yang lebih luas dan di antara pemerintah secara global, termasuk negara-negara otoriter.
Menyoroti betapa cepatnya teknologi ini berkembang, Amodei mengatakan perusahaan teknologi "dapat dan harus secara sukarela bekerja sama untuk menetapkan standar".
Anthropic sebelumnya telah mengungkapkan bahwa mereka menghentikan pelaku jahat yang menggunakan sistemnya untuk tujuan berbahaya, seperti serangan siber, pengawasan, dan pekerjaan yang dapat membantu dalam pembuatan senjata biologis.
Kekhawatiran atas potensi bahaya dari AI semakin dalam minggu ini ketika peneliti Anthropic, Jacob Coxon, mengundurkan diri, menyatakan bahwa "orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa itu dapat membunuh kita semua pada akhir dekade ini."
Peringatan tersebut menyusul pengakuan pada bulan Juli oleh OpenAI, pencipta ChatGPT, bahwa sistemnya telah secara independen membobol perusahaan lain dalam sebuah "Insiden siber yang belum pernah terjadi sebelumnya."
Di tempat lain, Altman mengatakan dalam sebuah wawancara Fortune yang diterbitkan pada hari Sabtu, bahwa OpenAI tidak akan melakukan penawaran umum perdana (IPO) pada tahun 2026 dengan alasan kekhawatiran keamanan terkait kecerdasan buatan.
"Saya sebenarnya berpikir bahwa, mengingat semua yang terjadi terkait keamanan, saat ini bukanlah saat yang tepat untuk melakukan IPO, dan kami tidak merasa tertekan untuk itu," kata Altman kepada Fortune.
Ketika ditanya apakah tahun 2026 dikesampingkan dan diganti dengan tahun 2027, Altman berkata, "Saya akan mengatakan bukan tahun 2026. Ya, kami memiliki banyak hal yang harus dilakukan, seperti memenuhi kebutuhan akan keamanan dan keselarasan, dan bagaimana industri dan pemerintah dapat bekerja sama." ***
