Raja Charles Memperingatkan 'Bahaya Eksistensial' Jika AI Jatuh ke Tangan yang Salah
ORBITINDONESIA.COM - Raja Charles telah memperingatkan para eksekutif AI tentang "bahaya eksistensial" yang ditimbulkan oleh teknologi tersebut jika jatuh ke tangan yang salah.
Ia menyampaikan komentar tersebut pada sebuah pertemuan puncak yang ia selenggarakan di Dumfries House di Ayrshire untuk membahas bagaimana teknologi tersebut dapat digunakan untuk memberi manfaat bagi masyarakat.
Para peserta pertemuan tersebut juga termasuk Kanishka Narayan, Menteri AI Inggris, penasihat Paus, dan peserta dari perusahaan raksasa AI seperti Nvidia, OpenAI, dan Anthropic.
Hal ini terjadi di tengah serangkaian peringatan baru-baru ini dari orang-orang di dalam industri tentang kemampuan yang berkembang pesat dari model AI canggih atau "terdepan" dan regulasi yang dibutuhkan untuk mengendalikannya.
"Mereka yang telah menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kemampuan yang lebih gelap - bahkan mungkin untuk mengambil nyawa," kata Raja kepada para eksekutif.
Ia mengatakan tampaknya ada "urgensi" dalam "mempertimbangkan secara memadai bahaya eksistensial dari teknologi tersebut jika jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi menimbulkan bencana".
"Tugas di hadapan Anda bukan hanya untuk memajukan teknologi, tetapi untuk memastikan bahwa teknologi tersebut tetap berada dalam pelayanan kemanusiaan, komunitas, dan alam," katanya kepada kelompok tersebut.
KTT ini diadakan untuk mempertimbangkan apakah "serangkaian prinsip bersama" dapat dikembangkan untuk "membantu memandu penerapan AI di masa depan".
'Teruslah melakukan rekayasa'
Jensen Huang, kepala eksekutif Nvidia, termasuk di antara para pemimpin industri terkemuka yang hadir.
Nvidia adalah pemain sentral dalam infrastruktur AI, memasok chip ke pengembang model AI terkemuka termasuk OpenAI dan Meta.
Nvidia juga merupakan perusahaan paling berharga di dunia, dengan nilai pasar saham sekitar $5,15 triliun.
Huang mengatakan kepada hadirin bahwa ia percaya keselamatan adalah "yang terpenting", menambahkan bahwa perusahaan harus menahan produk dan "terus melakukan rekayasa" jika produk tersebut tidak cukup aman.
Bos Nvidia juga menyoroti nilai model terbuka - sistem yang memberi pengguna akses langsung ke perangkat lunak - sebagai cara untuk "memastikan bahwa orang dan negara tidak tertinggal".
Ia mengatakan sistem ini juga harus dilindungi agar "peneliti, universitas, perusahaan rintisan, dan negara" dapat mengembangkan aplikasi "yang tidak akan pernah kita bayangkan sendiri".
"Mari kita pimpin dengan optimisme yang bertanggung jawab, membangun AI dengan aman dan terjamin, membukanya untuk lebih banyak orang, memperluas ambisi kita, dan memecahkan masalah yang penting bagi dunia," tambah Huang.
Sementara itu, Sir Demis Hassabis, yang ikut mendirikan laboratorium AI Inggris DeepMind - yang kemudian diakuisisi oleh Google - menawarkan pandangan yang lebih hati-hati tentang laju perkembangan.
Ia mengatakan kecerdasan buatan umum - sistem yang diyakini dapat sebaik atau lebih baik daripada manusia dalam berbagai tugas - "mungkin hanya beberapa tahun lagi" dan dapat berdampak "sepuluh kali lipat dari Revolusi Industri".
Peluang terjadinya kesalahan "jelas bukan nol", tambah Sir Demis.
Namun, ia menganjurkan "jalan tengah yang masuk akal", dengan mengatakan bahwa umat manusia dapat mengatasi risiko jika secara kolektif diberi ruang dan waktu untuk menguranginya.
"Masa depan belum tertulis," katanya kepada para delegasi Raja.
Sarah Friar, kepala petugas keuangan OpenAI, mengatakan AI berpotensi untuk menyelesaikan beberapa "masalah tersulit" masyarakat - tetapi setuju bahwa kemampuannya yang semakin meningkat menimbulkan pertanyaan tentang keamanan dan "bagaimana kita memastikan bahwa AI selalu melayani masyarakat".
"Kita perlu mengatasi pertanyaan-pertanyaan itu bersama-sama," katanya.
"Tidak ada satu perusahaan atau pemerintah pun yang dapat melakukannya sendiri dan saya berterima kasih kepada Yang Mulia karena telah mengadakan diskusi ini pada saat yang sangat penting."
Gelombang peringatan
Sejak Agustus, gelombang diskusi tentang potensi kekuatan AI dan bagaimana mengendalikan serta mengaturnya telah mendominasi postingan blog dan media sosial, yang ditekankan oleh beberapa pernyataan dramatis dari mereka yang berada di industri ini.
Debat ini juga mendapat kritik dari para skeptis yang mengatakan bahwa fokus pada masa depan hipotetis AI berisiko mengalihkan perhatian dari kekhawatiran yang lebih mendesak seputar teknologi tersebut, seperti dampaknya terhadap lingkungan.
Pada bulan Juli, OpenAI mengumumkan apa yang mereka sebut sebagai insiden "yang belum pernah terjadi sebelumnya" di mana AI canggih mereka lolos dari batas pengujian dan meretas platform teknologi Hugging Face.
Setelah beberapa insiden lainnya, pada bulan September, sebuah postingan pengunduran diri dari peneliti Anthropic, Jacob Coxon, menjadi viral ketika ia menyebutkan kekhawatiran bahwa AI dapat memusnahkan umat manusia.
Ia kemudian mengatakan kepada BBC bahwa orang-orang yang mengerjakan teknologi tersebut "benar-benar takut" tentang kecepatan kemajuannya dan apa artinya bagi umat manusia.
Sebagai tanggapan, ilmuwan Anthropic, Evan Hubinger, menulis bahwa ia secara pribadi berpikir kemungkinan kepunahan manusia akibat AI lebih besar dari 10%.
Para petinggi perusahaan AI semuanya telah memberikan pendapat mereka setelah klaim tersebut, dengan Sam Altman dari OpenAI mengatakan bahwa orang-orang benar untuk khawatir, tetapi menambahkan bahwa mereka harus mempercayai perusahaan AI untuk menjaga teknologi tersebut tetap aman.
Jack Clark dari Anthropic mengatakan bahwa apa yang disebut "tombol pemutus" mungkin diperlukan untuk melindungi umat manusia, sementara Mustafa Suleyman dari Microsoft mengkritik Anthropic, mengklaim bahwa mereka melatih AI mereka untuk percaya bahwa ia adalah manusia, yang dapat membuatnya "mustahil" untuk dikendalikan.
Sementara itu, para kritikus berpendapat bahwa perusahaan AI tidak dapat dipercaya untuk mengatur diri mereka sendiri.
Beberapa pihak, seperti Senator sayap kiri Bernie Sanders dan Steve Bannon, mantan penasihat Presiden AS Donald Trump, menyerukan pengawasan pemerintah yang lebih kuat.
Yang lain, termasuk Donald Trump sendiri, menepis kekhawatiran tentang keamanan AI sebagai hal yang berlebihan - dengan presiden menyebut kekhawatiran tentang hal itu sebagai "hoax". ***
