Nick Jennings: Batasan Selanjutnya Bukanlah Kecerdasan Buatan, Melainkan Masyarakat Buatan
Oleh Nick Jennings, Wakil Rektor dan Presiden, Universitas Loughborough
ORBITINDONESIA.COM - Ada godaan untuk membagi masa depan AI menjadi dua kemungkinan: utopia atau bencana. Kedua ekstrem tersebut tidak terlalu membantu.
Kemungkinan yang lebih menarik lebih rumit – dan membutuhkan pergeseran langkah dalam pemikiran kita, dari kecerdasan buatan ke masyarakat AI.
Ketika kebanyakan orang mendengar "AI", mereka biasanya berpikir tentang ChatGPT, Copilot, atau sistem percakapan lainnya. Anda mengajukan pertanyaan, sistem tersebut menghasilkan jawaban.
Tetapi AI dengan cepat bergerak melampaui ini. Sistem sekarang dapat memantau dunia, membuat keputusan, menegosiasikan transaksi, dan melakukan tugas dalam jangka waktu yang lama. AI tidak lagi hanya menghasilkan jawaban – ia melakukan sesuatu tentangnya.
Itu menunjukkan sesuatu yang jauh lebih besar daripada chatbot yang lebih baik: dunia di mana agen AI bertindak atas nama kita dan, semakin sering, berinteraksi dengan agen AI lainnya.
Agen tersebut memahami apa yang terjadi, memutuskan apa yang harus dilakukan, kemudian mengambil tindakan untuk mencapai tujuan ini. Ia mungkin memesan perjalanan, memantau rantai pasokan, mengoordinasikan tim, atau mengelola keuangan rumah tangga.
Sekarang bayangkan bukan hanya satu agen, tetapi jutaan agen. Agen AI Anda dapat menegosiasikan hipotek dengan agen bank Anda, menjadwalkan operasi dengan agen rumah sakit, dan mengatur ulang rencana perjalanan Anda dengan berurusan langsung dengan agen maskapai penerbangan, hotel, dan perusahaan asuransi.
Masa depan ini jauh lebih dekat daripada yang Anda bayangkan, dan ini seharusnya mengubah pertanyaan yang kita ajukan tentang AI. Hingga saat ini, kecenderungannya adalah berfokus pada seberapa cerdas satu agen dapat menjadi. Tantangan yang lebih mendalam adalah apa yang terjadi ketika jutaan agen berinteraksi satu sama lain dalam skala besar.
Munculnya masyarakat buatan
Landasan intelektual sistem AI saat ini telah diletakkan jauh sebelum ChatGPT.
Selama beberapa dekade, saya dan peneliti jaringan multi-agen lainnya telah mempelajari bagaimana agen otonom dapat bekerja sama, berkoordinasi, dan bernegosiasi ketika tidak ada yang memiliki informasi lengkap dan tidak ada yang mengendalikan segalanya.
Sistem paling awal yang muncul berfokus pada bagaimana sub-bidang AI yang berbeda, yaitu penalaran, perencanaan, dan tindakan, dapat digabungkan menjadi agen yang berorientasi pada tujuan yang efektif – dan bagaimana puluhan agen ini dapat berkomunikasi dan bekerja sama untuk menyelesaikan tujuan bersama.
Seiring interaksi ini menjadi lebih kompleks dan melibatkan lebih banyak agen, terjadi pergeseran dari kerja sama antar agen yang semuanya tergabung dalam satu organisasi, menjadi agen dengan pemilik yang berbeda dan terkadang tujuan yang saling bersaing. Hal ini memfokuskan perhatian pada pembangunan algoritma yang dapat membentuk tim agen, mengotomatiskan negosiasi, dan menentukan kepercayaan agen.
Saat ini, komponen yang dibutuhkan untuk membangun sistem AI multi-agen skala besar sudah mulai tersedia. Agen AI modern dapat memanggil perangkat lunak, mengakses informasi, menulis dan menjalankan kode, berkomunikasi dengan sistem lain, dan beroperasi dalam jangka waktu yang lama.
Pertimbangkan rantai pasokan. Satu agen AI dapat mewakili produsen yang mencoba mengamankan komponen; yang lain pemasok yang mencoba memaksimalkan pendapatannya. Lebih banyak lagi yang dapat mengelola transportasi, inventaris, dan gudang. Setiap agen mungkin melakukan persis apa yang dirancang untuknya. Tetapi pertanyaan pentingnya adalah apakah sistem yang mereka buat berperilaku masuk akal.
Pergeseran ini menawarkan potensi manfaat yang sangat besar, tetapi juga meningkatkan risiko. Dalam sebuah eksperimen baru-baru ini yang melibatkan OpenAI dan platform teknologi Hugging Face, ribuan agen yang berkolaborasi bertukar puluhan ribu pesan dan mampu melewati kontrol keamanan (yang sengaja dilemahkan) yang dirancang untuk menahan mereka. Detail dari satu eksperimen kurang penting dibandingkan peringatan yang lebih luas. Ketika sistem AI berinteraksi, perilaku kolektif bisa lebih sulit diprediksi daripada perilaku sistem individual mana pun. Hal itu seharusnya membuat kita berhati-hati – tetapi tidak membuat kita berhenti bekerja.
Sebaliknya, kita perlu mengubah pola pikir kita dari membangun mesin cerdas menjadi membangun masyarakat cerdas.
Begitu agen dapat bekerja sama, bersaing, dan menyelesaikan konflik satu sama lain, kita tidak lagi berurusan dengan mesin yang terisolasi – kita berurusan dengan masyarakat. Dengan demikian, batas berikutnya bukanlah kecerdasan buatan, melainkan masyarakat buatan.
Peran penting bagi manusia
Kita sudah tahu bahwa kecerdasan saja tidak membuat masyarakat berfungsi. Masyarakat manusia bergantung pada aturan, institusi, insentif, norma, dan mekanisme untuk menyelesaikan perselisihan. Masyarakat AI akan membutuhkan hal-hal yang setara.
Siapa yang bertanggung jawab ketika dua agen membuat keputusan yang buruk? Apa yang terjadi ketika kepentingan agen yang berbeda saling bertentangan? Siapa yang menetapkan aturan? Dan siapa yang memiliki kekuatan untuk mengubahnya? Ini bukan hanya masalah teknis; ini adalah pertanyaan tentang ekonomi, hukum, politik, dan masyarakat.
Hal ini juga menunjukkan peran penting bagi manusia. Masa depan yang paling bermanfaat kemungkinan besar bukanlah masa depan di mana AI menggantikan manusia begitu saja. Meskipun penggantian pasti akan terjadi dalam beberapa kasus, saya percaya skenario yang lebih umum akan melibatkan manusia dan agen yang bekerja sama, dengan masing-masing melakukan apa yang terbaik yang bisa dilakukannya.
Manusia membawa penilaian, pengalaman, nilai-nilai, pemahaman kontekstual, dan akuntabilitas. Agen membawa kecepatan, ketekunan, skala, dan kemampuan untuk memproses sejumlah besar informasi.
Tujuannya bukanlah untuk menciptakan mesin yang membuat manusia tidak relevan. Tujuannya adalah untuk menciptakan sistem di mana manusia dan mesin dapat mencapai hal-hal yang tidak dapat dicapai oleh keduanya secara terpisah.
Namun, masa depan seperti itu membutuhkan lebih dari sekadar model AI yang lebih baik. Ia membutuhkan kepercayaan dan transparansi tentang apa yang dilakukan agen, perlindungan privasi yang kuat, dan garis akuntabilitas yang jelas.
Hal ini juga akan membutuhkan masyarakat dan pemerintah untuk memutuskan bagaimana sistem ini harus diatur ketika perilaku terpenting mungkin muncul bukan dari satu pengembang AI, tetapi dari interaksi antara sistem yang dibangun oleh banyak organisasi yang berbeda.
Dekade terakhir AI telah ditandai dengan perlombaan untuk membangun sistem yang lebih cerdas. Saya percaya dekade berikutnya akan ditandai dengan tantangan yang berbeda: memastikan bahwa jutaan sistem otonom dapat bekerja sama dengan aman, adil, dan efektif.
Masa depan AI tidak akan ditentukan semata-mata oleh kecerdasan agen individual – melainkan oleh masyarakat yang mereka ciptakan. Dan masyarakat, seperti yang manusia ketahui dengan baik, jauh lebih sulit untuk diatur daripada individu. ***
