Ketika AI Bukan Sekadar Teknologi: Membaca Critical Theory of AI Karya Simon Lindgren
Simon Lindgren. Critical Theory of AI. Polity Press, Oktober 2023 (edisi Polity). Dicetak ulang pada 2024. Tebal: 224 halaman.
ORBITINDONESIA.COM - Setiap hari kita berinteraksi dengan kecerdasan buatan atau Artificial Intelligence (AI). Ketika membuka media sosial, algoritma menentukan konten apa yang muncul di layar kita.
Ketika berbelanja daring, sistem merekomendasikan produk yang dianggap sesuai dengan minat kita. Ketika menggunakan mesin pencari, aplikasi navigasi, hingga chatbot seperti ChatGPT, kita sedang berhadapan dengan teknologi yang semakin canggih dan semakin tak terlihat.
Di tengah euforia revolusi AI yang melanda dunia, sebagian besar perbincangan publik masih berkisar pada pertanyaan-pertanyaan praktis: apakah AI akan menggantikan pekerjaan manusia? Apakah AI dapat dipercaya? Bagaimana menghindari penyalahgunaan teknologi ini?
Namun Simon Lindgren, profesor sosiologi dari Universitas Umeå, Swedia, mengajak kita melangkah lebih jauh. Dalam bukunya Critical Theory of AI yang diterbitkan Polity Press pada 2023, Lindgren mengajukan pertanyaan yang jauh lebih mendasar: siapa yang sesungguhnya diuntungkan oleh AI, dan bagaimana teknologi ini mengubah relasi kekuasaan dalam masyarakat?
Buku ini menarik karena tidak melihat AI sebagai sekadar perangkat teknologi. Lindgren justru memandang AI sebagai fenomena sosial, ekonomi, politik, dan ideologis yang membentuk kehidupan manusia modern.
Pandangan semacam ini berakar pada tradisi Teori Kritis (Critical Theory), sebuah aliran pemikiran yang berkembang dari Mazhab Frankfurt di Jerman sejak awal abad ke-20. Jika para pemikir seperti Max Horkheimer, Theodor Adorno, Herbert Marcuse, dan kemudian Jürgen Habermas mengkritik bagaimana media massa, industri budaya, dan kapitalisme memengaruhi masyarakat modern, maka Lindgren mencoba melakukan hal yang sama terhadap AI.
Menurutnya, kesalahan terbesar masyarakat saat ini adalah menganggap AI sebagai teknologi yang netral.
Sekilas anggapan tersebut terdengar masuk akal. Bukankah komputer hanya menjalankan perintah yang diberikan manusia? Bukankah algoritma bekerja berdasarkan logika matematis?
Lindgren menolak cara pandang tersebut.
Ia berargumen bahwa tidak ada AI yang benar-benar netral. Setiap sistem AI dibangun berdasarkan pilihan-pilihan tertentu: data apa yang digunakan, siapa yang mengumpulkan data, siapa yang merancang algoritma, serta tujuan apa yang hendak dicapai. Dengan kata lain, AI selalu membawa kepentingan, nilai, dan asumsi tertentu yang sering kali tidak terlihat oleh pengguna.
Di sinilah buku ini menjadi sangat relevan.
Selama beberapa tahun terakhir, dunia menyaksikan bagaimana AI mulai digunakan untuk merekrut karyawan, menentukan kelayakan kredit, mengawasi perilaku masyarakat, memprediksi tindak kriminal, hingga membantu pengambilan keputusan pemerintahan. Ketika keputusan-keputusan penting tersebut semakin bergantung pada algoritma, pertanyaan tentang kekuasaan menjadi tidak terelakkan.
Lindgren mengingatkan bahwa algoritma tidak muncul dari ruang hampa. Ia lahir dari struktur sosial yang sudah ada sebelumnya. Jika data yang digunakan mengandung bias, maka AI berpotensi memperkuat bias tersebut dalam skala yang jauh lebih besar.
Karena itu, menurut Lindgren, persoalan AI bukan sekadar persoalan teknologi. Ia adalah persoalan masyarakat.
Salah satu bagian paling menarik dari buku ini adalah kritik terhadap apa yang disebutnya sebagai "mitos AI". Banyak orang percaya bahwa AI lebih objektif daripada manusia karena bekerja berdasarkan data dan statistik. Namun Lindgren menunjukkan bahwa data sendiri tidak pernah sepenuhnya netral.
Data adalah hasil seleksi. Ada data yang dikumpulkan dan ada data yang diabaikan. Ada pengalaman manusia yang masuk ke dalam sistem, ada pula yang tersisih. Ketika data menjadi fondasi AI, maka bias-bias sosial yang sudah ada dalam masyarakat dapat direproduksi oleh mesin.
Akibatnya, AI bukan hanya mencerminkan dunia yang ada, tetapi juga berpotensi memperkuat ketimpangan yang telah berlangsung lama.
Buku ini juga memberikan perhatian besar pada hubungan antara AI dan kapitalisme digital.
Menurut Lindgren, perkembangan AI tidak dapat dipisahkan dari dominasi perusahaan teknologi raksasa yang menguasai data dalam jumlah luar biasa besar. Data telah menjadi komoditas baru dalam ekonomi digital. Semakin banyak data yang dimiliki sebuah perusahaan, semakin besar kemampuannya melatih model AI yang lebih canggih. Semakin canggih model tersebut, semakin besar pula keuntungan ekonomi yang dapat diraih.
Dalam konteks ini, AI bukan sekadar inovasi teknologi, melainkan bagian dari mekanisme akumulasi kekayaan dan kekuasaan.
Lindgren bahkan mengingatkan bahwa perdebatan publik mengenai etika AI sering kali terlalu sempit. Saat ini banyak lembaga, perusahaan, dan pemerintah berbicara tentang transparansi algoritma, perlindungan privasi, atau prinsip keadilan dalam penggunaan AI. Semua itu penting. Namun menurutnya, fokus yang terlalu besar pada etika sering kali membuat kita lupa pada persoalan yang lebih mendasar.
Pertanyaan yang seharusnya diajukan bukan hanya bagaimana membuat AI menjadi lebih etis, melainkan siapa yang mengendalikan AI dan untuk kepentingan siapa teknologi itu dikembangkan.
Di sinilah Critical Theory of AI berbeda dari banyak buku populer tentang kecerdasan buatan. Buku ini tidak menawarkan panduan teknis tentang cara membangun model AI. Ia juga tidak terobsesi pada spekulasi mengenai robot yang akan menguasai dunia.
Sebaliknya, Lindgren mengajak pembaca memahami AI sebagai bagian dari struktur sosial yang lebih luas. AI tidak berdiri sendiri. Ia terhubung dengan negara, perusahaan, media, sistem pendidikan, pasar tenaga kerja, dan kehidupan sehari-hari masyarakat.
Bagi pembaca Indonesia, buku ini memiliki relevansi yang sangat kuat.
Indonesia sedang bergerak cepat menuju transformasi digital. Pemerintah mulai memanfaatkan AI dalam berbagai layanan publik. Perusahaan media menggunakan AI untuk produksi konten. Dunia pendidikan mulai bereksperimen dengan pembelajaran berbasis AI. Sektor keuangan, kesehatan, hingga keamanan juga mulai mengadopsi teknologi serupa.
Dalam situasi seperti ini, pertanyaan-pertanyaan yang diajukan Lindgren menjadi semakin penting. Siapa yang memiliki data warga Indonesia? Apakah Indonesia akan menjadi pencipta teknologi AI atau hanya menjadi pengguna? Apakah manfaat ekonomi AI akan dinikmati secara merata atau justru terkonsentrasi pada segelintir pihak?
Buku ini tidak memberikan jawaban sederhana atas pertanyaan-pertanyaan tersebut. Namun justru di situlah letak kekuatannya.
Critical Theory of AI mengingatkan kita bahwa setiap revolusi teknologi selalu membawa konsekuensi sosial dan politik. AI bukan sekadar alat yang membuat pekerjaan lebih cepat dan lebih efisien. Ia juga merupakan arena perebutan pengaruh, kekuasaan, dan kepentingan ekonomi.
Ketika dunia semakin terpesona oleh kecanggihan mesin, Simon Lindgren mengajak kita melakukan sesuatu yang sering terlupakan: mempertanyakan siapa yang mengendalikan mesin itu, dan ke mana arah masyarakat dibawa olehnya.
Pertanyaan tersebut mungkin lebih penting daripada teknologi itu sendiri.
(Oleh Dr. Satrio Arismunandar) ***
