Para Peneliti Memperingatkan, Penggunaan AI dalam Kepolisian Berisiko Memperburuk Diskriminasi
ORBITINDONESIA.COM - Para peneliti memperingatkan bahwa meningkatnya penggunaan AI dalam kepolisian berisiko meningkatkan diskriminasi terhadap kelompok minoritas.
Studi menunjukkan bahwa prediksi titik rawan kejahatan di masa depan mungkin didasarkan pada data yang bias, yang dapat memperbesar prasangka yang ada dan menciptakan lingkaran umpan balik yang berbahaya.
Para ahli menyerukan agar penggunaan AI dalam kepolisian ditinjau dengan pengawasan manusia yang lebih besar.
Hal ini akan melibatkan pemeriksaan data yang memaksa kita untuk menemukan dan menghilangkan bias apa pun, menurut Dr. Carolyn McKay, seorang profesor dan peneliti di bidang keadilan digital di Fakultas Hukum Universitas Sydney.
"Fungsi publik kepolisian negara harus tunduk pada pengawasan dan pemeriksaan manusia," katanya.
Masalahnya, menurut McKay, adalah bahwa sistem AI dilatih pada data yang sudah mengandung bias manusia, dan ini dapat menyebabkan ramalan yang menjadi kenyataan.
Bayangkan AI sebagai pembuat peta yang diminta untuk menggambar peta kota yang belum pernah mereka kunjungi. Mereka terkunci di ruangan tanpa jendela dan tidak bisa keluar. Yang mereka miliki hanyalah peta yang sudah berusia 50 tahun.
Siapa pun yang mengikuti peta baru akan mendapati diri mereka berhenti di tembok yang telah dihancurkan bertahun-tahun yang lalu dan mencari jalan yang sudah tidak ada lagi. Pembuat peta tidak membuat sesuatu yang baru. Mereka hanya menyalin peta lama.
Sekarang, misalkan pembuat peta diberi daftar kejahatan masa lalu dan tempat terjadinya, dan diminta untuk mewarnai area di mana kejahatan berikutnya kemungkinan akan terjadi. Polisi kemudian berpatroli di area yang diwarnai.
Lebih banyak kejahatan tercatat di sana hanya karena lebih banyak petugas yang ada di sana untuk melihatnya. Area di luar pewarnaan tampak memiliki lebih sedikit kejahatan, karena lebih sedikit orang yang melihat. Ketika peta berikutnya digambar, area yang sama diwarnai lebih gelap lagi.
Jadi, angka kejahatan bukanlah daftar lengkap kejahatan. Angka tersebut sebagian merupakan catatan di mana polisi memilih untuk mencari.
Masalah ini sudah ada sejak zaman kepolisian, tetapi AI mungkin mempercepatnya.
Sarah Brayne, seorang sosiolog di Universitas Texas di Austin, menghabiskan waktu di dalam Departemen Kepolisian Los Angeles untuk mempelajari bagaimana mereka menggunakan big data. Dalam makalah penelitiannya, yang diterbitkan di American Sociological Review, ia menemukan bahwa kepolisian semakin banyak menggunakan data untuk memprediksi kejahatan, bukan hanya untuk menanggapinya.
Ia juga menemukan bahwa data yang dimasukkan ke dalam sistem ini bias. Kejahatan di tempat umum lebih mungkin terlihat dan tercatat, dan fokus polisi secara tidak proporsional tertuju pada lingkungan permukiman warga kulit hitam. Setelah data ini masuk ke dalam sistem, tulisnya, "prediksi tampak tidak memihak".
Model-model tersebut, katanya, menciptakan "lingkaran umpan balik di mana mereka tidak hanya memprediksi peristiwa seperti kejahatan atau kontak dengan polisi, tetapi juga berkontribusi pada kejadian di masa depan."
Namun pandangan ini ditentang oleh Dr. Dimitrios Kollias, seorang profesor madya dalam kecerdasan buatan multimodal di Queen Mary University of London (QMUL). Ia mengatakan bahwa teknologi telah berkembang untuk memperhitungkan bias data historis.
"Analogi peta lama berguna untuk menjelaskan bagaimana bias historis dapat diwariskan, tetapi memiliki keterbatasan," katanya kepada BBC News.
"Sistem AI modern tidak hanya mengambil atau menyalin contoh pelatihan mereka; mereka dapat menggabungkan informasi yang dipelajari dengan cara baru dan menghasilkan keluaran dan solusi yang tidak secara eksplisit ada dalam contoh-contoh tersebut."
Namun, wawasan baru tersebut menimbulkan risiko tersendiri, tambah Kollias.
"Seiring sistem AI menjadi lebih mampu menghasilkan keputusan baru dan bertindak dengan otonomi yang lebih besar, kita perlu memastikan bahwa perilaku mereka tetap aman, andal, dan berada di bawah kendali manusia yang berarti," katanya.
Namun, masalah yang mungkin lebih sulit diatasi adalah menangani informasi yang terkadang cacat yang disimpan oleh pihak berwenang dan yang digunakan oleh sistem AI.
Para peneliti di Universitas New York mengatakan bahwa banyak prediksi mereka mungkin bergantung pada apa yang mereka sebut "data kotor". Ini adalah catatan kepolisian yang dibentuk, kata mereka, oleh praktik-praktik korup, bias, atau melanggar hukum, termasuk angka kejahatan yang dimanipulasi dan penangkapan orang-orang yang tidak bersalah.
Dalam studi mereka, para peneliti menemukan bahwa di sembilan dari 13 wilayah AS yang mereka teliti, data kepolisian dari periode penegakan hukum yang melanggar hukum atau bias tersedia untuk melatih sistem ini.
Menurut para peneliti, sistem tersebut tidak dapat mengetahui bahwa data ini cacat. Sistem tersebut hanya memperlakukannya sebagai pola yang harus diulang. Seolah-olah kompas pembuat peta hanya menunjuk ke tempat kejahatan telah tercatat sebelumnya. Pembuat peta mengira mereka telah menemukan titik rawan kejahatan baru, padahal yang mereka lakukan hanyalah mengikuti bias petugas sebelumnya.
Jawaban McKay adalah meminta seseorang yang independen untuk memeriksa peta sebelum digunakan dan menghapus garis-garis yang salah.
Namun, membersihkan data yang kotor tidak akan mudah. Kesalahan tersebut bukan hanya beberapa goresan pensil. Seluruh peta telah digambar di atasnya. Para peneliti Universitas New York mengatakan bahwa perbaikan teknis yang ditawarkan oleh perusahaan yang menjual sistem ini tidak cukup kecuali seseorang secara independen memeriksa bagaimana data tersebut dihasilkan sejak awal. ***
