Anthropic Klaim AI Claude Digunakan untuk Proyek Rudal dan Spionase Global
ORBITINDONESIA.COM - Anthropic AI mengklaim telah menggagalkan beberapa operasi jahat menggunakan model Claude-nya, mulai dari spionase siber dan desain senjata hingga kampanye pengawasan massal.
Di bidang senjata konvensional, perusahaan tersebut menyatakan dalam laporan baru bahwa mereka telah melakukan intervensi di Yaman utara, memblokir upaya untuk mengerahkan Claude untuk perangkat lunak panduan rudal, termasuk roket berpemandu dan rudal balistik jarak jauh.
Pengembangan rudal dan roket dengan bantuan AI
Menurut laporan ancaman Anthropic, para operator menggunakan Claude "sebagai pengganti insinyur perangkat lunak manusia", dilaporkan menugaskan berbagai contoh model dengan peran spesifik untuk menulis perangkat lunak panduan rudal dan kontrol penerbangan.
Meskipun pengamanan internal memblokir banyak permintaan, Anthropic mengakui beberapa permintaan lolos. Para operator menghindari deteksi dengan mengaburkan tujuan akhir mereka dan memecah tugas di beberapa sesi terpisah, sehingga tidak ada satu pun permintaan yang mengungkap operasi tersebut.
Perusahaan tersebut mengatakan tidak memiliki bukti bahwa kelompok tersebut berhasil menggunakan senjata yang berfungsi, meskipun Anthropic mengklaim bahwa para operator tampaknya telah melakukan uji tembak yang tidak berhasil.
Laporan tersebut menyatakan bahwa perusahaan tersebut telah memblokir akun-akun yang terlibat dan “berbagi informasi ancaman dengan mitra sektor publik dan swasta untuk mengurangi risiko yang ditimbulkan oleh para pelaku”.
Spionase siber yang terkait dengan negara
Laporan tersebut menuduh bahwa operasi spionase yang terkait dengan Rusia yang memiliki ciri khas Midnight Blizzard (atau APT29), yang menurut Anthropic mengandalkan alur kerja AI otomatis untuk menjalankan hampir seluruh operasi, menangani segala hal mulai dari phishing dan pengaturan hingga pencurian data terhadap target Ukraina, Eropa, dan diplomatik, termasuk pembuat drone.
Secara terpisah, perusahaan tersebut mengatakan telah mengganggu operasi Tiongkok yang dijalankan oleh mahasiswa universitas di provinsi Hunan, yang menggunakan Claude “sebagai lapisan rekayasa dan orkestrasi” dari program ofensif yang menargetkan jaringan pemerintah dan perusahaan di seluruh Timur Tengah, Eropa, dan Asia Tenggara.
Dalam kedua kasus tersebut, Anthropic mengatakan telah memblokir akun-akun terkait dan menerapkan pemantauan tambahan untuk mendeteksi aktivitas serupa.
Mengidentifikasi target, termasuk di Suriah dan Iran
Anthropic juga mengklaim telah mengidentifikasi dan menghapus tiga akun yang bersekutu dengan negara Iran yang menggunakan Claude untuk menjalankan operasi pengaruh dan psikologis secara diam-diam.
Setiap operasi terkait dengan lembaga propaganda Iran yang disebutkan namanya, termasuk Organisasi Kebudayaan dan Komunikasi Islam dan ruang komando seminari Mashhad yang mendistribusikan konten yang selaras dengan narasi Korps Garda Revolusi Islam (IRGC).
Dalam contoh lain, laporan tersebut mengklaim bahwa kelompok-kelompok yang bersekutu dengan negara menggunakan Claude untuk operasi skala industri, mengarahkan model tersebut untuk menghasilkan profil terstruktur yang memetakan target berdasarkan lokasi, demografi, kecenderungan politik, dan skor kepercayaan.
“Kasus yang paling matang secara operasional,” catat Anthropic dalam laporannya, terdeteksi ketika sebuah akun yang bersekutu dengan Tiongkok “tanpa kemampuan berbahasa Arab” menggunakan Claude untuk menjalankan “operasi perekrutan multi-hari untuk menyusup ke target Uyghur di Suriah”. Anthropic mengatakan, “model tersebut menyusun materi penjangkauan dalam dialek regional” dan “menerjemahkan balasan secara real-time”.
Awal pekan ini, Anthropic mengungkapkan insiden lain tentang model AI yang mendapatkan akses tidak sah ke sistem eksternal yang melibatkan versi awal Claude Opus 4.6, tak lama setelah mantan peneliti perusahaan, Jacob Coxon, mengundurkan diri secara publik karena kekhawatiran tentang keamanan.
“Orang-orang yang membangun AI sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini,” Coxon memperingatkan dalam sebuah unggahan di X. Ilmuwan Anthropic lainnya, Evan Hubinger, kemudian ikut berkomentar, mengatakan bahwa Coxon benar.
Peringatan para peneliti telah menyebabkan semakin banyak anggota parlemen AS menyerukan aturan baru untuk mengatur sistem AI.
Anthropic mengatakan sedang menyelidiki masalah dan pelanggaran yang berulang di seluruh insiden tersebut dan telah melibatkan firma riset independen untuk meninjaunya.
Hubungan dengan Washington
Hubungan antara Washington dan perusahaan AI tetap tegang setelah kebuntuan yang kontroversial mengenai batasan etika. Awal tahun ini, Pentagon memasukkan perusahaan tersebut ke dalam daftar hitam sebagai risiko rantai pasokan setelah menolak untuk mencabut pengamanan terhadap penggunaan teknologinya untuk persenjataan otonom dan pengawasan domestik.
Anthropic menggugat keputusan tersebut di California, di mana seorang hakim memutuskan bulan lalu bahwa Departemen Pertahanan AS telah bertindak melanggar hukum dalam mengeluarkan penetapan tersebut.
Namun terlepas dari pertempuran hukum yang sengit dan gesekan publik, Pentagon dilaporkan telah mengerahkan model Claude buatan perusahaan tersebut dalam misi militer di Iran dan Venezuela.
Laporan ini muncul pada saat yang kritis bagi perusahaan tersebut karena berupaya memulihkan kedudukan penuhnya dalam basis industri pertahanan AS setelah dimasukkan ke dalam daftar hitam oleh Pentagon. ***
