Apple Google Diminta Hapus Aplikasi Nudify Deepfake di App Store
ORBITINDONESIA.COM – Apple dan Google kembali disorot setelah Pengacara Kota San Francisco mengirim surat perintah penghentian (cease-and-desist) agar 13 aplikasi AI “face-swap” yang bisa “menelanjangi” orang segera diturunkan dari App Store dan Play Store. Intinya tegas: hentikan keuntungan dari teknologi deepfake nudify yang disebut terutama dipakai untuk menarget perempuan dan anak perempuan. (Orbit dari berbagai sumber, 27 Juli 2026)
Kantor Pengacara Kota San Francisco, David Chiu, menilai aplikasi-aplikasi itu memungkinkan pembuatan gambar telanjang nonkonsensual berbasis AI, sehingga masuk kategori kekerasan seksual digital. Dalam suratnya, Chiu meminta Apple dan Google “memutus” relasi bisnis dengan pengembang karena dianggap “membantu dan mendorong” peredaran deepfake eksplisit. (Orbit dari berbagai sumber, 27 Juli 2026)
Chiu menegaskan pembuatan gambar intim tanpa persetujuan adalah ilegal, berbahaya, dan tidak dapat ditoleransi. Ia menyebut Apple dan Google kemungkinan “menghasilkan jutaan dolar” dari potongan biaya transaksi in-app yang dipakai aplikasi nudifikasi. (Orbit dari berbagai sumber, 27 Juli 2026)
Masalahnya bukan baru, karena peneliti dan jurnalis berulang kali menemukan aplikasi serupa lolos kurasi, bahkan ada yang sempat diberi label cocok untuk anak. Di tengah gelombang regulasi anti-deepfake, toko aplikasi dan platform digital justru masih menjadi jalur distribusi yang mengarahkan publik ke teknologi berbahaya itu. (Orbit dari berbagai sumber, 27 Juli 2026)
Apple dan Google sebenarnya punya kebijakan pengembang yang melarang pornografi, pelecehan, dan perundungan, namun pelanggaran tetap muncul dalam skala besar. Google melalui juru bicara Dan Jackson mengatakan telah menghapus “ratusan” aplikasi bernuansa nudify dan membatasi kata kunci seperti “nudify” di tokonya. (Orbit dari berbagai sumber, 27 Juli 2026)
Apple menyatakan pengembang bertanggung jawab atas konten aplikasi, dan pengguna dapat melaporkan aplikasi bermasalah. Juru bicara Apple, Adam Dema, mengatakan tiga aplikasi yang ditandai sudah dihapus dan Apple sedang menghentikan akun pengembangnya, sementara pengembang lain diminta memperbaiki pelanggaran kebijakan atau berisiko dikeluarkan. (Orbit dari berbagai sumber, 27 Juli 2026)
Namun data riset menunjukkan kebocoran moderasi bukan insiden kecil, melainkan pola. Tech Transparency Project melaporkan sekitar 100 aplikasi di dua toko aplikasi yang terkait teknologi nudifikasi, dengan estimasi unduhan kolektif sekitar 480 juta kali dan potensi pendapatan gabungan sekitar 120 juta dolar AS. (Orbit dari berbagai sumber, 27 Juli 2026)
Riset pracetak dari Cornell University dan Georgetown University pada Mei menemukan 420 aplikasi face-swap di App Store dan Play Store, lalu menguji 155 aplikasi untuk potensi penyalahgunaan. Hasilnya mencolok: pada 70% kasus, aplikasi bisa dipakai membuat face-swap dengan gambar telanjang, tanpa pengaman yang efektif. (Orbit dari berbagai sumber, 27 Juli 2026)
Di sinilah akar persoalan: banyak aplikasi tidak dipasarkan sebagai “nudify”, melainkan alat edit foto yang tampak netral. Peneliti menyebutnya “dual-use”, yakni aplikasi yang terlihat jinak agar lolos moderasi, tetapi punya kemampuan menghasilkan konten berbahaya. (Orbit dari berbagai sumber, 27 Juli 2026)
Dampaknya tidak abstrak, karena deepfake seksual dipakai untuk merundung, mempermalukan, dan memeras korban. WIRED dan Indicator Media sebelumnya mengungkap kasus di setidaknya 90 sekolah, di mana gambar pelecehan seksual deepfake dibuat terhadap anak di bawah umur. (Orbit dari berbagai sumber, 27 Juli 2026)
Chiu menekankan kerusakan yang ditimbulkan menyasar reputasi, kesehatan mental, dan otonomi korban. Ia bahkan menyebut ada korban yang sampai memiliki dorongan bunuh diri, menunjukkan bahwa “gambar” di internet bisa berubah menjadi kekerasan nyata. (Orbit dari berbagai sumber, 27 Juli 2026)
Surat penghentian ini memukul tepat pada titik paling sensitif ekosistem aplikasi: insentif ekonomi. Jika Apple dan Google mengambil komisi dari transaksi in-app, maka klaim “kami hanya penyedia platform” terdengar seperti pembelaan yang mengabaikan fakta bahwa arus uang ikut menghidupkan industri. (Orbit dari berbagai sumber, 27 Juli 2026)
Masalahnya juga bukan semata konten porno, melainkan mekanisme produksi kekerasan berbasis citra yang otomatis dan masif. Ketika butuh “dua klik” untuk membuat seseorang telanjang tanpa izin, maka yang dipertaruhkan adalah martabat manusia yang diperas menjadi fitur berbayar. (Orbit dari berbagai sumber, 27 Juli 2026)
Moderasi berbasis laporan pengguna pun tampak terlambat, karena korban biasanya baru tahu setelah konten menyebar. Dalam konteks ini, kurasi pra-rilis, audit model, dan deteksi pola “dual-use” semestinya menjadi standar, bukan respons setelah viral. (Orbit dari berbagai sumber, 27 Juli 2026)
Chiu memberi sinyal bahwa jalur hukum masih terbuka bila perusahaan tidak bertindak cepat. Ancaman itu penting, karena sejarah platform digital menunjukkan perubahan besar sering lahir bukan dari janji etika, melainkan dari risiko litigasi dan reputasi. (Orbit dari berbagai sumber, 27 Juli 2026)
Kasus aplikasi nudify deepfake ini memperlihatkan paradoks teknologi: inovasi yang memudahkan kreativitas juga memudahkan penghancuran hidup orang lain. Pertanyaannya kini bukan apakah Apple dan Google bisa menghapus 13 aplikasi, melainkan apakah mereka mampu menutup celah sistemik yang membuat ratusan aplikasi “dual-use” terus bermunculan. (Orbit dari berbagai sumber, 27 Juli 2026)
Jika toko aplikasi ingin tetap disebut “aman dan tepercaya”, maka keamanan tidak boleh berhenti pada slogan pemasaran. Pada akhirnya, ukuran kemajuan teknologi bukan seberapa canggih AI meniru tubuh manusia, tetapi seberapa serius industri melindungi manusia yang tubuhnya dijadikan sasaran. (Orbit dari berbagai sumber, 27 Juli 2026)
