Munculnya Tren Buka Baju AI

Perusahaan analisis media sosial Graphika mengamati adanya peningkatan dalam penggunaan "AI membuka baju"; di mana alat kecerdasan buatan (AI) generatif digunakan untuk menghapus pakaian secara digital dari gambar yang disediakan pengguna.

Tren ini menimbulkan kekhawatiran penting tentang privasi dan persetujuan.

Temuan Graphika menunjukkan peningkatan signifikan sebesar 2.408% dari tahun ke tahun, dengan total lebih dari 32.100 komentar dan unggahan di platform seperti Reddit dan X pada tahun 2023.

Tangkapan layar diambil dari Laporan Graphika:

Tren ini terkait dengan maraknya layanan Non-Consensual Intimate Images (NCII) sintetis, yang memanfaatkan AI untuk menghasilkan konten eksplisit tanpa persetujuan, sehingga menimbulkan risiko pelecehan yang ditargetkan, pemerkosaan, dan produksi materi pelecehan seksual terhadap anak (child sexual abuse material/CSAM).

Graphika menekankan kemudahan dan keefektifan biaya yang diberikan oleh alat AI untuk menghasilkan konten eksplisit yang realistis dalam skala besar.

Tanpa alat bantu ini, pengguna harus mengelola model difusi gambar khusus, tugas yang memakan waktu dan berpotensi mahal.

Perusahaan memperingatkan adanya potensi konsekuensi, termasuk pembuatan konten eksplisit palsu.

Selain itu, penggunaan AI untuk membuka baju tidak hanya terbatas pada gambar statis, tetapi juga pada video deepfake, yang menampilkan selebriti seperti Mr.

Penemuan dan Kekhawatiran Dark Web

Pada bulan Oktober, timInternet Watch Foundation (IWF) menemukan lebih dari 20.254 gambar pelecehan anak di forum web gelap dalam satu bulan, yang menimbulkan kekhawatiran tentang potensi dampak luar biasa dari pornografi anak yang dihasilkan oleh AI di internet.

Membedakan antara pornografi deepfake dan gambar asli menjadi lebih menantang karena kemajuan dalam pencitraan AI generatif, menurut IWF.

AI Deepfakes sebagai Tantangan yang Terus Berkembang

Menyoroti parahnya masalah ini, PBB menyatakan bahwa media yang dihasilkan oleh AI merupakan ancaman "serius dan mendesak" terhadap integritas informasi, terutama di media sosial.

Sebagai tanggapan, timParlemen Eropa dan negosiator Dewan Eropa menetapkan aturan yang mengatur penggunaan AI di Uni Eropa pada tanggal 8 Desember mengatasi tantangan yang lebih luas yang ditimbulkan oleh konten yang dihasilkan oleh kecerdasan buatan.