Oleh

• Asher Flynn, Universitas Monash; Anastasia Powell, Universitas RMIT, Asia Eaton, Universitas Internasional Florida dan Adrian J Scott, Tukang Emas, Universitas London.

DI AWAL tahun 2024, megabintang pop Taylor Swift menjadi pusat kontroversi yang meresahkan.
Jutaan gambar deepfake seksual eksplisit dari media sosialnya membanjiri media sosial, meningkatkan kekhawatiran akan penyalahgunaan teknologi Kecerdasan Buatan (AI) ini. Hanya setelah satu gambar dilihat lebih dari 47 juta kali, platform media sosial, X (sebelumnya Twitter), menghapus konten tersebut.
Kasus Swift menyadarkan betapa mudahnya orang memanfaatkan teknologi AI generatif untuk membuat konten pornografi palsu tanpa persetujuan, sehingga korban hanya memiliki sedikit pilihan hukum dan mengalami trauma psikologis, sosial, fisik, ekonomi, dan eksistensial.

Tren ini dimulai pada tahun 2017, ketika seorang pengguna Reddit mengunggah gambar seksual selebriti wanita yang realistis namun sepenuhnya dibuat-buat dan ditumpangkan pada tubuh aktor pornografi.

Tujuh tahun kemudian, aplikasi nudify sudah mudah diakses dan diiklankan secara bebas di media sosial masyarakat, termasuk Instagram dan X. Di Australia, penelusuran Google untuk ‘aplikasi deepnude gratis’ menghasilkan sekitar 712.000 hasil.
Sebuah survei tahun 2019 yang dilakukan di Inggris, Australia, dan Selandia Baru menemukan 14,1 persen responden berusia antara 16 dan 84 tahun pernah mengalami seseorang membuat, mendistribusikan, atau mengancam untuk mendistribusikan gambar yang diubah secara digital yang mewakili mereka dengan cara yang bersifat seksual. Penyandang disabilitas, penduduk asli Australia dan responden LGBTQI+, serta generasi muda berusia antara 16 dan 29 tahun, merupakan kelompok yang paling banyak menjadi korban.

Sensity AI telah memantau konten video deepfake seksual online sejak tahun 2018 dan secara konsisten menemukan bahwa sekitar 90 persen konten video non-konsensual ini menampilkan perempuan.

Sayangnya apa yang terjadi pada Swift bukanlah hal baru, karena ada banyak laporan tentang deepfake seksual yang dibuat dan dibagikan yang melibatkan selebriti wanita, remaja putri, dan gadis remaja.

Ketidakjelasan hukum

Gambar-gambar yang dimanipulasi secara digital ini menimbulkan tantangan etika dan hukum yang signifikan, sehingga mendorong evaluasi ulang terhadap undang-undang yang ada dan tanggapan terhadap pelanggaran tersebut.
Hal ini menjadi rumit pada platform dengan konten terenkripsi, seperti WhatsApp, di mana deepfake dapat dibagikan tanpa takut terdeteksi atau dimoderasi.

Hal ini telah diakui dalam berbagai forum, termasuk kampanye publik dari para korban yang selamat setelah deepfake Swift, komentar dari Menteri Komunikasi Federal Australia dan sidang Dewan Perwakilan Rakyat AS pada tanggal 12 Maret tentang dampak penyalahgunaan deepfake yang bersifat seksual.

Australia telah memimpin dalam mengkriminalisasi pelecehan berbasis gambar dan dampak buruknya, serta menyediakan jalur alternatif, seperti portal pelaporan korban pelecehan berbasis gambar yang difasilitasi oleh Komisi eSafety, yang juga memiliki kewenangan hukum untuk memaksa individu, platform, dan situs web untuk menghapus konten deepfake yang bersifat seksual.
Kecuali di negara bagian Tasmania, pendistribusian atau ancaman untuk mendistribusikan deepfake seksual milik orang dewasa tanpa persetujuan mereka diatur dalam undang-undang pelecehan berbasis gambar yang berlaku di Australia.

Namun, produksi atau pembuatan video deepfake yang bersifat seksual terhadap orang dewasa tanpa persetujuan tidak secara khusus diatur dalam hukum Australia, kecuali di negara bagian Victoria.

Di wilayah lain di Australia, terdapat banyak ketidakpastian mengenai apakah membuat atau memproduksi deepfake seksual terhadap orang dewasa lain tanpa persetujuan merupakan suatu kejahatan, dan apakah kepemilikan konten tanpa persetujuan tersebut merupakan kejahatan.

Terjadi di seluruh dunia.

Di Inggris, Undang-Undang Keamanan Online tahun 2023 mengkriminalisasi tindakan berbagi tanpa persetujuan atau ancaman untuk membagikan video deepfake yang bersifat seksual kepada orang dewasa, namun hal ini tidak mencakup produksi atau pembuatan gambar deepfake yang bersifat seksual.

Di AS, saat ini tidak ada undang-undang nasional yang mengkriminalisasi pembuatan atau distribusi gambar deepfake seksual dari orang dewasa tanpa izin. Namun, seperti negara bagian dan teritori di Australia, beberapa negara bagian telah mengkriminalisasi distribusi gambar deepfake seksual orang dewasa tanpa persetujuan, dan setidaknya tiga negara bagian – Hawaii, Louisiana, dan Texas – telah mengubah undang-undang untuk memasukkan pembuatan deepfake seksual tanpa persetujuan. perumpamaan.

Sebuah tinjauan di Inggris menempatkan deepfake sebagai ancaman sosial dan kriminal paling serius yang menggunakan AI. Dengan adanya klaim bahwa teknologi sumber terbuka yang menghasilkan deepfake yang ‘tidak mungkin dideteksi sebagai palsu’ akan segera dapat diakses secara bebas oleh semua orang, terdapat kebutuhan untuk meningkatkan upaya hukum dan respons lainnya.

Sebuah studi baru yang dilakukan Dewan Riset Australia berupaya melakukan hal ini, dengan mengeksplorasi pelecehan seksual dalam bentuk deepfake, termasuk jumlah korban dan pelaku, konsekuensi, prediktor, dan dampak buruknya di seluruh Australia, Inggris, dan Amerika Serikat, dengan fokus utama pada peningkatan respons, intervensi, dan pencegahan.

Ketidakjelasan seputar ilegalitas penciptaan, prmemproduksi dan memiliki gambar deepfake yang bersifat seksual tanpa persetujuan orang dewasa menunjukkan bahwa perubahan hukum lebih lanjut diperlukan untuk memberikan respons yang lebih tepat terhadap pelecehan deepfake yang bersifat seksual.

Hal ini mungkin juga dapat membatasi akses terhadap teknologi deepfake yang bersifat seksual. Jika membuat atau memproduksi gambar deepfake tanpa persetujuan adalah tindakan ilegal, hal ini kemungkinan akan mengurangi kapasitas iklan teknologi tersebut, seperti aplikasi nudify.

Undang-undang baru atau perubahan apa pun harus diperkenalkan bersamaan dengan respons lain yang mencakup tanggung jawab peraturan dan perusahaan, pendidikan dan kampanye pencegahan, pelatihan bagi mereka yang ditugaskan untuk menyelidiki dan merespons pelecehan seksual dalam bentuk deepfake, dan solusi teknis yang berupaya mengganggu dan mencegah penyalahgunaan.

Tanggung jawab juga harus diberikan kepada pengembang teknologi, platform digital, dan situs web yang menghosting dan/atau membuat alat untuk mengembangkan konten deepfake guna memastikan keamanan dan mengutamakan kepentingan manusia.

Di luar penyalahgunaan deepfake yang bersifat seksual, terdapat kebutuhan mendesak akan pedoman seputar pembuatan konten deepfake yang bertanggung jawab – baik untuk menghindari penyebaran disinformasi atau untuk menghindari bias gender atau ras, seperti yang terjadi pada citra anggota parlemen Victoria, Georgie Purcell, yang diubah secara seksual.

Perdana Menteri Italia Giorgia Meloni menuntut ganti rugi sebesar EU€100.000 dari dua pria setelah gambar pornografi palsu yang menggunakan wajahnya diedarkan secara online. Menurut pengacara Meloni, uang tersebut bersifat “simbolis” dan tuntutan kompensasi dimaksudkan untuk memberdayakan perempuan agar tidak takut mengajukan tuntutan.
Seperti yang telah diidentifikasi di tempat lain, masalah utama manipulasi gambar AI adalah bahwa alat-alat ini bergantung pada norma-norma sosial dan informasi bias yang dihasilkan oleh masyarakat manusia.

Ketika penggunaan AI dan manipulasi gambar digital menjadi lebih umum, seperti foto kontroversial yang diedit oleh keluarga kerajaan Inggris, harus ada pedoman etika tentang bagaimana konten deepfake dibuat, dibagikan, dan didiskusikan.

Terdapat preseden hukum yang sudah lama ada di banyak negara dalam mengatur ekspresi yang menipu dan merugikan yang dianggap benar oleh negara lain. Pedoman dan peraturan yang berkaitan dengan pembuatan konten deepfake yang etis dan bertanggung jawab dapat berada dalam kerangka kerja yang sama.
Mengingat sifat tantangan ini yang bersifat transnasional, penting untuk memfasilitasi tindakan, kolaborasi, dan respons global, yang fokus pada pencegahan dampak buruk dan memastikan pengembangan konten yang bertanggung jawab dan etis.

Pendekatan global sangat penting jika masyarakat benar-benar ingin mengatasi dan mencegah dampak buruk penyalahgunaan deepfake yang bersifat seksual.***

• Dr Asher Flynn adalah Associate Professor Kriminologi di Monash University dan Wakil Ketua dan Kepala Penyelidik di Pusat Keunggulan Dewan Riset Australia: Pusat Penghapusan Kekerasan Terhadap Perempuan (CEVAW).
• Dr Anastasia Powell adalah Profesor Kekerasan Keluarga & Seksual, dalam Studi Kriminologi dan Keadilan di RMIT University. Dia adalah direktur dewan Our Watch dan anggota Aliansi Keamanan Perempuan Nasional.
• Dr Asia Eaton adalah psikolog sosial feminis dan Profesor Psikologi di Florida International University (FIU). Sejak tahun 2016 Asia juga menjabat sebagai Kepala Penelitian Cyber Civil Rights Initiative (CCRI).
• Dr Adrian Scott adalah Pembaca Psikologi dan Co-Direktur Unit Psikologi Forensik di Goldsmiths, Universitas London. Ia juga seorang Psikolog Chartered di British Psychological Society.
• Awalnya diterbitkan di bawah Creative Commons oleh 360info™.