Selebritis Opini: Foto AI Taylor Swift memberikan peringatan yang menakutkan . Opini: Foto AI Taylor Swift memberikan peringatan yang menakutkan
Foto superstar pop Taylor Swift yang dibuat secara seksual dan eksplisit oleh AI telah membanjiri internet, dan kita tidak perlu tenang.
Swift mungkin adalah salah satu wanita paling terkenal di dunia, namun ia mewakili setiap wanita dan anak perempuan dalam hal apa yang dipertaruhkan di masa depan kecerdasan buatan dan persetujuan.
Saya telah meliput dampak teknologi selama hampir 15 tahun, dan saya yakin deepfake yang eksplisit secara seksual adalah salah satu ancaman paling signifikan yang kita hadapi seiring dengan kemajuan AI. Dengan semakin banyaknya alat yang dihasilkan oleh AI dan kecenderungan Silicon Valley untuk berlomba berinovasi, kita memasuki fase teknologi yang sudah tidak asing lagi bagi kita — namun sekarang, taruhannya menjadi lebih tinggi.
Kita berada di era di mana bukan hanya data kita saja yang dapat diambil, namun juga kualitas kita yang paling intim: suara kita, wajah kita, tubuh kita, semuanya kini dapat ditiru oleh AI. Sederhananya: Kemanusiaan kita hanya tinggal satu klik saja untuk digunakan melawan kita.
Dan jika hal itu bisa terjadi pada Swift, hal itu juga bisa terjadi pada Anda. Kesalahan terbesar yang bisa kita lakukan adalah meyakini bahwa kerugian seperti ini hanya terjadi pada tokoh masyarakat. Kita sekarang melihat demokratisasi dalam aplikasi yang menghasilkan citra yang memungkinkan terjadinya perilaku seperti ini. Apakah orang yang kamu sukai menolakmu? Ada aplikasi untuk itu. Sekarang, Anda dapat menanggalkan pakaiannya secara digital atau membuat deepfake eksplisit yang dibintanginya.
Selebritis Opini: Foto AI Taylor Swift memberikan peringatan yang menakutkan
Masalahnya hanya akan bertambah buruk ketika kita beralih ke dunia augmented dan virtual. Bayangkan sebuah lingkungan yang imersif ketika seorang mantan yang dicemooh mengundang orang lain untuk bersama-sama menonton video deepfake yang eksplisit secara seksual tentang gadis yang menolaknya. Awal bulan ini. Dilaporkan bahwa polisi Inggris sedang menyelidiki kasus seorang remaja berusia 16 tahun yang diduga diperkosa di dunia maya oleh beberapa penyerang.
Saya baru-baru ini berbicara dengan profesor Universitas George Washington. Dr. Mary Anne Franks. Yang berspesialisasi dalam hak-hak sipil, teknologi. Dan kebebasan berpendapat. Dia mendapat peringatan yang mengerikan: Jenis aplikasi dan alat AI ini dapat menghasilkan generasi baru pria dengan mentalitas “keinginan saya adalah perintah AI”. Jika kita tidak berhati-hati, kita tidak hanya akan menciptakan generasi baru korban. Namun juga generasi baru pelaku kekerasan.
“Kami baru saja membuat semua alat ini – para pemuda yang kebingungan. Kesal. Dan marah hanya menggunakan [alat-alat tersebut] alih-alih mencoba memahami apa artinya menghadapi penolakan dengan cara yang sehat.” Kata Franks.
Memanfaatkan kemajuan teknologi untuk mempermalukan perempuan bukanlah hal baru. Pada tahun 2015. Saya membuat serial di CNN berjudul “Revenge Porn: Perang Cyber Melawan Wanita.” Pada saat itu. Pornografi non-konsensual – di mana mantan yang dicemooh atau aktor jahat menerbitkan foto-foto telanjang perempuan di situs-situs yang ditujukan untuk mempermalukan mereka – sedang merajalela. Seperti saat ini. Peraturan perundang-undangan belum sejalan dan perusahaan teknologi belum melakukan perubahan untuk melindungi para korban.
Leave a Reply