JAKARTA, POSKOTA.CO.ID- Platform media sosial X telah memblokir pencarian untuk penyanyi terkenal asal Amerika Serikat, Taylor Swift.
Tindakan ini dilakukan X setelah muncul gambar eksplisit atau deepfake mesum Taylor Swift yang dibuat menggunakan AI muncul dalam platform tersebut.
Melansir BBC News, kepala operasi bisnis X, Joe Benarroch mengatakan, hal ini merupakan tindakan sementara untuk memprioritaskan keselamatan sang penyanyi.
"Tindakan tersebut dilakukan dengan sangat hati-hati karena kami memprioritaskan keselamatan dalam masalah ini," kata Benarroch dikutip BBC News, Selasa (30/1/2024).
Gambar palsu mengenai Taylor Swift muncul di platform tersebut sejak awal pekan lalu, sehingga membuat diantaranya menjadi viral.
Foto-foto tersebut lantas membuat X yang sebelumnya bernama Twitter, mengeluarkan pernyataan bahwa sangat dilarang memposting ketelanjangan tanpa persetujuan.
“Kami tidak memiliki kebijakan toleransi terhadap konten semacam itu. Tim kami secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya,” ungkap X.
Insiden ini juga turut menarik perhatian Gedung putih. sekretaris pers Gedung Putih, Karine Jean-Pierre, mengungkapkan kekhawatiran mengenai penyebaran dofo yang dihasilkan AI.
“Kita tahu bahwa lemahnya penegakan hukum berdampak secara tidak proporsional terhadap perempuan dan hal ini juga berdampak pada anak perempuan, yang sayangnya merupakan target yang sangat besar,” ujar Karine Jean-Pierre.
Dia menambahkan, harus ada undang-undang untuk mengatasi penyalahgunaan teknologi AI di media sosial dan platform juga harus mengambil tindakan untuk melarang konten semacam itu di situs mereka.
“Kami percaya mereka mempunyai peran penting dalam menegakkan aturan mereka sendiri untuk mencegah penyebaran informasi yang salah dan gambar-gambar intim yang tidak berdasarkan kesepakatan, yang menggambarkan orang-orang di dunia nyata,” tambahnya.
Perlu diketahui, pembuatan gambar hasil editan deepfake menggunakan kecerdasan buatan untuk memanipulasi wajah atau tubuh telah mengalami peningkatan sebesar 550 persen sejak 2019 lalu.
.png)
.jpg)
