Beberapa di antaranya memasukkan data sensitif ke dalam sistem, termasuk kode sumber dan transkrip rapat internal, tanpa menyadari bahwa data tersebut disimpan untuk pelatihan model lebih lanjut.
Bahkan, sebuah bug pernah membuat data pribadi milik lebih dari 100 pengguna ChatGPT bocor dan dijual di dark web.
Di Indonesia sendiri, terdapat 25.555 akun yang terdampak. Selain itu, marak juga penipuan dengan tampilan antarmuka palsu menyerupai ChatGPT untuk mencuri data pengguna melalui ekstensi Chrome berbahaya.
3. Eksploitasi Tenaga Kerja dan Dampak Mental
OpenAI pernah bekerja sama dengan perusahaan outsourcing di Kenya untuk melakukan moderasi konten yang dihasilkan AI.
Para pekerja ini bertugas menyaring konten tidak layak seperti kata-kata kasar, ujaran kebencian, dan konten kekerasan.
Mereka dibayar antara Rp20.000 hingga Rp31.000 per jam, angka yang dianggap sangat rendah mengingat beban kerja dan dampak psikologis yang dihadapi.
Akibat paparan konten berbahaya secara terus-menerus, banyak dari mereka mengalami stres berat. Setelah laporan investigatif dari Time, kerja sama tersebut akhirnya dihentikan.
4. Ketergantungan dan Isolasi Sosial
Kemudahan dan kecepatan ChatGPT dalam menjawab pertanyaan telah menyebabkan sebagian orang menjadi terlalu bergantung pada teknologi ini.
Bahkan, ada yang menjadikan ChatGPT sebagai teman curhat atau seolah-olah sedang menjalani hubungan romantis dengannya.
Hal ini dikhawatirkan dapat menurunkan intensitas interaksi sosial manusia secara langsung dan berdampak pada kesehatan mental.
5. Deepfake dan Penipuan Digital
Kemampuan AI dalam meniru gaya komunikasi seseorang juga telah dimanfaatkan untuk kegiatan kejahatan digital, termasuk membuat deepfake dan pesan palsu yang meniru tokoh terkenal atau orang terdekat korban.
Sebagai contoh, akun Instagram yang diretas bisa digunakan untuk meminjam uang atau menyebarkan link berbahaya dengan berpura-pura sebagai pemilik asli.
