Salah satu kekhawatiran terbesar terhadap ChatGPT adalah keakuratannya.
Berdasarkan pengujian oleh sejumlah peneliti, diketahui bahwa tingkat akurasi jawaban yang diberikan oleh ChatGPT hanya sekitar 48 persen.
Ini menjadi berbahaya ketika pengguna menerima informasi yang salah tanpa melakukan verifikasi lebih lanjut.
Sebagai contoh, seorang jurnalis bernama Fred Riehl pernah menggunakan ChatGPT untuk membuat ringkasan dokumen hukum.
Namun, sistem justru memberikan informasi palsu yang menuduh seorang penyiar radio, Mark Walters, terlibat dalam penggelapan dana dari lembaga militer.
Akibatnya, reputasi Walters rusak, dan ia akhirnya menggugat OpenAI karena kesalahan informasi tersebut.
Meskipun pihak OpenAI berargumen bahwa pengguna harus bertanggung jawab terhadap penggunaan aplikasi ini, pengadilan tetap melanjutkan proses hukum atas dasar kerugian yang ditimbulkan.
2. Etika Pengumpulan Data dan Perlindungan Privasi
Proses kerja ChatGPT yang mengandalkan data dari berbagai sumber internet juga menimbulkan pertanyaan etis.
Tidak semua informasi yang dikumpulkan berasal dari sumber tepercaya, dan tak jarang data pribadi pun ikut terserap tanpa izin atau kompensasi kepada pemiliknya.
Situs-situs berita, misalnya, mendapatkan penghasilan dari iklan saat artikelnya dibaca.
Namun, jika konten mereka diambil dan digunakan oleh AI tanpa kunjungan ke situs asli, maka sumber pendapatan tersebut otomatis hilang.
Dalam kasus tertentu, perusahaan seperti Samsung pun sempat mengalami kebocoran data akibat penggunaan ChatGPT oleh karyawan mereka.
