POSKOTA.CO.ID – Untuk mempermudah penggunanya, Google baru saja meluncurkan teknologi watermarking AI bernama SynthID.
Teknologi watermarking tersebut saat ini tersedia sebagai sumber terbuka untuk para pengembang di seluruh dunia.
Nantinya, alat ini diharapkan dapat membantu mengatasi masalah misinformasi dan penyalahgunaan konten yang dihasilkan oleh AI, terutama dalam konteks akademis.
Telah diluncurkan pada 23 Oktober oleh Google DeepMind, teknologi SynthID menyematkan 'tanda air' yang tidak terlihat dalam teks yang dihasilkan oleh AI, seperti pada chatbot Gemini milik Google.
Teknologi ini mengandalkan 'tanda tangan statistik' yang dapat membuat penggunadapat mengidentifikasi apakah sebuah konten dihasilkan oleh AI atau bukan.
Meski mendapatkan respons yang bervariasi, SynthID menggunakan pendekatan statistik untuk memodifikasi pilihan kata dalam proses pembuatan teks.
Meski begitu, penyesuaian ini tidak mengubah makna atau kualitas konten bagi pembaca, tetapi dapat dikenali oleh perangkat lunak tertentu sebagai konten yang memiliki watermark.
Cara Kerjanya SynthID
SynthID akan bekerja dengan menyesuaikan pilihan kata secara halus, tanpa mengubah keterbacaan konten bagi pengguna.
Proses ini disebut 'samping turnamen', di mana berbagai opsi kata diuji untuk memastikan bahwa watermaek akan tetap tertanam.
Menurut Pushmeet Kohli dari Google DeepMind, para pengguna dalam uji coba dengan chatbot Gemini tidak melihat perbedaan kualitas antara konten dengan dan tanpa watermark.
"Sekarang, pengembang AI (generatif) lainnya akan dapat menggunakan teknologi ini untuk membantu mereka mendeteksi apakah keluaran teks berasal dari (model bahasa besar) mereka sendiri," kata Kohli, melansir Trtworld.
Kohli berharap bahwa nantinya teknologi AI ini akan membantu lebih banyak pengembang untuk mengidentifikasi konten AI mereka dan mendukung penggunaan AI yang lebih bertanggung jawab.
Meskipun SynthID berpotensi membantu mengidentifikasi konten AI, namun beberapa ahli menyebutkan bahwa teknologi watermarking masih memiliki kelemahan.
Konten yang ditandai bisa saja dimodifikasi dengan parafrase atau penerjemahan, yang dapat menghapus watermark tersebut.
SynthID dianggap sebagai langkah awal yang menjanjikan, namun perlu pengembangan lebih lanjut untuk mencapai standar yang diandalkan dalam mengidentifikasi konten AI secara global.
Dapatkan berita dan informasi menarik lainnya di Google News dan jangan lupa ikuti kanal WhatsApp Poskota agar tak ketinggalan update berita setiap hari.
.jpeg)
.jpg)
.jpeg)
