LIVE Techno – Teknologi reproduksi suara telah berkembang begitu pesat sehingga memungkinkan kita membuat tiruan suara seseorang yang sangat mirip hanya dari sampel suara pendek.
Meski teknologi ini membawa banyak manfaat, seperti membantu pembuat konten dan industri hiburan, namun ada risiko besar akibat penyalahgunaannya.
Beberapa pihak yang tidak bertanggung jawab sudah mulai menggunakan teknologi ini untuk penipuan. Misalnya saja di Amerika Serikat (AS), dimana terjadi penipuan yang melibatkan robocaller yang meniru suara Presiden Joe Biden.
Penipu mencoba mempengaruhi pemilih Demokrat di New Hampshire untuk tidak memilih dalam pemilihan pendahuluan presiden.
Aktivitas penipuan lainnya melibatkan panggilan telepon palsu yang seolah-olah berasal dari orang-orang terdekat Anda untuk mendapatkan uang.
Untuk mengatasi penyalahgunaan ini, Meta, perusahaan induk dari Facebook, WhatsApp, dan Instagram, telah mengembangkan teknologi watermarking audio yang disebut AudioSeal.
AudioSeal adalah teknik audio watermarking pertama yang dirancang khusus untuk mendeteksi ucapan yang dihasilkan AI, seperti dilansir IFL Science.
Saat ini, pendeteksian audio sintetik biasanya bergantung pada algoritme yang dilatih untuk membedakannya dari ucapan normal. Namun, pendekatan Meta berbeda.
Mereka memasukkan tanda air ke dalam audio yang dihasilkan. Watermark ini tidak terdengar oleh telinga manusia, namun dapat dideteksi dengan algoritma tertentu.
“Watermarking adalah alternatif yang ampuh,” jelas tim riset Meta dalam artikel yang diposting di server pracetak arXiv. “Ini memasukkan sinyal ke dalam audio yang ternyata tidak terdengar oleh telinga tetapi dapat dideteksi dengan kuat oleh algoritma tertentu.”
Tim peneliti menyebutkan sistem ini efektif mendeteksi watermark dengan akurasi antara 90 hingga 100 persen.
Namun, metode ini mengharuskan perusahaan teknologi generasi audio untuk menyertakan tanda air pada file audio mereka, yang mungkin tidak akan terjadi dalam waktu dekat.
Meskipun teknologi watermarking ini menjanjikan, namun ada pula potensi penyalahgunaannya. Misalnya, pemerintah dapat menggunakannya untuk memantau para pembangkang atau perusahaan dapat mengidentifikasi pelapor.
Selain itu, watermarking dapat digunakan untuk menegakkan kepenulisan konten buatan pengguna, yang dapat meningkatkan skeptisisme terhadap keaslian komunikasi digital dan melemahkan kepercayaan terhadap media digital dan AI.
Terlepas dari risiko-risiko ini, memastikan kemampuan untuk menemukan konten yang dihasilkan AI tetap penting.
Langkah-langkah keamanan yang kuat dan kerangka hukum yang sesuai diperlukan untuk mengatur penggunaan teknologi ini guna mencegah penyalahgunaan.
Makalah lengkap tentang teknik ini tersedia di server pracetak arXiv, sedangkan produk AudioSeal sendiri dapat ditemukan di GitHub. Dengan teknologi ini, Meta berharap dapat melindungi kita dari ancaman penipuan digital yang semakin canggih.