Penggunaan AI dan Literasi Digital
Meskipun beberapa platform telah menerapkan langkah-langkah untuk memerangi hoaks, Riesta melihat masih banyak informasi palsu yang lolos dari pengawasan. Upaya moderasi belum cukup kuat untuk menangkal banjir hoaks yang beredar setiap hari.
Banyak pihak yang menyebarkan hoaks karena ada insentif ekonomi (misalnya untuk mendapatkan klik atau iklan) atau politik (untuk memanipulasi opini publik). Dengan menyebarkan informasi palsu, mereka bisa mendapatkan keuntungan finansial atau politik.
"Dengan kombinasi faktor-faktor tersebut, hoaks memiliki lingkungan yang subur untuk berkembang di media sosial. Tantangan terbesar adalah bagaimana meningkatkan literasi digital masyarakat, memperkuat moderasi platform, serta mendorong budaya verifikasi informasi sebelum membagikannya," jelas Riesta lagi.
Terkait penggunaan AI dalam konteks hoaks, Riesta menyampaikan, produknya sudah semakin banyak. Penggunaan kecerdasan buatan untuk membuat hoaks, terutama dalam bentuk video, audio, dan gambar, menjadi semakin umum dan canggih.
Dari pantauan yang dilakukan, penggunaan itu terjadi dalam konteks deepfake, yaitu teknologi yang menggunakan AI dan pembelajaran mesin untuk menciptakan video atau audio yang sangat realistis dengan menirukan wajah atau suara seseorang.
"Dengan menggunakan algoritma, seseorang dapat mengganti wajah atau suara dalam video asli dengan yang lain, sehingga tampak seolah-olah orang tersebut melakukan atau mengatakan sesuatu yang sebenarnya tidak pernah mereka lakukan atau katakan," ingatnya.
Kedua, pembuatan suara sintetis. Riesta melihat, produksi konten ini memanfaatkan teknologi Text-to-Speech (TTS) yang dapat menghasilkan suara manusia yang sangat alami dengan meniru nada, intonasi, dan emosi.
AI dapat dilatih untuk meniru suara individu tertentu dengan cukup akurat, yang memungkinkan pembuat hoaks untuk menghasilkan rekaman suara yang seolah-olah berasal dari orang terkenal atau pejabat publik.
Dengan mengumpulkan data suara dari rekaman yang ada, AI dapat menganalisis dan menciptakan pola suara yang mirip dengan suara target, sehingga memungkinkan pembuatan audio yang sangat meyakinkan.
"Ketiga adalah manipulasi gambar. Teknologi generatif seperti DALL-E atau Stable Diffusion dapat digunakan untuk menciptakan gambar yang sepenuhnya baru atau memanipulasi gambar yang sudah ada. Ini dapat mencakup pembuatan gambar palsu dari tokoh publik dalam situasi yang merugikan atau menyesatkan," papar Riesta.
Saat teknologi AI berkembang pesat, deteksi hoaks berbasis AI menjadi semakin sulit. Meskipun ada alat yang dirancang untuk mendeteksi deepfake dan konten palsu lainnya, teknologi juga terus berkembang, sehingga menciptakan tantangan bagi pakar keamanan dan media untuk mengidentifikasi konten yang sebenarnya.
"Untuk itu, kita butuh niat baik untuk mencegah sebaran dan produksi hoaks. Edukasi untuk masyarakat, etika, dan regulasi, mesti di satu suarakan. Karena ini problem serius! Penting bagi platform teknologi, pemerintah, dan masyarakat untuk bekerja sama dalam mengatasi penyebaran hoaks yang dihasilkan oleh AI," tegasnya.
Sebagai akademisi, Riesta kemudian mengingatkan agar setiap elemen potensial mau melakukan upaya bersama. Baik lembaga pendidikan, lembaga media massa, bahkan individu.
"Setiap lembaga harus mengintegrasikan kurikulum literasi digital yang kuat. Literasi ini harus mencakup kemampuan untuk membedakan informasi yang benar dari yang salah, bagaimana teknologi AI bekerja, serta cara mendeteksi konten palsu. Dari situ kita menghadang potensi hoaks," tandasnya.
Editor : Ali Masduki
Artikel Terkait
