Sisi Gelap Kecanggihan AI, Melaney Ricardo Pernah Jadi Korban Teknologi Deepfake

MOMSMONEY.ID - Berkat teknologi, masyarakat semakin dimudahkan untuk mengakses informasi dimana pun dan kapan pun. Namun di balik kemudahan ini, ada bahaya yang mengintai, seperti serangan siber dan penipuan digital.

Dalam keterangan tertulis dari VIDA perusahaan yang menyediakan solusi identitas digital, Melaney Ricardo selebriti dan presenter Indonesia membagikan pengalamannya menjadi korban dari bahayanya teknologi deepfake.

"Penipu tersebut menggunakan kecanggihan AI untuk meniru suara dan gambar saya dari YouTube, seolah-olah saya mendukung produk penurun berat badan yang mereka jual," kata Melaney dalam keterangan tertulis.

Bahkan keluarga Melaney yang dekat dan kenal baik dengannya sempat menghubunginya dan bertanya apakah produk tersebut benar-benar efektif. Ini menunjukkan betapa meyakinkannya endorsement tersebut sehingga keluarga sendiri tidak bisa mengenali bahwa itu sebenarnya adalah video rekayasa dari hasil AI.

"Bayangkan betapa banyak orang di luar sana yang tidak mengenal saya secara pribadi, bisa terjebak untuk membeli produk yang kemungkinan mengandung unsur-unsur berbahaya,” ungkap Melaney dalam keterangan tertulis.

Pakar keamanan siber ternama Mikko Hyppönen mengatakan dalam keterangan tertulis konektivitas memberikan begitu banyak manfaat dan peluang bisnis, tetapi juga menghadirkan risiko yang lebih besar.

Dulu, serangan siber ditransfer secara fisik dari satu komputer ke komputer lain, melalui apa yang disebut dengan ‘floppy disk’. Namun, saat ini, dengan revolusi teknologi dan kemunculan teknologi baru seperti Generative Artificial Intelligence (AI) yang mampu menciptakan beragam jenis konten, mulai dari teks, gambar, hingga musik kejahatan siber jadi semakin canggih.

"Hal ini merupakan salah satu kemajuan teknologi paling transformatif dalam sejarah. Sebagai contoh, lagu Verknallt in einen Talahon, yang sepenuhnya diproduksi oleh teknologi AI bernama Udio, sukses meraih peringkat 27 di tangga lagu top 40 Jerman dan Austria," kata Mikko.

Meskipun AI generatif menawarkan banyak manfaat dan inovasi, di sisi lain juga membawa tantangan. Tidak seperti revolusi teknologi sebelumnya yang berdampak pada pekerja kasar (blue collar) seperti mesin produksi massal, AI generatif menyasar profesi pekerja kantoran (white collar), termasuk pemrograman dan layanan hukum.

Selain itu, teknologi ini juga membuka peluang terjadinya penipuan, termasuk deepfakes sebuah teknologi yang dapat memanipulasi gambar, video dan suara dengan kemiripan yang sangat meyakinkan.