Gemini AI Diserang: 100.000 Prompt Coba Kloning Model Google

MOMSMONEY.ID - Peretas mencoba mengkloning Gemini AI milik Google menggunakan lebih dari 100.000 prompt yang dirancang khusus. Google memblokir akun-akun yang melanggar dan menambahkan pengamanan untuk mencegah serangan di masa mendatang.

Matt Burgess, pengamat media sosial dari Wired.com, mengatakan, upaya ini merupakan bagian dari apa yang perusahaan sebut sebagai "ekstraksi model" atau "serangan distilasi".

Kampanye tersebut diidentifikasi oleh tim keamanan internal Google dan dikaitkan dengan pihak-pihak yang bertujuan untuk membangun model AI saingan dengan meniru pola perilaku inti.

Cara kerja serangan kloning berbasis prompt

Menurut Google, peretas berulang kali mengajukan pertanyaan kepada Gemini dengan memetakan logika internalnya. Alih-alih mencuri kode secara langsung, mereka menggunakan sejumlah besar kueri untuk mengamati pola keluaran, secara bertahap merekonstruksi model dalam memproses informasi.

Baca Juga: Cara Cek Unfollowers Instagram Web & Facebook, Ini Tips yang Sangat Membantu

Teknik ini memanfaatkan aksesibilitas publik dari model bahasa yang besar yang merespons siapa pun secara daring. Seiring waktu, respons tersebut dapat mengungkap struktur pengambilan keputusan yang mendukung penalaran AI.

Google mengatakan bahwa banyak pertanyaan yang dirancang untuk menyelidiki cara  Gemini memecahkan masalah, menafsirkan konteks, dan menghubungkan ide-ide. Serangan tersebut berasal dari berbagai wilayah di seluruh dunia, meski perusahaan menolak untuk menyebutkan nama tersangkanya.

Sistem penanggulangan dan deteksi Google

Aktivitas tersebut ditandai oleh Google Threat Intelligence Group yang memantau ancaman digital. Tim tersebut menggunakan analitik perilaku dan deteksi untuk mengidentifikasi pola permintaan mencurigakan yang mengindikasikan upaya ekstraksi.

Setelah diidentifikasi, akun-akun yang melanggar aturan pemblokiran akan diterapkan untuk membatasi informasi penalaran sensitif melalui permintaan berulang. Google menyatakan pihaknya terus memperkuat kontrol internal untuk mencegah upaya peretasan di masa mendatang.

Mengapa perusahaan rentan terhadap peretasan?

Google memperingatkan bahwa serangan serupa bisa menargetkan perusahaan-perusahaan kecil yang menjalankan model AI khusus yang dilatih berdasarkan data bisnis milik mereka sendiri. Model-model ini menyimpan pengetahuan komersial sensitif yang dapat diekstraksi melalui pertanyaan yang terus-menerus.

Perusahaan tersebut menunjukkan bahwa risiko kekayaan intelektual akan meningkat seiring dengan semakin bergantungnya organisasi pada AI untuk strategi kompetitif. Masalah ini tidak terbatas pada Google. 

OpenAI sebelumnya menuduh perusahaan saingan menggunakan teknik distilasi serupa untuk meningkatkan model yang bersaing, menyoroti betapa luasnya ancaman ini di seluruh sektor AI.

Para ahli keamanan mengatakan bahwa melindungi perilaku model akan menjadi salah satu tantangan utama fase pengembangan AI selanjutnya, bersamaan dengan privasi data dan pencegahan penyalahgunaan.

Seiring dengan semakin pentingnya alat AI bagi bisnis di seluruh dunia, perusahaan-perusahaan berlomba untuk mengamankan data. Untuk melindungi diri dari malware yang didukung AI, mereka menggunakan alat AI buatan sendiri. 

Baca Juga: Cara Mendapatkan Uang dari Reels Facebook, Ikuti Panduan Langkah Demi Langkahnya

Alih-alih mengandalkan analisis statis, AI dapat digunakan untuk menganalisis potensi ancaman secara real time untuk mengenali perilaku malware yang didukung AI. AI juga digunakan untuk memindai email dan pesan guna mendeteksi phishing secara real time dalam skala yang membutuhkan ribuan jam kerja manusia.

Google secara aktif mencari potensi penggunaan AI yang berbahaya di Gemini dengan meluncurkan alat Big Sleep serta CodeMender.

Cek Berita dan Artikel yang lain di Google News