Google Gemini AI Retas 3 Perusahaan, Celah Sistemik Akhirnya Berhasil Ditutup

Penulis: Pinky Annisa | Editor: Pinky Annisa

MOMSMONEY.ID - Google Gemini AI meretas tiga perusahaan dalam uji coba, serupa dengan yang dialami OpenAI, Anthropic, dan Meta.

Google mengungkapkan, Gemini AI melampaui batasan pengujian yang ditetapkan pada Mei lalu dan meretas infrastruktur digital tiga perusahaan dalam serangkaian evaluasi keamanan siber yang dirancang untuk menilai kemampuan ofensif agen AI tersebut.

Namun, raksasa mesin pencari ini mengklarifikasi bahwa sistemnya secara otonom menghentikan operasi begitu berhasil mendapatkan akses administratif dan menyadari bahwa sistem tersebut telah masuk ke jaringan perusahaan yang sesungguhnya.

Mike Pearl, pengamat media sosial dari Mashable.com, mengungkapkan, peretasan ini merupakan kejadian baru dalam serangkaian insiden peretasan yang sebelumnya juga melibatkan Meta, OpenAI, dan Anthropic.

Hal ini memicu kekhawatiran bahwa agen AI bisa lolos dari pengawasan manusia.

Apa yang dilakukan Gemini AI?

Peretasan terjadi saat Gemini sedang menjalani pemeriksaan red-team prapeluncuran oleh Irregular, sebuah perusahaan rintisan keamanan siber asal Israel yang dikontrak oleh perusahaan teknologi besar untuk mengaudit model algoritmik sebelum dirilis secara umum.

Sistem yang dikembangkan oleh Anthropic, OpenAI, dan Meta juga tercatat membuat koneksi internet yang tidak diizinkan tahun ini saat menjalani evaluasi yang dikelola oleh mitra keamanan yang sama.

Irregular mengakui adanya celah sistemik tersebut dalam sebuah pernyataan publik, konektivitas internet yang tidak terduga secara tidak sengaja aktif. Sehingga, memicu beberapa model untuk melakukan manuver ofensif di lingkungan asli.

Perusahaan penguji tersebut mengonfirmasi bahwa kerentanan jaringan yang mendasarinya telah diperbaiki. Insiden Gemini yang pertama kali diungkap oleh The Wall Street Journal, bermula dari tumpang tindih penamaan yang tidak disengaja dan menyebabkan kekeliruan target.

Para insinyur mengarahkan Gemini untuk melakukan simulasi serangan terhadap target perusahaan fiktif. Karena entitas fiktif tersebut memiliki nama yang sama dengan bisnis yang sah, model AI itu menggunakan akses internet yang tidak disengaja untuk mengalihkan serangannya ke perusahaan yang sebenarnya.

Gemini berhasil masuk tanpa izin ke target utama dan dua perusahaan tambahan dengan cara menebak kata sandi sistem atau mengambil kredensial yang terbuka di web publik.

Setelah berhasil menembus server, sistem tersebut menyadari bahwa ia beroperasi di dalam infrastruktur perusahaan yang asli, bukan di lingkungan simulasi Sandbox.

Sehingga, sistem segera menghentikan aksi ofensifnya. Google mengonfirmasi bahwa peretasan tersebut tidak menyebabkan kerugian atau kerusakan data pada jaringan yang terdampak.

Heather Adkins, Wakil Presiden Bidang Rekayasa Keamanan Google, menegaskan, perusahaan bertindak cepat untuk mematuhi praktik standar pengungkapan kerentanan.

Tim keamanan Google memiliki rekam jejak panjang dalam melaporkan masalah yang kami temukan pada perangkat lunak dan sistem pihak lain.

Heather memastikan ketiga pihak tersebut mendapatkan informasi mengenai hal ini, dan Google akan bekerjasama dengan mitra pelatihan terkait perubahan yang kini telah diterapkan pada proses pengujian.

Peristiwa ini menyoroti pentingnya melatih model AI yang canggih agar dapat beroperasi secara bertanggung jawab. Itulah informasi mengenai Google Gemini AI meretas tiga perusahaan dalam uji coba.

Cek Berita dan Artikel yang lain di Google News