Google melaporkan bahwa beberapa kelompok yang diduga didukung negara kini tengah memanfaatkan asisten AI Gemini untuk meningkatkan produktivitas mereka dalam penelitian, serta untuk merencanakan infrastruktur serangan atau melakukan pengintaian terhadap target mereka.
Kelompok Intelijen Ancaman Google (GTIG) mengungkapkan bahwa grup APT (Advanced Persistent Threat) yang terkait dengan pemerintah menggunakan Gemini lebih untuk meningkatkan produktivitas daripada untuk mengembangkan atau meluncurkan serangan siber baru yang memanfaatkan AI dan dapat melewati pertahanan tradisional.
Para peretas ini telah mencoba memanfaatkan alat AI untuk tujuan serangan mereka dengan berbagai tingkat keberhasilan, karena alat-alat ini setidaknya dapat mempercepat proses persiapan serangan.
Google mencatat adanya aktivitas penggunaan Gemini yang terkait dengan grup APT dari lebih dari 20 negara, namun yang paling menonjol adalah Iran dan Tiongkok. Beberapa penggunaan umum AI Gemini termasuk membantu dalam tugas pengkodean untuk mengembangkan alat dan skrip, riset terhadap kerentanannya yang sudah dipublikasikan, memeriksa teknologi (penjelasan, terjemahan), mencari informasi tentang organisasi target, dan mencari metode untuk menghindari deteksi, meningkatkan hak akses, atau menjalankan pengintaian internal dalam jaringan yang sudah terkompromi.
APT yang Memanfaatkan Gemini
Menurut Google, kelompok APT dari Iran, Tiongkok, Korea Utara, dan Rusia semuanya telah mencoba menggunakan Gemini, mengeksplorasi potensi alat ini untuk membantu mereka menemukan celah keamanan, menghindari deteksi, dan merencanakan aktivitas mereka setelah melakukan kompromi. Berikut adalah beberapa ringkasan penggunaannya:
- Iran: Para peretas asal Iran adalah pengguna Gemini terbanyak, memanfaatkannya untuk berbagai aktivitas seperti pengintaian terhadap organisasi pertahanan dan pakar internasional, riset tentang kerentanannya yang sudah diketahui, pengembangan kampanye phishing, dan pembuatan konten untuk operasi pengaruh. Mereka juga menggunakan Gemini untuk terjemahan dan penjelasan teknis terkait keamanan siber dan teknologi militer, termasuk kendaraan udara tak berawak (UAV) dan sistem pertahanan rudal.
- Tiongkok: Para peretas yang didukung Tiongkok sebagian besar menggunakan Gemini untuk pengintaian terhadap organisasi militer dan pemerintah AS, riset kerentanannya, skrip untuk pergerakan lateral dan eskalasi hak akses, serta aktivitas pasca-kompromi seperti menghindari deteksi dan mempertahankan akses dalam jaringan yang terkompromi. Mereka juga mencari cara untuk mengakses Microsoft Exchange menggunakan hash kata sandi dan membalikkan rekayasa alat keamanan seperti Carbon Black EDR.
- Korea Utara: Kelompok APT Korea Utara menggunakan Gemini untuk mendukung beberapa fase dalam siklus serangan, termasuk riset penyedia hosting gratis, pengintaian terhadap organisasi target, dan membantu dalam pengembangan malware serta teknik penghindaran deteksi. Banyak aktivitas mereka juga berfokus pada skema pekerja IT tersembunyi dari Korea Utara, menggunakan Gemini untuk menyusun lamaran pekerjaan, surat pengantar, dan proposal untuk mendapatkan pekerjaan di perusahaan Barat dengan identitas palsu.
- Rusia: Aktivitas peretas asal Rusia dengan Gemini relatif terbatas, sebagian besar berfokus pada bantuan skrip, terjemahan, dan pembuatan payload. Mereka terlibat dalam menulis ulang malware yang tersedia secara publik ke dalam bahasa pemrograman yang berbeda, menambahkan fungsionalitas enkripsi ke kode berbahaya, dan memahami bagaimana potongan malware publik tertentu bekerja. Penggunaan terbatas ini mungkin menunjukkan bahwa peretas Rusia lebih memilih model AI yang dikembangkan di dalam Rusia atau menghindari platform AI Barat demi alasan keamanan operasional.
Google juga mengungkapkan bahwa mereka telah mengamati kasus di mana peretas mencoba menggunakan jailbreak publik terhadap Gemini atau mengubah cara mereka memberikan perintah untuk menghindari langkah-langkah keamanan platform ini, namun upaya mereka dilaporkan gagal.
Pada Oktober 2024, OpenAI, pencipta chatbot AI populer ChatGPT, mengungkapkan hal serupa, sehingga laporan terbaru dari Google ini semakin menegaskan penyalahgunaan alat AI generatif oleh peretas dari berbagai tingkat.
Meskipun teknik jailbreak dan bypass keamanan menjadi perhatian utama dalam produk AI mainstream, pasar AI kini semakin dipenuhi dengan model-model AI yang tidak memiliki perlindungan yang memadai untuk mencegah penyalahgunaan. Sayangnya, beberapa dari model ini memiliki pembatasan yang mudah diakali dan kini semakin populer.
Sumber : https://www.bleepingcomputer.com/news/security/google-says-hackers-abuse-gemini-ai-to-empower-their-attacks/
Sumber : https://www.bleepingcomputer.com/news/security/google-says-hackers-abuse-gemini-ai-to-empower-their-attacks/