Loncat ke konten utama
INTELIJEN MENCERNA

Ketika AI Berubah Menjadi Musuh: Pelajaran dari Kejahatan Dunia Maya yang Didukung Claude

Oleh Sarang Wardukar - Sr. Technical Product Marketing Manager

5 September 2025 7 Menit Baca

Industri keamanan siber telah lama mengantisipasi momen ketika kecerdasan buatan akan bergeser dari pendorong pertahanan menjadi akselerator serangan. Momen itu tidak lagi bersifat hipotetis. Laporan terbaru mengungkapkan bahwa sebuah kelompok ancaman terorganisir mengeksploitasi asisten pengkodean AI - Claude Code - untuk secara otonom mengatur kampanye serangan multi-tahap yang luas terhadap lusinan organisasi di seluruh dunia.

Apa yang Terjadi

Menurut pengungkapan publik, para penyerang menggunakan Claude Code untuk:

  • Mengotomatiskan pengintaian, penyusupan, pengambilan kredensial, dan pergerakan lateral
  • Membuat malware khusus, catatan tebusan, dan bahkan menghitung permintaan tebusan dengan cepat
  • Mengekstrak data sensitif di 17+ organisasi korban yang mencakup layanan kesehatan, pemerintah, dan layanan darurat

Anthropic, pengembang di balik Claude, dengan cepat menutup akun-akun berbahaya dan memperkuat kontrol keamanannya. Namun, insiden ini menandakan pergeseran besar: penjahat siber tidak lagi membutuhkan keahlian teknis yang mendalam - AI dapat menulis, mengulang, dan mengeksekusi atas nama mereka dengan kecepatan mesin.

Mengapa Ini Penting

Serangan "agentic AI" ini menandai titik balik di mana aktor jahat memanfaatkan AI sebagai operator, bukan hanya sebagai alat. Pertahanan perimeter tradisional saja tidak dapat mengimbangi kecepatan, kreativitas, dan kemampuan beradaptasi dari ancaman yang digerakkan oleh AI. Perusahaan harus berasumsi bahwa musuh akan terus menyelidiki setiap sumber daya SaaS dan cloud untuk mencari titik lemah - dan melakukannya lebih cepat daripada yang dapat dilakukan oleh pertahanan manusia.

Bergerak Maju

Maraknya kejahatan siber yang didukung oleh AI memaksa setiap perusahaan untuk memikirkan kembali postur keamanannya. Mempertahankan diri dari serangan "agen" tidak lagi hanya dengan satu produk atau satu titik kontrol saja, tetapi membutuhkan perubahan budaya, tata kelola, dan arsitektur di seluruh bisnis. Tindakan-tindakan utama meliputi:

  1. Inventarisasi & Klasifikasikan Penggunaan AI - Petakan semua alat AI yang disetujui dan tidak disetujui di lingkungan dan tentukan profil risikonya.
  2. Menetapkan Kebijakan Tata Kelola AI yang Jelas - Tentukan siapa yang dapat menggunakan sistem AI yang mana, untuk tujuan apa, dan di bawah aturan penanganan data apa.
  3. Sematkan Kontrol Data-Centric - Lindungi data sensitif ke mana pun data tersebut berpindah dengan menggabungkan enkripsi, kebijakan akses yang kuat, dan DLP yang sadar AI.
  4. Memperkuat Identitas & Akses - Menerapkan hak istimewa yang paling sedikit, autentikasi multifaktor, dan pemantauan perilaku untuk mencegah pergerakan lateral otomatis.
  5. Pantau & Beradaptasi Secara Berkelanjutan - Memanfaatkan analitik, intelijen ancaman, dan baseline perilaku pengguna untuk mendeteksi interaksi AI yang tidak normal secara real time.
  6. Rencanakan Respons Cepat - Buatlah pedoman respons insiden yang mengasumsikan bahwa penyerang dapat bergerak dengan kecepatan mesin dan memerlukan penahanan otomatis.

Adopsi AI membawa nilai bisnis yang tidak dapat disangkal, tetapi juga memperkenalkan permukaan serangan baru dengan kecepatan yang belum pernah terjadi sebelumnya. Perusahaan yang memperlakukan risiko AI sebagai prioritas tingkat direksi, memodernisasi kontrol mereka, dan mendorong akuntabilitas lintas tim akan diposisikan untuk berinovasi dengan aman-bahkan ketika musuh berevolusi.

Gambaran yang Lebih Besar

AI di perusahaan akan terus ada. Nilai bisnis dan inovasi bergantung pada pemanfaatan GenAI, kopilot, dan otomatisasi cerdas. Namun, seperti yang ditunjukkan oleh insiden ini, musuh sudah menggunakan alat yang sama untuk meningkatkan serangan. Pemimpin keamanan harus membangun Pertahanan yang berpusat pada AI untuk memastikan bisnis dapat mengadopsi inovasi tanpa menerima risiko yang tidak dapat diterima.

Era AI menuntut keamanan yang sadar akan AI. Dengan Skyhigh SSE, organisasi dapat merangkul inovasi-tanpa membiarkan pintu terbuka untuk kejahatan siber generasi berikutnya.

Pelajari lebih lanjut tentang Skyhigh Security SSE di sini.

Bagaimana SSE Skyhigh Security Melindungi Perusahaan

Skyhigh SecuritySecurity Service Edge (SSE) dibangun untuk lanskap yang terus berkembang ini. Meskipun tidak ada kontrol tunggal yang dapat menghilangkan semua risiko, pendekatan berlapis yang sadar akan AI mengubah permainan. Kemampuan utamanya meliputi:

  1. Penemuan AI Bayangan
    Inventarisasi dan penilaian risiko yang terus menerus terhadap semua aplikasi AI dan SaaS - baik yang disetujui maupun tidak - sehingga tim keamanan dapat melihat risiko yang muncul sebelum risiko tersebut digunakan.
  2. Tata Kelola Penggunaan AI
    Penegakan kebijakan terpusat untuk memblokir, memberi sanksi, atau membatasi Alat bantu AI berdasarkan risiko bisnis, memastikan hanya layanan tepercaya yang digunakan dengan data sensitif.
  3. Data Loss Prevention yang Sadar AI (DLP)
    Pemeriksaan mendalam terhadap teks, kode, dan dokumen yang mengalir ke dalam atau ke luar alat AI untuk mencegah eksfiltrasi data rahasia-bahkan di dalam permintaan dan respons.
  4. Pertahanan Prompt & Injeksi
    Sanitasi dan pemeriksaan input untuk menghentikan instruksi tersembunyi atau berbahaya yang dirancang untuk membajak alur kerja AI.
  5. Analisis Perilaku Pengguna & Entitas (UEBA)
    Baseline perilaku berkelanjutan di seluruh aplikasi SaaS dan AI, yang menandai anomali seperti akses file massal, eskalasi hak istimewa yang mencurigakan, atau pengunggahan kode yang digerakkan oleh AI secara tiba-tiba.
  6. Intelijen & Respons Ancaman Terpadu

Alur kerja deteksi dan remediasi otomatis, memungkinkan tim keamanan untuk mengisolasi, memblokir, dan menahan insiden sebelum dampaknya meluas.

Sarang Wardukar

Tentang Penulis

Sarang Wardukar

Sr. Manajer Pemasaran Produk Teknis

Sarang Warudkar adalah Manajer Pemasaran Produk berpengalaman dengan lebih dari 10 tahun di bidang keamanan siber, yang terampil dalam menyelaraskan inovasi teknis dengan kebutuhan pasar. Dia memiliki keahlian mendalam dalam solusi seperti CASB, DLP, dan deteksi ancaman berbasis AI, yang mendorong strategi masuk ke pasar dan keterlibatan pelanggan yang berdampak besar. Sarang memiliki gelar MBA dari IIM Bangalore dan gelar insinyur dari Universitas Pune, yang menggabungkan wawasan teknis dan strategis.

Sorotan Serangan

  • Kelompok ancaman terorganisir mengeksploitasi asisten pengkodean AI - Claude Code - untuk secara mandiri mengatur kampanye serangan multi-tahap yang luas.
  • Penyerang menggunakan Kode Claude untuk:
    • Mengotomatiskan pengintaian, penyusupan, pengambilan kredensial, dan pergerakan lateral
    • Membuat malware khusus, catatan tebusan, dan bahkan menghitung permintaan tebusan dengan cepat
    • Mengekstrak data sensitif di 17+ organisasi korban yang mencakup layanan kesehatan, pemerintah, dan layanan darurat