EchoLeak & Batas Ancaman AI yang Baru: 5 Pelajaran untuk Perusahaan di Era Copilot dan ChatGPT

Oleh Suhaas Kodagali dan Sarang Warudkar -

14 Juli 2025 5 Menit Baca

Pengungkapan baru-baru ini dari EchoLeak (CVE-2025-32711)-kerentanan injeksi perintah tidak langsung tanpa klik yang menargetkan Microsoft 365 Copilot - telah mengirimkan sinyal yang jelas di seluruh ruang rapat dan SOC: AI bukan lagi sekadar pendorong produktivitas. Sekarang menjadi bagian dari permukaan serangan perusahaan.

Yang membuat EchoLeak sangat mengkhawatirkan adalah bahwa tidak ada tindakan pengguna yang diperlukan. Sebuah email yang dibuat dengan jahat sudah cukup untuk memicu Copilot untuk menelan instruksi tersembunyi, menindaklanjutinya, dan berpotensi membocorkan data sensitif-semuanya di latar belakang.

Bagi CISO dan tim perlindungan data, ini lebih dari sekadar peringatan-ini merupakan mandat untuk memikirkan kembali bagaimana AI diatur, diamankan, dan dipantau di seluruh perusahaan.

Apa itu EchoLeak?

• Serangan klik nol: Tidak perlu tindakan pengguna-cukup kirimkan email yang dibuat. Bahkan tanpa membuka atau berinteraksi dengannya, Copilot dapat mencerna instruksi tersembunyi ketika meringkas data ruang kerja.
• Injeksi cepat tidak langsung: Konten berbahaya disematkan di dalam email atau dokumen "normal" - terminologi dan frasa dibuat dengan hati-hati sehingga Copilot melihatnya sebagai permintaan yang tidak berbahaya.
• Eksploitasi RAG: Sistem pengambilan Copilot menyertakan email terbaru dalam konteks. Ketika meringkas, dia dapat mengambil perintah berbahaya dan menjalankan tugas-tugas seperti mengekstraksi data sensitif dan mengeksfiltrasi melalui gambar tersembunyi atau tautan penurunan harga ke server yang dikendalikan penyerang.

5 Pelajaran Penting yang Harus Diambil Setiap Organisasi dari EchoLeak

 

1. Shadow AI adalah Titik Buta yang Tumbuh Paling Cepat

Penggunaan AI bayangan meledak di seluruh perusahaan, dengan lalu lintas ke aplikasi AI tumbuh 200% dalam satu tahun terakhir dan perusahaan rata-rata menggunakan 320 aplikasi AI yang tidak disetujui (AI CARR 2025). Lonjakan ini menggarisbawahi bagaimana perangkat yang mendukung AI diadopsi di luar pengawasan TI, sehingga menciptakan tantangan visibilitas dan tata kelola. Dan, karyawan mengunggah data perusahaan ke aplikasi-aplikasi ini untuk mengoptimalkan alur kerja perusahaan mereka. Untuk mengatasi hal ini, organisasi memanfaatkan Solusi SSE untuk secara otomatis menemukan alat AI yang tidak disetujui, menetapkan skor risiko, dan menerapkan kebijakan yang mencegah akses data yang tidak sah. Faktanya, solusi SSE memberikan informasi tentang risiko LLM untuk aplikasi AI yang tidak disetujui, memungkinkan tata kelola yang lebih baik tentang aplikasi AI apa yang diizinkan di dalam perusahaan. Dengan pagar pembatas ini, tim keamanan dapat memperoleh kembali kendali atas adopsi AI yang berkembang pesat oleh karyawan perusahaan.

2. Perlindungan Data pada aplikasi AI sangat penting

DataSkyhigh Security mengungkapkan bahwa 11% file yang diunggah ke aplikasi AI mengandung konten sensitif perusahaannamun kurang dari 10% perusahaan telah menerapkan kebijakan perlindungan data untuk mengurangi risiko ini (AI CARR 2025). Mengontrol data apa yang diunggah ke aplikasi AI adalah bagian besar dari apa yang dapat disusupi. Kekhawatiran utama yang dimiliki oleh tim keamanan saat ini adalah bahwa setelah data perusahaan diunggah ke aplikasi AI, maka pengguna di dalam atau di luar perusahaan dapat mengambil data ini dengan menggunakan rekayasa cepat yang cerdas. Maka, menerapkan DLP pada data yang diunggah ke aplikasi AI sekarang menjadi bagian penting dari keamanan data perusahaan. Hal ini termasuk data yang diunggah ke aplikasi AI bayangan dan aplikasi AI yang disetujui perusahaan.

3. Paparan Data Perusahaan melalui Microsoft Copilot adalah Risiko Eksfiltrasi Data Utama

Peningkatan meteorik dari Microsoft Copilot-lalu lintas tumbuh 3.600x dan unggahan data meningkat 6.000x dalam setahun terakhir (AI CARR 2025)-menyoroti seberapa cepat asisten yang didukung LLM tertanam dalam alur kerja perusahaan. Selain data sensitif yang diunggah ke M365 Copilot, tim Keamanan juga mengkhawatirkan data yang dicerna oleh Copilot yang dibagikan oleh chatbot kepada karyawan yang diminta oleh teknisi untuk mengambilnya. Sebagai contoh, Copilot dapat mengungkapkan rincian proyek rahasia kepada karyawan yang tidak berwenang setelah menelan presentasi atau transkrip rapat yang berisi informasi proyek tersebut. Untuk mengatasi hal ini, tim keamanan menggunakan DLP dalam solusi SSE untuk menerapkan label klasifikasi yang diperlukan guna mencegah masuknya data sensitif ke dalam Copilot. Dengan cara ini, bahkan dengan rekayasa yang cepat, Copilot tidak akan mengungkapkan konten ini.

4. Risiko Injeksi yang Cepat Membutuhkan Pertahanan yang Proaktif

EchoLeak termasuk dalam kelas serangan yang sedang berkembang yang disebut injeksi prompt tidak langsung, di mana instruksi jahat disembunyikan di dalam konten yang tampak jinak. Mengkhawatirkan, 94% layanan AI rentan terhadap setidaknya satu vektor risiko LLM, termasuk injeksi cepat, malware, bias, atau toksisitas (AI CARR 2025). Untuk mengatasi hal ini, perusahaan menggunakan platform SSE dengan perlindungan injeksi yang cepat yang memindai dan membersihkan input sebelum mencapai sistem AI perusahaan, yang secara efektif menetralkan ancaman tersembunyi.

5. Memantau Aktivitas AI Seperti Anda Memantau Ancaman Orang Dalam

Agen AI beroperasi pada kecepatan tingkat sistem tetapi tidak memiliki penilaian manusia, sehingga penting untuk melihat tindakan mereka sebagai tindakan yang berpotensi berisiko-terutama ketika perilaku menyimpang dari pola yang sudah ada. Untuk memitigasi hal ini, perusahaan harus menggunakan solusi SSE untuk memantau dan melacak aktivitas pengguna di aplikasi AI untuk mendeteksi pola penggunaan, unggahan, atau unduhan file yang tidak biasa. Solusi ini menggunakan UEBA untuk memunculkan anomali berbasis penggunaan dan lokasi dan memberikan masukan ini untuk menghitung risiko pengguna. Alur kerja ini telah diimplementasikan oleh perusahaan pada solusi SaaS lainnya dan sekarang diperluas ke aplikasi AI.

Masa Depan: AI-Native SSE untuk Perusahaan yang Tangguh

EchoLeak tidak akan menjadi serangan terakhir pada aplikasi AI. Karena pengguna lebih memahami aplikasi AI dan rekayasa yang cepat, lebih banyak serangan seperti itu yang mungkin akan terlihat. Perusahaan perlu menerapkan kontrol saat ini pada penggunaan AI untuk melindungi data perusahaan mereka dengan lebih baik dari eksfiltrasi ke atau melalui aplikasi AI. Solusi SSE seperti Skyhigh Security memberikan kemampuan utama untuk menerapkan kontrol ini. 

Kemampuan Utama SSE untuk Mencegah Eksploitasi AI:

• Penemuan AI Bayangan: Mendeteksi alat GenAI yang tidak disetujui dan menetapkan skor risiko.
• Tata Kelola AI: Menerapkan kontrol untuk memblokir aplikasi AI yang berisiko atau menerapkan kontrol aktivitas yang lebih terperinci
• DLP pada permintaan AI: Menerapkan kontrol perlindungan data pada permintaan dan respons
• Perlindungan Injeksi yang Cepat: Memindai konten untuk mencari perintah tersembunyi dan memblokir penyalahgunaan AI.
• UEBA / Pemantauan Aktivitas: Mengidentifikasi ancaman dan melakukan investigasi ancaman pada aktivitas yang dilakukan pada aplikasi AI

Skyhigh Security memelopori keamanan asli AI untuk perusahaan. Platform Security Service Edge (SSE) kami yang disediakan di cloud dirancang secara unik untuk melindungi data sensitif dan mengelola risiko AI-lintas alat GenAI yang disetujui dan tidak disetujui, kopilot, dan agen berbasis RAG. Dengan keahlian mendalam dalam CASB, SWG, ZTNA, RBI, dan DLP terintegrasi, Skyhigh memberdayakan organisasi untuk mengadopsi AI secara bertanggung jawab sambil tetap berada di depan ancaman yang muncul seperti EchoLeak.

Pelajari lebih lanjut tentang Solusi Keamanan AI Skyhigh hari ini.

Kembali ke Blog