Oleh Sarang Warudkar - Sr. Manajer Pemasaran Produk Teknis CASB, Skyhigh Security dan John Duronio - Insinyur Penjualan Perangkat Lunak, Skyhigh Security
12 Desember 2024 3 Menit Baca
Ketika AI dan model bahasa besar (LLM) mentransformasi bisnis, keduanya membawa peluang dan risiko. Meskipun AI mendorong efisiensi dan inovasi, AI juga menimbulkan tantangan seperti pelanggaran data, pelanggaran kepatuhan, dan penggunaan AI bayangan. Adopsi AI yang cepat sering kali melampaui tata kelola, membuat organisasi rentan terhadap risiko reputasi, keuangan, dan hukum tanpa langkah-langkah keamanan yang tepat.
Menyadari pentingnya adopsi AI yang aman, Gedung Putih baru-baru ini mengeluarkan Memorandum Keamanan Nasional perdana tentang AI, yang mengamanatkan semua lembaga federal AS untuk menunjuk Kepala Pejabat Kecerdasan Buatan dalam waktu 60 hari setelah arahan tersebut dikeluarkan.
Memorandum ini menggarisbawahi urgensi membangun tata kelola yang kuat untuk penggunaan AI guna mencegah risiko keamanan siber dan memastikan kepatuhan. Skyhigh Security berada di garis depan dalam memenuhi kebutuhan ini dengan platform Secure Service Edge (SSE ), yang menghadirkan Skyhigh AI, solusi canggih untuk mengelola keamanan AI. Skyhigh AI selaras dengan Kerangka Kerja Manajemen Risiko Kecerdasan Buatan National Institute of Standards and Technology (NIST) (AI RMF 1.0), yang menawarkan pendekatan terstruktur untuk mengelola risiko AI di empat fungsi inti: Memetakan, Mengukur, Mengelola, dan Mengatur.
Gambar 1. [Sumber: Kerangka Kerja Manajemen Risiko Kecerdasan Buatan (AI RMF 1.0)]
Mari pelajari bagaimana Skyhigh AI membantu organisasi menyelaraskan diri dengan NIST AI RMF dan menerapkan praktik AI yang aman dan bertanggung jawab.
1. Peta: Mengidentifikasi Konteks dan Potensi Risiko
Fungsi pertama dari NIST AI RMF menekankan pada pemahaman konteks, ruang lingkup, dan pemangku kepentingan yang terlibat dalam sistem AI. Skyhigh AI, yang diluncurkan pada Konferensi RSA 2024, unggul dalam domain ini dengan memberikannya:
- Visibilitas komprehensif ke dalam aplikasi AI yang disetujui, bayangan, dan pribadi.
- Dukungan untuk lebih dari 1.100 aplikasi AI melalui Skyhigh Cloud Registry.
- 75+ atribut risiko termasuk atribut khusus AI
Kemampuan pemetaan ini memberi organisasi pemahaman mendalam tentang ekosistem AI mereka, sehingga memungkinkan mereka untuk mengidentifikasi risiko yang terkait dengan penggunaan aplikasi AI dalam waktu yang hampir seketika dan memitigasi potensi pelanggaran data.
2. Mengukur: Menilai dan Menganalisis Risiko
Setelah ekosistem AI dipetakan, organisasi harus menilai dan mengukur risiko. Skyhigh AI menawarkan alat yang kuat untuk mengevaluasi keamanan LLM, termasuk:
- Atribut Keamanan untuk aplikasi AI
- Atribut risiko berbasis LLM, seperti potensi jailbreak, toksisitas, bias, dan pembuatan malware
- Penilaian Risiko Pengguna berbasis ML untuk menentukan pengguna berisiko tinggi
Skyhigh AI menyederhanakan proses penilaian risiko berkelanjutan yang membutuhkan banyak tenaga kerja, memanfaatkan otomatisasi untuk memastikan organisasi tetap mendapatkan informasi terbaru tentang ancaman yang muncul sekaligus menyelaraskan dengan standar NIST.
3. Mengelola: Menerapkan Kontrol dan Strategi Mitigasi
Identifikasi risiko saja tidak cukup. Fungsi Kelola NIST AI RMF berfokus pada penerapan kontrol yang efektif untuk memitigasi risiko dengan prioritas tinggi. Skyhigh AI, yang terintegrasi dengan FedRAMP bersertifikasi tinggi Secure Web Gateway dan CASB, memberikannya:
- Kontrol berbasis tata kelola untuk mengelola aplikasi AI seperti blok aplikasi, kontrol aktivitas
- Opsi untuk menonaktifkan riwayat obrolan untuk ChatGPT, mencegah data organisasi digunakan sebagai data pelatihan
- Menerapkan batas karakter dan memblokir tautan bersama di dalam aplikasi obrolan
- Data Loss Prevention (DLP) tingkat lanjut untuk melindungi data penting yang diunggah ke aplikasi AI dengan kemampuan EDM dan OCR
Langkah-langkah ini memberdayakan organisasi untuk memitigasi risiko secara proaktif sekaligus mendorong produktivitas dan inovasi.
4. Memerintah: Menetapkan Pengawasan dan Peningkatan Berkesinambungan
Tata kelola dan peningkatan berkelanjutan sangat penting untuk adopsi AI yang berkelanjutan. Skyhigh AI mendukung hal ini:
- Pemantauan penggunaan AI bayangan secara terus-menerus
- Analisis risiko otomatis untuk memastikan kepatuhan terhadap peraturan yang terus berkembang
- Asisten DLP berbasis AI untuk pembuatan kebijakan tanpa kode, mengurangi kesalahan dan meningkatkan keamanan
- Pengurangan positif palsu berbasis ML, meminimalkan kelelahan waspada untuk efisiensi operasional
Fitur-fitur ini memungkinkan organisasi untuk membangun mekanisme pengawasan yang kuat, memastikan peningkatan berkelanjutan dalam praktik manajemen risiko AI mereka.
Kesimpulan: Skyhigh AI - Mitra Tepercaya dalam Manajemen Risiko AI
Skyhigh AI menawarkan visibilitas ke dalam aplikasi AI, pemahaman risiko termasuk atribut risiko berbasis LLM, DLP pada data yang masuk ke aplikasi AI, Investigasi ancaman dan UEBA pada aplikasi AI.
Pendekatan Skyhigh AI yang komprehensif ini sepenuhnya selaras dengan NIST AI RMF. Dengan menangani fungsi inti kerangka kerja - Memetakan, Mengukur, Mengelola, dan Mengatur - SkyhighAI melengkapi organisasi untuk memanfaatkan potensi transformatif AI sekaligus melindungi dari risiko terkait. Seiring dengan perkembangan AI, Skyhigh AI tetap menjadi mitra tepercaya dalam memungkinkan adopsi AI yang aman, bertanggung jawab, dan inovatif.
Kembali ke Blog