โดย Sarang Warudkar - ผู้จัดการการตลาดผลิตภัณฑ์ทางเทคนิคอาวุโสของ CASB Skyhigh Security และจอห์น ดูโรนิโอ - วิศวกรฝ่ายขายซอฟต์แวร์ Skyhigh Security
วันที่ 12 ธันวาคม 2567 3 อ่านนาที
เมื่อ AI และโมเดลภาษาขนาดใหญ่ (LLM) เข้ามาเปลี่ยนแปลงธุรกิจ พวกมันก็มีทั้งโอกาสและความเสี่ยง แม้ว่า AI จะขับเคลื่อนประสิทธิภาพและนวัตกรรม แต่ AI ยังสร้างความท้าทาย เช่น การละเมิดข้อมูล การละเมิดข้อกำหนด และการใช้ AI ในเงา การนำ AI มาใช้อย่างรวดเร็ว มักจะแซงหน้าการกำกับดูแล ทำให้องค์กรเสี่ยงต่อความเสี่ยงด้านชื่อเสียง การเงิน และกฎหมาย หากไม่มีมาตรการรักษาความปลอดภัยที่เหมาะสม
ด้วยการตระหนักถึงความสำคัญอย่างยิ่งของการนำ AI มาใช้อย่างปลอดภัย ทำเนียบขาวจึงได้ออก บันทึกความเข้าใจด้านความมั่นคงแห่งชาติฉบับแรกเกี่ยวกับ AI โดยกำหนดให้หน่วยงานของรัฐบาลกลางสหรัฐฯ ทั้งหมดแต่งตั้งหัวหน้าเจ้าหน้าที่ฝ่ายปัญญาประดิษฐ์ภายใน 60 วันนับตั้งแต่มีคำสั่งนี้
บันทึกความเข้าใจนี้เน้นย้ำถึงความเร่งด่วนในการสร้างการกำกับดูแลที่มั่นคงสำหรับการใช้ AI เพื่อป้องกันความเสี่ยงด้านความปลอดภัยทางไซเบอร์และเพื่อให้มั่นใจถึงการปฏิบัติตาม Skyhigh Security เป็นผู้นำในการตอบสนองความต้องการเหล่านี้ด้วยแพลตฟอร์ม Secure Service Edge (SSE) ที่มี Skyhigh AI ซึ่งเป็นโซลูชันขั้นสูงสำหรับการจัดการความปลอดภัยของ AI Skyhigh AI สอดคล้องกับกรอบการจัดการความเสี่ยงด้านปัญญาประดิษฐ์ (AI RMF 1.0) ของสถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) อย่างสมบูรณ์แบบ โดยนำเสนอแนวทางที่มีโครงสร้างสำหรับการจัดการความเสี่ยงด้าน AI ในสี่ฟังก์ชันหลัก ได้แก่ แผนที่ การวัด จัดการ และการควบคุม
รูปที่ 1 [ที่มา: กรอบการบริหารความเสี่ยงด้านปัญญาประดิษฐ์ (AI RMF 1.0) ]
มาเจาะลึกกันว่า Skyhigh AI ช่วยให้องค์กรต่างๆ สอดคล้องกับ NIST AI RMF และนำแนวปฏิบัติด้าน AI ที่ปลอดภัยและรับผิดชอบไปใช้ได้อย่างไร
1. แผนที่: การระบุบริบทและความเสี่ยงที่อาจเกิดขึ้น
ฟังก์ชันแรกของ NIST AI RMF เน้นที่การทำความเข้าใจบริบท ขอบเขต และผู้มีส่วนได้ส่วนเสียที่เกี่ยวข้องในระบบ AI Skyhigh AI ซึ่งเปิดตัวที่ การประชุม RSA ประจำปี 2024 โดดเด่นในโดเมนนี้ด้วยการส่งมอบ:
- การมองเห็นแบบครอบคลุม เกี่ยวกับแอปพลิเคชัน AI ที่ถูกอนุมัติ แอบแฝง และส่วนตัว
- รองรับ แอปพลิเคชัน AI กว่า 1,100 รายการ ผ่านทาง Skyhigh Cloud Registry
- คุณลักษณะความเสี่ยงมากกว่า 75 รายการ รวมถึงคุณลักษณะเฉพาะของ AI
ความสามารถในการทำแผนที่นี้ช่วยให้องค์กรต่างๆ เข้าใจระบบนิเวศ AI ของตนอย่างเจาะลึก ทำให้สามารถระบุความเสี่ยงที่เกี่ยวข้องกับการใช้งานแอปพลิเคชัน AI ได้ในเวลาใกล้เคียงกับเวลาจริง และลดการละเมิดข้อมูลที่อาจเกิดขึ้นได้
2. การวัด: การประเมินและวิเคราะห์ความเสี่ยง
เมื่อทำแผนที่ระบบนิเวศ AI แล้ว องค์กรต่างๆ จะต้องประเมินและวัดความเสี่ยง Skyhigh AI นำเสนอเครื่องมือที่มีประสิทธิภาพเพื่อประเมินความปลอดภัยของ LLM รวมถึง:
- คุณสมบัติความปลอดภัยสำหรับแอป AI
- คุณลักษณะความเสี่ยงตาม LLM เช่น ศักยภาพในการเจลเบรก ความเป็นพิษ อคติ และการสร้างมัลแวร์
- การให้คะแนนความเสี่ยงของผู้ใช้ตาม ML เพื่อระบุผู้ใช้ที่มีความเสี่ยงสูง
Skyhigh AI ทำให้ขั้นตอนการประเมินความเสี่ยงอย่างต่อเนื่องซึ่งต้องใช้แรงงานมากเป็นเรื่องง่ายขึ้น โดยใช้ประโยชน์จากระบบอัตโนมัติเพื่อให้แน่ใจว่าองค์กรต่างๆ ได้รับข้อมูลอัปเดตเกี่ยวกับภัยคุกคามที่เกิดขึ้นในขณะที่ยังสอดคล้องกับมาตรฐาน NIST
3. การจัดการ: การนำกลยุทธ์การควบคุมและการบรรเทาผลกระทบไปปฏิบัติ
การระบุความเสี่ยงเพียงอย่างเดียวไม่เพียงพอ ฟังก์ชันการจัดการของ NIST AI RMF มุ่งเน้นไปที่การนำการควบคุมที่มีประสิทธิภาพมาใช้เพื่อบรรเทาความเสี่ยงที่มีความสำคัญสูง Skyhigh AI ผสานรวมกับ FedRAMP High-certified Secure Web Gateway และ CASB มอบ:
- การควบคุมตามการกำกับดูแล สำหรับการจัดการแอปพลิเคชัน AI เช่น การบล็อกแอปพลิเคชัน การควบคุมกิจกรรม
- ตัวเลือกใน การปิดใช้งานประวัติการแชทสำหรับ ChatGPT ซึ่งป้องกันไม่ให้ข้อมูลองค์กรถูกใช้เป็นข้อมูลการฝึกอบรม
- บังคับใช้ ข้อจำกัด อักขระและบล็อกลิงก์ที่แชร์ภายในแอปพลิเคชันแชท
- Data Loss Prevention ขั้นสูง (DLP) เพื่อปกป้องข้อมูลสำคัญที่อัพโหลดไปยังแอป AI ด้วยความสามารถ EDM และ OCR
มาตรการเหล่านี้ช่วยให้องค์กรสามารถบรรเทาความเสี่ยงได้อย่างชัดเจนในขณะเดียวกันก็ส่งเสริมผลผลิตและนวัตกรรม
4. การปกครอง: การสร้างการกำกับดูแลและการปรับปรุงอย่างต่อเนื่อง
การกำกับดูแลและการปรับปรุงอย่างต่อเนื่องถือเป็นสิ่งสำคัญสำหรับการนำ AI มาใช้อย่างยั่งยืน Skyhigh AI รองรับสิ่งนี้ด้วย:
- การติดตามการใช้งาน AI เงาอย่างต่อเนื่อง
- การวิเคราะห์ความเสี่ยงอัตโนมัติ เพื่อให้มั่นใจว่าเป็นไปตามกฎระเบียบที่เปลี่ยนแปลงไป
- ผู้ช่วย DLP ที่ขับเคลื่อนด้วย AI สำหรับการสร้างนโยบายแบบไม่ต้องเขียนโค้ด ลดข้อผิดพลาด และเพิ่มความปลอดภัย
- การลดผลบวกปลอมตาม ML ช่วยลดความเหนื่อยล้าจากการแจ้งเตือนเพื่อประสิทธิภาพการทำงาน
คุณลักษณะเหล่านี้ช่วยให้องค์กรสามารถกำหนดกลไกการกำกับดูแลที่แข็งแกร่ง เพื่อให้แน่ใจว่ามีการปรับปรุงอย่างต่อเนื่องในแนวทางการจัดการความเสี่ยงด้าน AI
บทสรุป: Skyhigh AI – พันธมิตรที่เชื่อถือได้ในการจัดการความเสี่ยงด้าน AI
Skyhigh AI มอบการมองเห็นในแอป AI ความเข้าใจเกี่ยวกับความเสี่ยง รวมถึงคุณลักษณะความเสี่ยงตาม LLM, DLP บนข้อมูลที่ส่งไปยังแอป AI การตรวจสอบภัยคุกคาม และ UEBA บนแอป AI
แนวทาง AI ที่ครอบคลุมของ Skyhigh นี้สอดคล้องกับ NIST AI RMF อย่างสมบูรณ์ ด้วยการจัดการกับฟังก์ชันหลักของกรอบงาน ได้แก่ แผนที่ การวัด จัดการ และการควบคุม Skyhigh AI ช่วยให้องค์กรต่างๆ สามารถใช้ประโยชน์จากศักยภาพในการเปลี่ยนแปลงของ AI ขณะเดียวกันก็ป้องกันความเสี่ยงที่เกี่ยวข้อง ในขณะที่ AI ยังคงพัฒนาต่อไป Skyhigh AI ยังคงเป็นพันธมิตรที่เชื่อถือได้ในการทำให้การนำ AI มาใช้มีความปลอดภัย มีความรับผิดชอบ และสร้างสรรค์
กลับไปที่บล็อก