작성자: 사랑 와루드카르 - 수석 CASB 기술 제품 마케팅 매니저( Skyhigh Security ), 존 듀로니오 - 소프트웨어 영업 엔지니어, Skyhigh Security
2024년 12월 12일 3 분 읽기
AI와 대규모 언어 모델(LLM)은 비즈니스를 혁신하면서 기회와 위험을 동시에 가져옵니다. AI는 효율성과 혁신을 촉진하지만 데이터 유출, 규정 위반, 섀도 AI 사용과 같은 문제도 야기합니다. AI의 빠른 도입은 종종 거버넌스를 앞지르기 때문에 적절한 보안 조치 없이 조직은 평판, 재무 및 법적 위험에 취약해질 수 있습니다.
안전한 AI 도입의 중요성을 인식한 백악관은 최근 AI에 관한 첫 번째 국가 안보 각서를 발표하여 모든 미국 연방 기관에 60일 이내에 최고 인공지능 책임자를 임명하도록 의무화했습니다.
이 각서는 사이버 보안 위험을 방지하고 규정 준수를 보장하기 위해 AI 사용에 대한 강력한 거버넌스를 구축하는 것이 시급함을 강조합니다. Skyhigh Security 은 AI 보안 관리를 위한 고급 솔루션인 Skyhigh AI를 갖춘 보안 서비스 에지(SSE) 플랫폼으로 이러한 요구 사항을 해결하는 데 앞장서고 있습니다. Skyhigh AI는 미국 국립표준기술연구소(NIST)의 인공지능 위험 관리 프레임워크(AI RMF 1.0)와 원활하게 연계되어 네 가지 핵심 기능에 걸쳐 AI 위험을 관리하는 구조화된 접근 방식을 제공합니다: 매핑, 측정, 관리 및 거버넌스.
그림 1. [출처: 인공 지능 위험 관리 프레임워크(AI RMF 1.0)]
Skyhigh AI가 조직이 NIST AI RMF를 준수하고 안전하고 책임감 있는 AI 관행을 구현하는 데 어떻게 도움이 되는지 자세히 알아보세요.
1. 지도: 상황 및 잠재적 위험 식별
NIST AI RMF의 첫 번째 기능은 AI 시스템과 관련된 맥락, 범위, 이해관계자를 이해하는 데 중점을 둡니다. 2024 RSA 컨퍼런스에서 출시된 Skyhigh AI는 이 영역에서 탁월한 성능을 발휘합니다:
- 제재된 섀도 및 비공개 AI 애플리케이션에 대한 포괄적인 가시성을 제공합니다.
- Skyhigh 클라우드 레지스트리를 통해 1,100개 이상의 AI 애플리케이션을 지원합니다.
- AI 특정 속성을 포함한 75개 이상의 위험 속성
이 매핑 기능을 통해 조직은 AI 에코시스템에 대한 심층적인 이해를 바탕으로 AI 애플리케이션 사용과 관련된 위험을 거의 실시간으로 파악하고 잠재적인 데이터 유출을 완화할 수 있습니다.
2. 측정: 위험 평가 및 분석
AI 에코시스템이 매핑되면 조직은 위험을 평가하고 정량화해야 합니다. Skyhigh AI는 다음과 같은 강력한 도구를 제공하여 LLM의 보안을 평가할 수 있습니다:
- AI 앱의 보안 속성
- 탈옥 가능성, 독성, 편향성, 멀웨어 생성 등의 LLM 기반 위험 속성
- ML 기반 사용자 위험도 스코어링으로 고위험군 사용자 찾아내기
Skyhigh AI는 자동화를 활용하여 조직이 NIST 표준에 부합하면서 새로운 위협에 대한 최신 정보를 유지할 수 있도록 지원함으로써 노동 집약적인 지속적인 위험 평가 프로세스를 간소화합니다.
3. 관리: 제어 및 완화 전략 구현하기
위험 식별만으로는 충분하지 않습니다. NIST AI RMF의 관리 기능은 우선순위가 높은 위험을 완화하기 위한 효과적인 제어를 구현하는 데 중점을 둡니다. Skyhigh AI는 FedRAMP High 인증( Secure Web Gateway ) 및 CASB와 통합되어 있습니다:
- 애플리케이션 블록, 활동 제어와 같은 AI 애플리케이션 관리를 위한 거버넌스 기반 제어
- ChatGPT의 채팅 기록을 비활성화하여 조직 데이터가 학습 데이터로 사용되지 않도록 하는 옵션
- 채팅 애플리케이션 내에서 글자 수 제한 및 공유 링크 차단 적용
- 고급 Data Loss Prevention (DLP) 를 통해 EDM, OCR 기능으로 AI 앱에 업로드된 중요 데이터를 보호합니다.
이러한 조치를 통해 조직은 선제적으로 위험을 완화하는 동시에 생산성과 혁신을 촉진할 수 있습니다.
4. 관리: 감독 및 지속적인 개선 확립
지속 가능한 AI 도입을 위해서는 거버넌스와 지속적인 개선이 필수적입니다. Skyhigh AI는 이를 지원합니다:
- 섀도 AI 사용량에 대한 지속적인 모니터링
- 진화하는 규정을 준수하기 위한 자동화된 위험 분석
- 코드 없이 정책을 생성하여 오류를 줄이고 보안을 강화하는 AI 기반 DLP 어시스턴트
- ML 기반 오탐 감소, 경보 피로도를 최소화하여 운영 효율성 향상
이러한 기능을 통해 조직은 강력한 감독 메커니즘을 구축하여 AI 위험 관리 관행을 지속적으로 개선할 수 있습니다.
결론 스카이하이 AI - AI 리스크 관리의 신뢰할 수 있는 파트너
Skyhigh AI는 AI 앱에 대한 가시성, LLM 기반 위험 속성을 포함한 위험에 대한 이해, AI 앱으로 이동하는 데이터에 대한 DLP, 위협 조사 및 AI 앱에 대한 UEBA를 제공합니다.
이 포괄적인 Skyhigh AI 접근 방식은 NIST AI RMF와 완전히 일치합니다. 이 프레임워크의 핵심 기능인 매핑, 측정, 관리, 거버넌스에대응함으로써 조직은 AI의 혁신적 잠재력을 활용하는 동시에 관련 위험으로부터 보호할 수 있습니다. AI가 계속 발전함에 따라 Skyhigh AI는 안전하고 책임감 있으며 혁신적인 AI 도입을 지원하는 신뢰할 수 있는 파트너로 자리매김하고 있습니다.
블로그로 돌아가기