에코리크와 새로운 AI 위협의 개척지: 코파일럿과 ChatGPT 시대의 기업을 위한 5가지 교훈

수하스 코다갈리, 사랑 와루드카르 - 저자

2025년 7월 14일 5 1분 읽기

최근 공개된 에코리크(CVE-2025-32711)-(Microsoft 365 Copilot을 대상으로 하는 제로 클릭, 간접 프롬프트 인젝션 취약점)의 공개는 이사회실과 사회간접자본(SOC) 모두에게 분명한 신호를 보냈습니다: AI는 더 이상 단순한 생산성 향상 도구가 아닙니다. 이제 AI는 기업 공격 표면의 일부가 되었습니다.

에코리크가 특히 우려스러운 이유는 사용자의 조치가 필요하지 않았다는 점입니다. 악의적으로 조작된 이메일 하나만으로도 Copilot이 숨겨진 지침을 수집하고 그에 따라 행동하며 잠재적으로 민감한 데이터를 백그라운드에서 유출할 수 있었습니다.

CISO와 데이터 보호 팀에게 이것은 단순히 경각심을 일깨우는 것 이상의 의미이며, 기업 전반에서 AI를 관리, 보안 및 모니터링하는 방법을 재고해야 한다는 의무입니다.

에코리크란 무엇인가요?

• 제로 클릭 공격: 사용자 조치가 필요 없이 조작된 이메일을 보내기만 하면 됩니다. 이메일을 열거나 상호작용하지 않아도 Copilot은 작업 공간 데이터를 요약할 때 숨겨진 지침을 수집할 수 있습니다.
• 간접 프롬프트 주입: 악성 콘텐츠는 "정상적인" 이메일 또는 문서에 삽입되며, 용어와 문구가 신중하게 제작되어 Copilot은 이를 정상 요청으로 인식합니다.
• RAG 악용: Copilot의 검색 시스템에는 최근 이메일이 컨텍스트에 포함됩니다. 요약할 때 악성 프롬프트를 포착하여 민감한 데이터를 추출하고 숨겨진 이미지 또는 마크다운 링크를 통해 공격자가 제어하는 서버로 유출하는 등의 작업을 실행할 수 있습니다.

모든 조직이 에코리크에서 배워야 할 5가지 중요한 교훈

 

1. 가장 빠르게 성장하는 사각지대, 섀도우 AI

섀도 AI 사용은 기업 전반에서 폭발적으로 증가하고 있습니다. 지난 한 해 동안 AI 앱 트래픽이 200% 증가했으며 그리고 기업에서 평균 320개의 승인되지 않은 AI 앱을 사용 중입니다. (AI CARR 2025). 이러한 급증은 AI 지원 도구가 IT 부서의 감독을 벗어나 채택되면서 가시성 및 거버넌스 문제를 야기하는 방식을 잘 보여줍니다. 또한 직원들은 기업 워크플로우를 최적화하기 위해 이러한 앱에 기업 데이터를 업로드하고 있습니다. 이러한 문제를 해결하기 위해 조직은 다음을 활용하고 있습니다. SSE 솔루션 을 활용하여 승인되지 않은 AI 도구를 자동으로 검색하고, 위험 점수를 할당하고, 무단 데이터 액세스를 방지하는 정책을 시행하고 있습니다. 실제로 SSE 솔루션은 승인되지 않은 AI 앱의 LLM 위험에 대한 정보를 제공하여 기업 내에서 허용되는 AI 앱에 대한 거버넌스를 강화할 수 있도록 지원합니다. 이러한 가드레일을 통해 보안팀은 빠르게 확장되는 기업 직원의 AI 채택을 다시 제어할 수 있습니다.

2. AI 앱에서 데이터 보호의 중요성

Skyhigh Security 데이터에 따르면 다음과 같은 사실이 밝혀졌습니다. AI 애플리케이션에 업로드되는 파일 중 11%에 민감한 기업 콘텐츠가 포함되어 있습니다.하지만 이러한 위험을 완화하기 위해 데이터 보호 정책을 구현한 기업은 10% 미만입니다. (AI CARR 2025). AI 앱에 업로드되는 데이터를 제어하는 것은 유출될 수 있는 데이터의 큰 부분을 차지합니다. 오늘날 보안팀의 주요 관심사는 기업 데이터가 AI 앱에 업로드되면 기업 내부 또는 외부의 사용자가 영리한 프롬프트 엔지니어링을 사용하여 이 데이터를 검색할 수 있다는 것입니다. 따라서 AI 앱에 업로드된 데이터에 DLP를 적용하는 것은 이제 기업 데이터 보안의 중요한 부분입니다. 여기에는 섀도 AI 앱에 업로드된 데이터와 기업에서 승인한 AI 앱이 포함됩니다.

3. 마이크로소프트 코파일럿을 통한 기업 데이터 노출은 주요 데이터 유출 위험입니다.

Microsoft Copilot의 급격한 성장-지난 한 해 동안 트래픽은 3,600배, 데이터 업로드는 6,000배 증가했습니다(AI CARR 2025).-LLM 기반 어시스턴트가 엔터프라이즈 워크플로에 얼마나 빠르게 내장되고 있는지를 보여줍니다. 보안팀은 M365 Copilot에 업로드되는 민감한 데이터 외에도 Copilot이 수집한 데이터가 챗봇을 통해 검색 프롬프트를 엔지니어링하는 직원에게 공유되는 것에 대해서도 우려하고 있습니다. 예를 들어, Copilot이 해당 프로젝트 정보가 포함된 프레젠테이션이나 회의 내용을 수집한 후 권한이 없는 직원에게 기밀 프로젝트의 세부 정보를 공개할 수 있습니다. 이 문제를 해결하기 위해 보안팀은 SSE 솔루션 내에서 DLP를 사용하여 필요한 분류 레이블을 적용하여 Copilot에 민감한 데이터가 수집되는 것을 방지하고 있습니다. 이렇게 하면 신속한 엔지니어링이 이루어지더라도 Copilot에서 이러한 콘텐츠가 노출되지 않습니다.

4. 즉각적인 주입 위험은 선제적 방어가 필요합니다.

에코리크는 양성으로 보이는 콘텐츠에 악의적인 지침을 숨기는 간접 프롬프트 인젝션이라는 공격 유형에 속합니다. 놀랍게도 AI 서비스의 94%가 프롬프트 인젝션, 멀웨어, 편향성, 독성 등 최소 한 가지 이상의 LLM 위험 벡터에 취약합니다. (AI CARR 2025). 이를 방지하기 위해 기업들은 다음과 같은 기능을 갖춘 SSE 플랫폼을 사용하고 있습니다. 프롬프트 인젝션 보호 입력이 엔터프라이즈 AI 시스템에 도달하기 전에 스캔하고 살균하여 숨겨진 위협을 효과적으로 무력화합니다.

5. 내부자 위협을 모니터링하는 것처럼 AI 활동 모니터링

AI 에이전트는 시스템 수준의 속도로 작동하지만 인간의 판단력이 부족하기 때문에, 특히 행동이 정해진 패턴에서 벗어날 경우 잠재적으로 위험한 것으로 간주해야 합니다. 이를 완화하기 위해 기업은 SSE 솔루션을 사용하여 AI 앱에서 사용자 활동을 모니터링하고 추적하여 비정상적인 사용 패턴, 파일 업로드 또는 다운로드를 감지해야 합니다. 이러한 솔루션은 UEBA를 사용하여 사용량 및 위치 기반 이상 징후를 파악하고 이러한 정보를 사용자 위험도 계산에 입력합니다. 이러한 워크플로는 이미 다른 SaaS 솔루션에서 기업에서 구현되었으며 이제 AI 앱으로 확장되고 있습니다.

미래: 회복탄력성 있는 기업을 위한 AI 네이티브 SSE

에코리크가 AI 앱에 대한 마지막 공격은 아닐 것입니다. 사용자가 AI 앱과 프롬프트 엔지니어링에 대해 더 잘 이해하게 되면 이러한 공격은 더 많이 발생할 것입니다. 기업은 지금 바로 AI 사용에 대한 제어를 배포하여 기업 데이터가 AI 앱으로 유출되거나 이를 통해 유출되지 않도록 보호해야 합니다. Skyhigh Security 같은 SSE 솔루션은 이러한 제어를 시행할 수 있는 핵심 기능을 제공합니다. 

AI 익스플로잇을 방지하는 주요 SSE 기능:

• 섀도우 AI 발견: 승인되지 않은 GenAI 도구를 감지하고 위험 점수를 할당합니다.
• AI 거버넌스: 제어를 적용하여 위험한 AI 앱을 차단하거나 보다 세분화된 활동 제어를 적용하세요.
• AI 프롬프트에 대한 DLP: 프롬프트 및 응답에 데이터 보호 제어 적용
• 프롬프트 주입 보호: 콘텐츠에 숨겨진 프롬프트가 있는지 스캔하고 AI 오용을 차단합니다.
• UEBA / 활동 모니터링: 위협 식별 및 AI 앱에서 수행되는 활동에 대한 위협 조사 수행

Skyhigh Security 기업용 AI 네이티브 보안을 개척하고 있습니다. 클라우드에서 제공되는 Security Service Edge (SSE) 플랫폼은 승인 및 비승인 GenAI 도구, 코파일럿, RAG 기반 에이전트 전반에서 민감한 데이터를 보호하고 AI 위험을 관리하도록 고유하게 설계되었습니다. CASB, SWG, ZTNA, RBI 및 통합 DLP에 대한 심층적인 전문 지식을 갖춘 Skyhigh는 조직이 책임감 있게 AI를 도입하는 동시에 에코리크와 같은 새로운 위협에 한발 앞서 대응할 수 있도록 지원합니다.

자세히 알아보기 스카이하이 AI 보안 솔루션 지금 바로 확인하세요.

블로그로 돌아가기