AI가 적대적으로 변할 때: 클로드가 주도한 사이버 범죄에서 얻은 교훈

사이버 보안 업계는 인공지능이 방어의 조력자에서 공격의 촉진자로 전환되는 순간을 오랫동안 예상해 왔습니다. 그 순간은 더 이상 가상이 아닙니다. 최근 보고서 에 따르면 조직화된 위협 그룹이 AI 코딩 도우미인 클로드 코드를 악용하여 전 세계 수십 개의 조직에 대한 광범위한 다단계 공격 캠페인을 자율적으로 조율한 것으로 밝혀졌습니다.

일어난 일

공개된 정보에 따르면 공격자들은 클로드 코드를 사용하여 다음과 같은 작업을 수행했습니다:

• 정찰, 침입, 자격 증명 수집, 측면 이동 자동화
• 사용자 지정 멀웨어, 랜섬 메모를 빠르게 생성하고 몸값 요구 사항까지 계산하세요.
• 의료, 정부, 응급 서비스를 아우르는 17개 이상의 피해 조직에서 민감한 데이터 유출 방지

클로드의 개발사인 Anthropic은 악성 계정을 신속하게 차단하고 안전 제어를 강화했습니다. 하지만 이 사건은 사이버 범죄자들이 더 이상 깊은 기술력이 필요하지 않다는 사실을 알려주는 신호탄입니다. AI가 사이버 범죄자들을 대신해 기계의 속도로 코드를 작성하고 반복하며 실행할 수 있기 때문입니다.

이것이 중요한 이유

이러한 '에이전트형 AI' 공격은 악의적인 공격자들이 AI를 단순한 도구가 아닌 운영자로 활용하는 전환점을 의미합니다. 기존의 경계 방어만으로는 AI 기반 위협의 속도, 창의성, 적응력을 따라잡을 수 없습니다. 기업은 공격자가 모든 SaaS 및 클라우드 리소스를 지속적으로 조사하여 취약점을 찾아내고, 인간 방어자가 대응할 수 있는 속도보다 더 빠르게 공격할 것이라는 점을 전제해야 합니다.

앞으로 나아가기

AI를 이용한 사이버 범죄의 증가로 인해 모든 기업은 보안 태세를 재고해야 합니다. '에이전트' 공격에 대한 방어는 더 이상 단일 제품이나 지점 제어가 아니라 비즈니스 전반에 걸친 문화, 거버넌스 및 아키텍처의 변화가 필요합니다. 주요 조치는 다음과 같습니다:

1. AI 사용 인벤토리 및 분류 - 환경의 모든 승인 및 비승인 AI 도구를 매핑하고 위험 프로필을 결정합니다.
2. 명확한 AI 거버넌스 정책 수립 - 누가 어떤 AI 시스템을 어떤 목적으로, 어떤 데이터 처리 규칙에 따라 사용할 수 있는지 정의합니다.
3. 데이터 중심 제어 기능 탑재 - 암호화, 강력한 액세스 정책, AI 인식 DLP를 결합하여 중요한 데이터가 이동하는 모든 곳에서 데이터를 보호하세요.
4. 신원 및 액세스 강화 - 최소 권한, 다단계 인증, 행동 모니터링을 시행하여 자동화된 측면 이동을 방지합니다.
5. 지속적인 모니터링 및 적응 - 분석, 위협 인텔리전스 및 사용자 행동 기준선을 활용하여 비정상적인 AI 상호 작용을 실시간으로 감지합니다.
6. 신속한 대응을 위한 계획 - 공격자가 기계의 속도로 움직일 수 있고 자동화된 봉쇄가 필요하다는 가정 하에 사고 대응 플레이북을 구축합니다.

AI 도입은 부인할 수 없는 비즈니스 가치를 가져다주지만, 전례 없는 속도로 새로운 공격 표면을 도입하기도 합니다. AI 리스크를 이사회 차원의 우선 순위로 다루고, 제어를 현대화하며, 팀 간 책임을 강화하는 기업은 공격자가 진화하더라도 안전하게 혁신할 수 있는 위치에 서게 됩니다.

더 큰 그림

기업 내 AI는 계속 발전할 것입니다. 비즈니스 가치와 혁신은 GenAI, 코파일럿, 지능형 자동화를 활용하는 데 달려 있습니다. 하지만 이번 사건에서 알 수 있듯이 공격자들은 이미 동일한 도구를 사용하여 공격을 확장하고 있습니다. 보안 리더는 다음을 구축해야 합니다. AI 중심 방어 AI 중심 방어 체계를 구축하여 기업이 감당할 수 없는 위험을 감수하지 않고 혁신을 도입할 수 있도록 해야 합니다.

인공지능 시대에는 인공지능을 인식하는 보안이 필요합니다. Skyhigh SSE를 통해 조직은 차세대 사이버 범죄의 문을 열어두지 않고도 혁신을 수용할 수 있습니다.

Skyhigh Security SSE에 대해 자세히 알아보기 여기.