AI 경쟁을 막을 수는 없습니다. 하지만 이를 더 안전하고 보안이 강화된 방향으로 이끌 수는 있습니다.

Thyaga Vasudevan - 제품 담당 부사장

2026년 9월 15일 5 읽는 데 5분

이번 주말, AI 업계에서는 ‘속도’를 주제로 이례적인 논의가 오갔다. 

요약하자면, 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 는 최첨단 AI 기술이 이를 이해하고 통제하는 데 필요한 메커니즘보다 더 빠르게 발전하고 있다고 주장했다. 오픈AI(OpenAI)의 CEO 샘 알트만 또한 적절한 조건 하에서 첨단 AI 시스템의 개발 속도를 늦추겠다는 의사를 밝힌 바 있다.

그들이 왜 이러한 입장을 취하는지에 대해서는 추측하고 싶지 않습니다. 하지만 그들이 언급한 위험 요소들은 진지하게 받아들여야 마땅합니다. 따라서 저는 더 폭넓은 논의를 통해 다른 결론에 도달할 수 있다고 생각합니다:

우리는 혁신의 속도를 늦출 수 있다는 가정 아래 AI 보안 전략을 수립해서는 안 됩니다. 우리는 혁신이 안전하고 확실하게 지속될 수 있도록 하는 보안 체계를 구축해야 합니다.

혁신은 멈추지 않을 것입니다

아직 발굴되지 않은 가치가 너무나도 많습니다. AI는 의학, 과학, 소프트웨어 개발, 교육, 제조, 사이버 보안은 물론 사실상 모든 지식 집약적 산업을 혁신할 잠재력을 지니고 있습니다. 규제가 가장 엄격한 시장과 지역에 속해 있으며 다양한 산업 분야에 걸쳐 있는 ‘포춘 100대 기업’의 고객들과 대화를 나눠보면, 그들 모두가 이미 이를 직접 목격하고 있습니다. 예를 들어, 직원들은 AI 어시스턴트를 사용하고 있고, 개발자들은 애플리케이션에 모델을 통합하고 있으며, 기업들은 사내 전용 AI 환경을 구축하고 있고, 그들의 비즈니스 프로세스는 점점 더 자율적으로 변해가고 있습니다.

따라서, 이제 돌이킬 수 없는 지경에 이르렀습니다.

AI 사용을 제한하는 데 주력하는 조직은 또 다른 문제를 야기할 수 있습니다. 바로 직원과 개발자들이 보안 팀이 파악할 수 없는 도구로 눈을 돌리게 되는 것입니다. 따라서 목표는 AI 도입 속도를 늦추는 것이 되어서는 안 됩니다. 오히려 목표는 더 안전한 AI 도입이어야 합니다.

포뮬러 1의 문제

전진 속도를 늦추는 데에는 또 다른 실질적인 문제가 있습니다. 모두가 동시에 속도를 줄여야 한다는 점입니다. 제 생각에는 이것이 마치 포뮬러 1의 문제와 비슷합니다. 

가령, 엄청난 속도로 경주를 하다가 트랙의 일부 구간이 위험할 수 있다는 사실을 알게 되어 가속 페달에서 발을 떼었다고 가정해 봅시다. 이는 책임감 있는 행동일 수 있지만, 경쟁자는 다르게 생각할 수도 있습니다. 경쟁자는 자신의 브레이크가 더 우수하다고 믿을 수도 있고, 다른 주행 라인을 선택하거나 더 큰 위험을 감수하기로 할 수도 있습니다.

또한, AI 분야에는 또 다른 요소가 있다는 점에 유의하십시오: 오픈 소스가 있습니다. 혁신은 점점 더 글로벌화되고 분산되는 추세입니다. 프론티어 연구소들끼리 서로 경쟁하는 것이 아니라, 국가들끼리 경쟁하는 것입니다. 기업들은 오픈 소스를 기반으로 자체 맞춤형 모델을 구축하고 있습니다. 

따라서 조직은 모든 참여자가 그 속도에 대해 동의하든 그렇지 않든 간에, AI 역량이 계속해서 빠르게 발전할 것이라고 가정해야 할 것입니다.

포뮬러 1에서와 마찬가지로, 해답은 단순히 속도를 줄이는 것이 아닙니다. 해답은 더 안전한 자동차, 더 우수한 브레이크, 더 튼튼한 방호벽, 더 정교한 원격 측정 시스템, 그리고 더 나은 규정을 마련하는 데 있습니다. 마찬가지로, AI에도 이와 동등한 조치가 필요합니다. 보안은 혁신을 위한 안전 가드레일이 되어야 합니다.

AI 보안은 단 하나의 문제가 아닙니다

AI 보안은 때때로 프롬프트 보호나 대규모 언어 모델(LLM)의 보안 유지 정도로만 축소되곤 합니다. 이는 지나치게 좁은 관점입니다. 현재 기업용 AI는 직원들이 공개 AI 도구를 실험하는 것부터 애플리케이션, API 및 기업 데이터에 접근하는 자율 에이전트에 이르기까지 광범위하게 확장되어 있습니다. 따라서 조직에는 포괄적인 AI 보안 아키텍처가 필요할 뿐, 또 다른 단일 제품이 필요한 것은 아닙니다.

여기서 Skyhigh Security, 저희는 성숙도 모델의 5단계 발전 과정을 통해 이를 고찰합니다.

1. 알아보기

보이지 않는 것은 보호할 수 없습니다. 조직은 우선 승인된 AI, 섀도우 AI, 사내 AI, 그리고 LLM 기반 애플리케이션의 끊임없이 확장되는 영역에 대한 가시성을 확보해야 합니다. 또한 누가 AI를 사용하고 있는지, 어떤 애플리케이션에 접근하고 있는지, 이로 인해 어떤 위험이 발생하며, 민감한 데이터가 어디로 유출될 수 있는지를 파악해야 합니다.

2. 관리 및 예방

가시성은 정책으로 이어져야 합니다. 모든 직원이 모든 AI 서비스에 대해 동일한 접근 권한을 가져서는 안 되며, 모든 AI 애플리케이션이 동일한 데이터를 받아서는 안 됩니다. 바로 이 지점에서 Security Service Edge (SSE) + 제로 트러스트 가 핵심적인 역할을 수행하며 필수적인 요소로 부상합니다. 또한, 아키텍처는 보안 조치로 인해 최종 사용자 경험에 성능 저하나 지연이 발생하지 않도록 로컬 차원의 적용이 가능해야 합니다.

신원, 애플리케이션 위험, 기기 상태, 데이터 민감도 및 상황은 AI 상호작용을 허용, 차단, 제한 또는 다른 경로로 전환해야 할지 여부를 결정할 수 있습니다.

3. 데이터 보호

기업용 AI의 가치는 기업 데이터에 대한 접근성에서 점점 더 많이 비롯되고 있습니다. 또한 바로 그곳에 많은 위험이 도사리고 있습니다. 조직은 이를 활용하여 데이터 보안 태세 관리 (DSPM)를 활용하여, DLP 및 보안 브라우저 제어 기능 가 연동되어 민감한 정보를 탐지하고, 전송 중 정보를 보호하며, 사용자가 AI 애플리케이션에 업로드, 다운로드, 복사, 붙여넣기 또는 노출할 수 있는 내용을 제어합니다.

데이터 보안이 뒷받침되지 않는 AI 보안은 불완전합니다.

4. 안전한 AI 상호작용

다음 단계는 대화 자체를 보호합니다. 프롬프트에는 민감한 정보가 포함될 수 있습니다. 프롬프트 주입을 통해 모델을 조작할 수도 있습니다. 응답에는 안전하지 않거나 부적절한 내용이 포함될 수 있습니다. 조직은 프롬프트 보안 + 콘텐츠 검토 + 맞춤형 대규모 언어 모델(LLM)에 대한 제어 기능을 를 통해 인간과 AI 간의 상호작용에 동적인 안전 장치를 적용해야 합니다.

이 질문은 다음과 같은 내용에서 비롯됩니다: “이 사용자가 이 AI 애플리케이션에 접근할 수 있는가?”

수신자: “이 사용자가, 이 상황에서, 이 정보를 이 모델에 보내야 할까요?”

5. 보안형 에이전틱 AI

이것이 결국 가장 중요한 단계가 될 수도 있습니다. AI는 질문에 답하는 것에서 행동을 취하는 것으로로 진화하고 있습니다. 에이전트는 시스템에 접근하고, 도구를 실행하며, API를 호출하고, 데이터를 검색하며, 기계 속도로 다른 에이전트와 통신할 수 있습니다. MCP와 같은 프로토콜은 이러한 연결을 점점 더 강력하게 만듭니다. 따라서 조직에는 에이전트 신원 제로 트러스트 + MCP 보안 를 도입해야 하며, 이를 통해 자율적인 기계 간 상호작용에 신원, 권한, 정책 및 지속적인 인증이 보장되어야 합니다.

우리는 수십 년에 걸쳐 인간을 위한 신원 관리 및 제로 트러스트 아키텍처를 구축해 왔습니다. 이제 자율적으로 작동하는 기계들을 위해서도 이러한 아키텍처가 필요합니다.

안전을 바탕으로 한 혁신

결론적으로, 이 논쟁은 혁신과 안전 사이의 대립이 아닙니다. 이는 잘못된 이분법입니다. 사이버 보안 업계가 해결해야 할 과제는 안전하고 확실한 혁신을 가능하게 하는 데 있어야 합니다.

AI는 더욱 빨라질 것입니다. 자율성도 더욱 높아질 것이며, 더 많은 기업 데이터에 접근하게 될 것입니다. 또한 인간을 대신해 더 많은 행동을 취하게 될 것입니다. 기업들은 전체 생태계가 집단적으로 속도가 느려지기를 바라는 희망에 기반해 AI 전략을 수립해서는 안 됩니다.

그들의 보안 아키텍처는 정반대의 상황을 가정해야 합니다. AI 시대의 승자는 반드시 가장 느리게 움직이는 조직이 아닐 것입니다. 승자는 올바른 안전 장치를 갖추면서도 빠르게 나아가는 방법을 찾아내는 조직일 것입니다.

블로그로 돌아가기