Security Command Center로 클라우드 보안과 AI 보안을 통합!
AI가 모든 조직의 궁극적인 목표임에도 아직 많은 조직이 시스템 구축에 주저하는 이유는 무엇일까요? 아마 ‘보안’이 바로 떠오를 것입니다.
AI 서비스는 전통적인 엔터프라이즈 워크로드와 여러 면에서 다릅니다. AI 모델 자체의 취약점, 학습 데이터 오염(Data Poisoning), 프롬프트 인젝션(Prompt Injection), 모델 탈취(Model Hijacking) 등 새로운 공격 벡터에 노출될 수 있기 때문입니다.
이것이 바로 현재의 보안 운영 방식과 기존에 도입해 운영하던 보안 솔루션만으로는 선뜻 AI 보안을 보장하기 어려운 이유입니다.
오늘은 이러한 고민을 해소할 수 있는 Security Command Center(SCC)에 대해 알아보고자 합니다. 특히 SCC 플랫폼의 주요 기능과 새롭게 도입된 AI Protection의 기능 및 필요성을 보안 전문가의 관점에서 살펴보겠습니다.
Security Command Center란?
본격적으로 AI 보안을 알아보기에 앞서 SCC를 간단히 소개하겠습니다. 구글 클라우드의 SCC는 조직의 클라우드 환경 전반에 대한 보안 상태를 통합적으로 관리하는 플랫폼입니다. SCC를 통해 보안팀은 조직의 보안 태세(posture), 위협 활동, 클라우드 접근 현황을 실시간으로 모니터링하고 신속하게 대응할 수 있습니다.
SCC는 클라우드 환경 보호를 위해 여러 핵심 기능을 제공합니다. 우선 실시간으로 위협을 감지하여 Compute Engine, Google Kubernetes Engine(GKE) 클러스터, BigQuery 등에서 발생하는 이상 행위를 자동으로 포착합니다.
또한, 가상 레드팀(Virtual Red Team)을 운영하여 수백만 가지 시나리오를 통해 클라우드 환경의 보안 취약점을 시뮬레이션해 공격 경로를 예측하고 사전에 예방 조치를 취할 수 있도록 지원합니다. 더불어 효과적인 취약점 관리 기능을 통해 잘못된 설정이나 알려진 취약점을 자동으로 탐지하고, 발견된 취약점의 우선순위에 따라 적절한 대응책을 제시하여 보안 공백을 최소화합니다.
SCC의 AI 보안 대시보드는 어떻게 AI 보안을 강화하는가?
본론으로 돌아와 SCC로 AI 보안까지 챙길 수 있는 방법을 알아보겠습니다. 구글 클라우드는 SCC에 AI Protection 기능을 적용하였습니다. AI Protection은 AI 워크로드의 안전을 다각도로 보장하기 위해 다음과 같은 기능들을 제공합니다. 하나하나 알아보겠습니다.
- AI 자산 인벤토리 자동 수집 및 가시성 확보: AI Protection 기능은 조직 내 AI 리소스를 자동으로 탐지하고 카탈로그화하여, AI 사용 현황을 한눈에 파악할 수 있도록 지원합니다. 예를 들어 AI를 사용하는 프로젝트 수, Llama 및 Gemini와 같은 파운데이션 모델 인스턴스 수, 학습 및 튜닝된 커스텀 모델 수, 연관된 데이터 세트의 수 등 구체적인 메타 데이터를 포함한 AI 자산 전반에 대한 명확한 가시성을 제공합니다. 이와 함께 Vertex AI 데이터 세트 내 개인 식별 정보(PII) 및 민감 데이터를 자동으로 탐지하고, 데이터 프로파일링을 통해 데이터의 민감도를 평가하여 관련 위험을 효과적으로 관리하도록 돕습니다.
- 가상 레드팀을 통한 선제적 AI 위협 탐지 및 우선순위 지정: AI Protection 기능은 수집된 AI 자산 정보를 기반으로 ‘가상 레드팀’이 민감하고 가치 있는 AI 리소스를 침해할 수 있는 복잡한 공격 경로와 치명적인 조합을 자동으로 시뮬레이션합니다. 단순히 개별 취약점을 나열하는 것을 넘어 실제 공격자 관점에서 AI 시스템의 ‘독성 조합(toxic combinations)’과 공격 경로를 분석하여 가장 위험도가 높은 AI 보안 이슈부터 해결하도록 명확한 우선순위를 제시합니다.
- 데이터 오염 위험 탐지: AI Protection 기능은 AI 모델 학습 및 튜닝 과정에서 발생할 수 있는 데이터 오염 가능성을 조기에 감지한다. 예를 들어 민감한 모델 튜닝 데이터가 포함된 스토리지 버킷이 부적절하게 공개되어 있을 경우 데이터 오염 위험을 탐지한다.
- Model Armor를 통한 강력한 AI 런타임 보호: 운영 환경에서 AI 모델 보호도 중요합니다. Model Armor는 AI 모델이 운영 단계에서 프롬프트 주입(prompt injection), 모델 탈옥(jailbreak), 악의적인 컨텐츠 생성 시도, 민감 정보 유출 시도 등으로부터 AI 모델을 실시간으로 보호합니다. 이는 악성 URL 탐지, 프롬프트 주입 및 탈옥 방지 필터, 민감 데이터 보호 필터, 책임감 있는 AI 필터 등 다양한 탐지기를 통해 이루어지며, 멀티 클라우드 및 다양한 모델 환경을 폭넓게 지원합니다.
- Vertex AI와의 긴밀한 통합으로 개발 단계부터 보안 내재화 (DevSecOps): 개발 단계부터 보안을 통합하기 위해 Vertex AI와의 긴밀한 통합을 지원합니다.
- 능동적인 AI 위협 탐지 및 대응: AI Protection 기능은 실제로 발생하고 있는 AI 시스템에 대한 능동적인 위협을 탐지합니다. 예를 들어 비정상적인 모델 사용량을 통해 잠재적인 LLM 하이재킹 시도를 감지하거나, 조직적인 프롬프트 주입 공격 패턴을 식별하여 즉각적인 조사 및 대응이 가능하도록 SecOps 워크플로우와 연동됩니다. 이를 통해 보안팀은 알려진 취약점뿐만 아니라 실제 공격 시도에 대해서도 신속하게 대응할 수 있습니다.
보안팀과 개발팀의 협업을 통한 AI 보안 실현
SCC의 AI Protection 기능을 활용하면 조직의 보안팀과 개발팀은 협업 효율도 크게 높일 수 있습니다. 보안팀은 SCC의 AI Protection 기능을 통해 AI 자산 현황, 잠재적 위험, 실제 위협 등 AI 관련 보안 상태를 통합적으로 파악하고, 발견된 보안 문제를 개발팀에게 투명하게 전달하며 필요한 조치를 요청할 수 있습니다. 개발팀은 Model Armor와 데이터 보호 API 등을 활용하여 초기 개발 단계부터 보안을 고려한 설계를 적용하고, SCC가 제공하는 가이드라인에 따라 보안 취약점을 수정할 수 있습니다. 또한, 정기적인 공동 위협 시나리오 분석 및 대응 전략 수립을 통해 조직 전체의 AI 보안 역량을 강화할 수 있습니다.
클라우드 보안과 AI 보안을 하나의 플랫폼에서 통합한다!
살펴본 바와 같이 SCC의 AI Protection 기능은 클라우드 인프라 보안과 AI 워크로드 보안을 하나의 통합된 대시보드, 즉 ‘단일 창(single pane of glass)’에서 관리할 수 있게 하여 복잡성을 줄이고 보안 운영 효율성을 극대화합니다. 이를 통해 조직은 AI 혁신을 안전하게 추진하면서 다양한 컴플라이언스 요구 사항을 충족할 수 있습니다.
생성형 AI 시대에 ‘안전한 AI’를 실현하는 것은 더 이상 선택이 아닌 필수 전략입니다. SCC의 AI Protection 기능은 모든 조직이 이러한 AI 시대의 기회를 안전하고 효과적으로 활용하도록 도울 것입니다. 더 자세한 내용이 궁금하다면 메가존소프트로 문의 바랍니다. [문의하기]
