에이전트를 도입하는 기업이 늘고 있습니다. PoC 단계에서는 대부분 순조롭습니다. 에이전트가 문서를 정리하고, 코드를 작성하고, 사내 시스템을 조회하는 모습을 보면 기대감도 커집니다. 문제는 그다음입니다. 전사로 확산하려는 순간 두 가지 질문이 앞을 막습니다. 비용을 감당할 수 있는가? 에이전트가 하는 일을 통제할 수 있는가? 이 질문에 답을 찾아야 전사 수준의 AX를 시작할 수 있습니다. 관련해 이번 포스팅에서는 구글 클라우드 환경에서 AI 비용을 최적화하는 방법과 통제·보안을 강화하는 방법을 정리해 보았습니다.
AX에서 비용과 통제가 어려운 주제인 이유
AX는 아직 가 보지 않은 조직이 더 많은 미지의 세계라 할 수 있습니다. 그러다 보니 비용을 예측하기도, 통제에 확신을 갖기도 쉽지 않습니다. 먼저 비용의 경우 요금 폭탄에 대한 걱정이 큽니다. 다행히 토큰 비용은 나날이 낮아지고 있습니다. 토마스 쿠리안(Thomas Kurian) 구글 클라우드 CEO는 2026년 10월 8일 Gemini at Work 2026 기조연설에서 토큰당 가격이 2024년 이후 98% 떨어졌다고 밝혔습니다. 역설적이게도 기업의 AI 지출은 오히려 늘고 있습니다. 이유는 사용량입니다. 복잡한 에이전트 작업 하나가 토큰 10만 개를 쓰기도 합니다. 에이전트는 계획을 세우고, 도구를 부르고, 결과를 검토하고, 다시 시도하는 루프를 여러 번 돕니다. 이 루프를 모두 최고 성능 모델로 돌리면 예산은 금세 바닥날 수 있습니다.
다음으로 통제의 경우 생성형 AI 서비스에서 프롬프트로 대화만 이어 가는 것과 에이전틱 워크플로우를 대상으로 한 보안은 난이도가 다릅니다. AI 챗봇은 질문과 답변, 첨부 파일 중심으로 관리하면 되므로 관리 범위가 비교적 좁습니다. 에이전트는 메일을 보내고, 데이터베이스를 조회하고, 코드를 실행합니다. 에이전트가 할 수 있는 일이 늘어날수록 보안 강화를 위해 챙겨야 할 것들도 많아집니다. 책임 소재도 문제입니다. 지금까지 많은 에이전트는 사용자의 자격 증명으로 움직였습니다. 에이전트가 테이블을 지우거나 외부로 메일을 보내도 감사 로그에는 사용자 이름만 남았습니다. 누가 무엇을 했는지 가려낼 수 없다면 보안팀과 준법감시팀은 운영 환경 적용을 허락하기 어렵습니다.
그렇다면 구글 클라우드 환경에서는 비용과 통제라는 어려운 문제를 어떻게 해결할 수 있을까요? 비용 최적화부터 알아보겠습니다.
비용 최적화 팁
사용자 입장에서는 자신의 업무에 최고 성능 모델을 쓰는 것이 당연해 보입니다. 하지만 회사 입장에서 보면 사용자가 요청하는 모든 작업을 꼭 최고 성능 모델로 처리할 필요는 없습니다. 어떤 작업은 깊은 추론이 필요하고, 어떤 작업은 간단한 답이면 충분합니다. 여기에 답이 있는데요. 작업 유형에 맞는 모델로 요청을 보내는 라우팅으로 비용을 최적화할 수 있습니다.
구글이 Gemini at Work 2026에서 발표한 업무용 에이전트인 Gemini 에이전트는 멀티 모델 오케스트레이션으로 단계마다 알맞은 모델을 씁니다. 일상적인 작업은 효율적인 모델로 처리하고, 꼭 필요할 때만 프런티어 모델로 올립니다. 구글은 이를 스마트 라우팅(Smart Routing)이라고 부릅니다. 쿠리안 CEO에 따르면 구글의 테스트에서 스마트 라우팅은 모든 작업을 프런티어 모델로 처리할 때와 비슷한 결과를 3분의 1 비용으로, 40% 더 빠르게 냈습니다. 필요하면 사용자가 직접 모델을 고를 수도 있습니다.
예를 들어 프런티어급 성능이 필요하면 Gemini 4 Argon을, 속도가 중요하면 Flash를 고를 수 있습니다. 뿐만 아니라 앤트로픽의 Claude 모델도 함께 쓸 수 있어 모델 선택지가 넓습니다. 이처럼 다양한 모델을 이용할 수 있는 환경에서는 에이전트와 모델을 분리해 작업마다 가장 경제적인 모델을 고를 수 있고, 더 나은 모델이 나오면 바로 갈아탈 수도 있습니다.
예산을 넘기지 않도록 한도를 지정하는 것도 권장하는 방식입니다. 관리자는 구글 클라우드에서 프로젝트별 실시간 지출 한도(Spend Caps)를 설정할 수 있습니다. 이 한도는 토큰 비용뿐 아니라 코드 샌드박스와 컴퓨팅 비용까지 에이전트 작업 전체에 걸립니다. 한도에 이르면 해당 프로젝트의 에이전트는 멈추고, 담당자가 콘솔에서 다시 시작할 때까지 기다립니다. 덕분에 백그라운드에서 돌아가는 루틴이 예산을 넘길 걱정이 줄어듭니다. 프로젝트 단위로 지출을 추적하므로 부서나 사업별로 비용을 나눠 청구하기도 쉽습니다.
반복 작업에서 토큰을 쓰지 않는 구조를 만드는 것도 비용 최적화 방법 중 하나입니다. 가령 매주 보는 운영 리포트를 매번 AI에게 새로 만들게 할 필요는 없습니다. 관련해 좋은 데모가 있는데요. Gemini at Work 2026의 데이터 분석 데모에서 Gemini 에이전트는 BigQuery와 날리지 카탈로그(Knowledge Catalog) 스킬로 쿼리를 만들고 저장해 비용을 줄이는 방법을 잘 보여 줍니다. 데모와 같은 방식으로 접근하면 한 번 저장한 리포트는 토큰 비용 없이 다시 실행할 수 있습니다. 대시보드도 날리지 카탈로그에 저장한 쿼리 템플릿을 써서 토큰 소모 없이 새로 고칠 수 있습니다. 판단이 필요한 새로운 질문은 AI에게, 정해진 계산은 저장한 쿼리에게 맡기는 분업으로도 비용을 줄일 수 있습니다.
반복해서 넣는 입력을 캐시하는 방법도 비용 관리에 도움이 됩니다. 긴 시스템 지침이나 같은 문서를 여러 번 넣는 작업은 캐시를 활용하면 비용이 크게 줄어듭니다. 예를 들어 Gemini 4 Argon은 캐시한 입력 토큰에 입력 가격의 95%를 할인합니다. 에이전트 프롬프트를 설계할 때 바뀌지 않는 부분과 바뀌는 부분을 나눠 두면 캐시 효과를 높일 수 있습니다.
에이전트 통제 환경은 어떻게 구성할까?
구글 클라우드는 에이전트를 통제하는 환경을 크게 다음과 같은 요소로 구성합니다.
- 에이전트 레지스트리(Agent Registry): 조직 안에 어떤 에이전트와 스킬이 있는지 모르면 통제도 할 수 없습니다. 에이전트 레지스트리는 모든 에이전트와 스킬을 목록으로 관리하고 감사할 수 있게 합니다. IT 부서가 파악하지 못한 채 부서마다 만들어 쓰는 섀도 AI(Shadow AI)를 줄이는 출발점입니다.
- 에이전트 ID(Agent Identity): Gemini 에이전트는 사용자의 자격 증명을 빌려 쓰지 않습니다. 자체 머신 자격 증명과 역할 기반 권한을 가지고, 직원과 똑같이 최소 권한 원칙에 따라 관리합니다. 모든 에이전트는 고유 ID를 가지며, 모든 행동은 사람이 아닌 에이전트의 이름으로 감사 기록에 남습니다. 덕분에 누가, 누구를 대신해, 언제, 무엇을 했는지 언제든 답할 수 있습니다.
- 에이전트 샌드박스(Agent Sandbox): 에이전트는 코드를 직접 작성하고 실행합니다. Gemini 에이전트는 코드를 실행할 때 격리한 에이전트 샌드박스를 씁니다. 검증하지 않은 스크립트가 핵심 운영 환경에 닿지 않습니다. 샌드박스는 자체 네트워크 경계를 가지며, 에이전트 ID는 에이전트가 띄운 가상 머신까지 따라갑니다. 보안팀은 이상 행동을 문제가 되기 전에 포착할 수 있습니다.
- 에이전트 게이트웨이(Agent Gateway): 에이전트가 주고받는 모든 데이터는 에이전트 게이트웨이를 거칩니다. 구글은 이를 AI 네트워크 방화벽이라고 부릅니다. 게이트웨이는 조직의 정책을 집행하고 악성 프롬프트와 도구 호출을 실시간으로 검사합니다. 에이전트가 내린 모든 결정의 관측 기록도 남깁니다. “기밀 등급 문서는 열지 않는다” 같은 정책을 한 번 정하면 에이전트를 하나씩 점검하지 않아도 조직의 모든 에이전트가 같은 정책을 따릅니다. 여기에 관리자 기능이 더해집니다. 관리자는 외부로 나가는 모든 메일에 사람의 검토를 의무화하거나, 민감 데이터 공유를 자동으로 막는 정책을 조직 전체에 걸 수 있습니다. 관리자 콘솔에서는 에이전트가 어떤 하위 에이전트를 불렀는지, 어떤 LLM 호출과 정책, 도구 호출이 있었는지 실행 기록을 추적합니다.
보안 정책과 거버넌스 기준을 세워 놓은 조직이라면 위 환경을 기존 환경과 연결하는 것을 고려할 수 있습니다. 에이전트 ID는 사내 계정 관리 체계에, 감사 기록은 보안 관제와 내부 감사 절차에, 게이트웨이 정책은 개인정보 보호와 정보 유출 방지 정책에 맞추는 식으로 말이죠. 이는 에이전트를 새로운 조직원으로 보고 기존 관리 체계와 정책 아래에서 함께 관리하는 접근이라 할 수 있습니다.
AX 확산, 무엇부터 준비해야 할까?
AX의 성패는 모델 성능보다 비용과 통제에서 갈리는 경우가 많습니다. 앞서 소개한 바와 같이 구글 클라우드는 비용 쪽에서는 스마트 라우팅, 프로젝트별 지출 한도, 토큰 없이 반복 실행하는 쿼리 구조, 입력 캐시를 제공합니다. 통제 쪽에서는 에이전트 레지스트리, 에이전트 ID, 에이전트 샌드박스, 에이전트 게이트웨이로 이어지는 보안 계층을 제공합니다.
시작은 간단합니다. 운영 중이거나 검토 중인 에이전트 목록을 만들고, 각 에이전트가 누구의 권한으로 움직이는지, 한 달에 얼마를 쓰는지부터 확인해 보시기 바랍니다. 두 질문에 바로 답하기 어렵다면 그 지점이 우리 조직의 AX 병목입니다. 더 자세한 내용이 궁금하다면 메가존소프트 문의 포털을 통해 상담을 남겨 주세요.
