2탄 Scale : 에이전트 확장 및 운영
최근 기업들이 AI 에이전트를 단순한 프로토타입 수준을 넘어 실제 서비스에 도입하면서, 대규모 트래픽 처리와 보안을 관리할 수 있는 플랫폼의 필요성이 커졌습니다. Gemini Enterprise Agent Platform에서는 이러한 에이전트를 안정적으로 서비스하기 위한 환경을 제공하며, 그 중 Deployment는 에이전트의 실제 실행과 인프라 관리를 담당하는 핵심 영역입니다.
Deployment
- 배포 방식의 다각화
Agent Runtime은 개발 워크플로우에 맞춰 5가지의 유연한 배포 방식을 지원합니다.
- 고도화된 설정 옵션 (Deployment Configuration)
배포 시 세밀한 환경 설정이 가능해져 운영의 안정성을 높였습니다.
- 배포 후 관리 및 텔레메트리 (Telemetry)
배포된 에이전트는 단순 실행을 넘어, ‘Manage deployed agents’ 메뉴를 통해 운영 환경에서의 상태 관리와 모니터링이 가능합니다.
Memory Bank
Memory Bank는 2026년 구글 클라우드가 발표한 Gemini Enterprise Agent Platform(구 Vertex AI Agent Builder)의 핵심 기능 중 하나입니다. 이 기능은 AI 에이전트가 가진 가장 큰 한계점인 ‘기억 상실(Amnesia)’ 문제를 해결하기 위해 도입된 완전 관리형 장기 기억(Long-term Memory) 서비스입니다.
- 기억 생성 (Memory Generation): LLM을 사용하여 기억을 생성, 개선 및 관리합니다.
- 에이전트 통합 (Agent Integration):
- ADK(Agent Development Kit) 지원: ADK 내장 도구 및 VertexAiMemoryBankService를 통해 직접 읽기/쓰기를 수행합니다.
- 주요 활용 사례 (Use Cases)
- 장기적인 개인화: 사용자의 선호도, 과거 상담 이력 등을 세션이 바뀌어도 기억하여 다시 묻지 않는 고객 서비스 에이전트 구축.
- LLM 기반 지식 추출: 대화나 멀티모달 콘텐츠에서 핵심 정보를 자동 식별하여 지속적으로 저장.
- 동적이고 진화하는 컨텍스트: 정적인 RAG와 달리, 새로운 대화 이벤트에 따라 실시간으로 내용을 반영하고 업데이트되는 지식 기반 구축.
Session
Agent Platform Sessions는 사용자와 에이전트 간의 상호작용 기록을 관리하는 기능입니다. 이를 통해 에이전트는 장기 기억(Long-term memory)과 대화 컨텍스트(Conversation context)를 유지할 수 있습니다.
- 주요 개념
- Session: 사용자-에이전트 시스템 간에 진행 중인 상호작용을 나타내는 메시지와 작업(이벤트)의 연대기적 순서입니다.
- Event: 대화 내용 및 함수 호출과 같은 에이전트의 작업을 저장합니다. 다양한 프레임워크와 커스텀 데이터를 수용할 수 있는 유연한 스키마를 지원합니다.
- State: 현재 대화 중에만 유효한 임시 데이터를 보관합니다.
- Memory: 특정 사용자에 대해 여러 세션에 걸쳐 접근 가능한 개인화된 정보입니다. 이를 통해 에이전트는 대화의 연속성을 보장하고 응답을 개인화할 수 있습니다.
- 주요 기능
자세한 내용이 궁금하시다면, 메가존소프트 문의포탈을 통해 궁금한 부분을 남겨주세요.
