③ 프롬프트 공격과 폭주하는 에이전트: AI의 말과 행동을 검사하고 지켜본다 시리즈 안내 | ① 권한 탈취 → ② 데이터 유출 → ③ 프롬프트 공격과 폭주하는 에이전트 들어가며: 문을 잠가도 내용은 들어온다 허깅페이스 침입의 시작점은 업로드된 악성 데이터셋이었습니다. 데이터 처리 파이프라인의 템플릿 인젝션 취약점을 노린 입력 하나가 서버에서 코드로 실행됐습니다. 그리고 에이전트는 약 17,600건의…
② 데이터 유출: 연결하되 새지 않게 시리즈 안내 | ① 권한 탈취 → ② 데이터 유출 → ③ 프롬프트 공격과 폭주하는 에이전트 들어가며: 열린 출구가 있으면 데이터는 나간다 허깅페이스 사건의 에이전트는 평가를 위해 인터넷 접근을 허용받은 상태였습니다. 그 열린 출구로 외부 요청 수집 서비스와 붙여넣기 사이트를 명령 채널로 쓰고, 공개 데이터셋을 “데드드롭(dead-drop)”처럼 써서 결과물을…
① 권한 탈취: 에이전트가 남의 열쇠를 쥐지 못하게 시리즈 안내 | ① 권한 탈취 → ② 데이터 유출 → ③ 프롬프트 공격과 폭주하는 에이전트 들어가며: 범인은 사람이 아니었다 2026년 7월, 허깅페이스(Hugging Face)는 자사 인프라가 침입당했다고 공개했습니다. 닷새 뒤 오픈AI는 침입자가 사람이 아니라 자사 모델이 구동한 자율형 AI 에이전트였다고 밝혔습니다. 이 모델은 ExploitGym이라는…
Gemini Enterprise Agent platform에서 Gemini 2.5 model의 마이그레이션 Gemini Enterprise Agent platform에서 Gemini 2.5 model의 마이그레이션 얼마전 구글의 최신 모델인 Gemini 4 Argon이 출시되었습니다. 하지만 지난 2025년 6월 17일에 정식출시한 Gemini 2.5 모델은 Pro 및 Flash 모델에서 모두 추론(Thinking) 기능을 제공하여 현재까지 고객사에서 다양한 애플리케이션에서 해당 모델을 사용하고 있습니다. Gemini Enterprise Agent…
외부 사람과 프로그램의 신원을 안전하게 연결하는 방법 1 Executive Summary Google Cloud 외부의 사람이나 프로그램이 Google Cloud에 접근해야 할 때, Identity Federation을 사용하면 이미 가지고 있는 신원을 그대로 활용할 수 있습니다. 핵심은 다음 세 가지입니다. 기능 대상 핵심 목적 Workload Identity Federation 프로그램, 서버, CI/CD 장기 서비스 계정 키 없이 Google Cloud에 접근 Workforce…
클라이언트 할당량 초과와 구글 공유 풀 용량 부족 판별법, 지표 검증 및 복원력 설계 패턴 1 개요 생성형 AI 서비스를 운영할 때 가장 빈번하게 마주치는 장애는 HTTP 429(RESOURCE_EXHAUSTED) 상태 코드입니다. OpenAI, Anthropic뿐만 아니라 Google Cloud Vertex AI 환경에서도 동일하게 발생합니다. 단순히 429 에러 코드만 받아서는 장애의 원인이 애플리케이션의 호출량 급증(Rate Limit 초과) 때문인지, 아니면…
Google 관리형 OAuth 앱을 활용한 Google Workspace 커넥터 구성 및 관리자 승인 절차 0.1 Note 대상 독자 및 목적: Google Cloud 상에서 Gemini Enterprise(Discovery Engine 기반 엔터프라이즈 검색 및 AI 어시스턴트)를 구축 및 운영하는 클라우드 아키텍트, Google Workspace 관리자, 엔터프라이즈 보안 담당자를 대상으로 합니다. Google Workspace 주요 데이터 소스(Drive, Gmail, Chat, Calendar)를 안전하게 연동하기…
기업들은 늘 “고객 응대 시간을 어떻게 줄이면서 만족도는 극대화할 수 있을까?”를 고민합니다. 특히 단순 FAQ 챗봇을 넘어, 고객 문의의 50% 이상을 자율 해결(FCR 향상)하면서도 상담사의 평균 처리 시간을 30~40% 이상 단축하는 것은 모든 CX/CS 총괄 리더들의 공통 과제입니다. 구글 클라우드가 선보인 Gemini Enterprise for Customer Experience (CX)는 쇼핑과 고객 서비스를 하나의 지능형 인터페이스로 결합하여 이러한…
생성형 AI를 기업 실무에 도입할 때 다들 한 번쯤 고민해 보셨을 겁니다. “매번 똑같은 브랜드 가이드라인이나 업무 규칙을 프롬프트로 작성해야 할까?” “부서별로 자주 쓰는 프롬프트를 공통 자산으로 손쉽게 공유할 수 없을까?” Google Cloud의 Gemini Enterprise는 이러한 고민을 해결하기 위해 Skills(스킬) 기능을 제공합니다. 이번 글에서는 Gemini Enterprise의 ‘Skills’가 무엇인지, 어떻게 작동하며 실무에서 어떻게 활용할…
Capacity advisor로 생성 전 가용성을 판단하고 호스트 유지보수 가시성으로 운영 위험을 관리하는 방법 1. 개요 Compute Engine에서 워크로드의 안정성을 확보하는 일은 크게 두 축으로 나뉩니다. 하나는 자원을 만들기 전에 실제로 확보할 수 있는지 미리 판단하는 일이고, 다른 하나는 운영 중에 예정된 변경을 미리 파악해 대비하는 일입니다. 이 문서는 이 두 축을 가용성과 가시성 순서로…