생성형 AI를 넘어 이제 에이전틱 AI(Agentic AI)가 시장의 화두로 등장했습니다. 물론 AI 에이전트를 배포해 업무의 자동화와 지능화를 본격적으로 추진하고 있는 곳은 많지 않습니다. 하지만 관심은 매우 높습니다. 이번 포스팅에서는 이러한 에이전틱 AI 시대에 기업이 어떻게 AI 에이전트를 활용해 경쟁 우위를 만들어 갈 수 있는지 그리고 이를 위해 다양한 모델을 구글 클라우드 환경에서 어떻게 활용할 수…
생성형 AI 시대를 남들보다 앞서 체감하는 이들을 꼽으라면 아마 마케터, 개발자가 떠오를 것입니다. 마케터들은 콘텐츠 기획부터 생성까지 AI 없는 일상이 이제 상상하기 힘들 정도입니다. 개발은 아직 마케터들이 체감하는 수준은 아니지만 확실이 최근 바이브 코딩(Vibe Coding) 이야기기 유튜브와 소셜에 넘쳐 나는 것으로 보아 빠르게 무엇인가 바뀌고 있는 것만은 분명해 보입니다. 이번 포스팅에서는 바이브 코딩 개념부터 Gemini…
2026년은 시장에서 AI 관련 투자 방향이 분명해지는 시기가 될 것으로 보입니다. 다양한 거대 언어 모델(LLM)들이 등장하면서 많은 조직이 생성형 AI 기반 챗봇, AI 어시스턴트 개발에 나섰습니다. 물론 실험적인 성격이 강했고 적용도 특정 업무에 한정된 사례가 대부분이었습니다. 이런 흐름이 올해에는 여러 AI 에이전트가 협업을 하는 쪽으로 방향이 잡힐 것으로 보입니다. 관련하여 여러 AI 에이전트를 어떻게 오케스트레이션…
최근 AI 시장의 흐름은 모델을 만드는 훈련(Training) 단계에서 실제 서비스를 제공하는 추론(Inference) 단계로 무게 중심이 이동하고 있습니다. 흔히 말하는 프로덕션 환경에 AI 서비스가 본격적으로 투입되는 시기가 된 것입니다. 이런 분위기 속에서 구글 TPU에 대한 관심이 높아지고 있습니다. 아무래도 추론 관련 성능과 비용의 황금비를 찾는 것이 중요하다 보니 GPU와 TPU를 놓고 심각하게 고민하는 곳이 늘고 있는…
소프트웨어 개발에 있어 테스트의 중요성은 아무리 강조해도 지나치지 않습니다. 이는 단순히 버그를 잡는 작업이 아닙니다. 소프트웨어의 신뢰성과 가치를 보장하기 위해 반드시 거쳐야 하는 중요한 절차입니다. 이는 AI 에이전트 구현에도 다를 바 없습니다. 다만 기존 소프트웨어 개발에 적용하던 접근 방식은 AI 에이전트에는 맞지 않습니다. 우리에게 익숙한 일반적인 기업의 업무 시스템은 입력 값이 주어지면 미리 정의한 로직에…
2025년 AI 시장을 한 마디로 요약하면 Agentic AI의 시대로 정리할 수 있습니다. 구글 클라우드가 지난 해 AI 에이전트를 Google Cloud Next 행사에서 강조한 지 1년이 지났을 뿐인데 시장은 여러 AI 에이전트가 상호 협력해 작업을 자율적으로 처리하는 Agentic AI를 프로덕션 환경에서 구현할 수 있는 단계에 이르렀습니다. 이번 포스팅에서는 2026년부터 엔터프라이즈의 AI 투자를 주도할 Agentic AI 관련해…
프로덕션 환경에서 AI 서비스를 제공할 때 가장 많이 고민하는 것은 바로 효율입니다. 여기서 말하는 효율은 GPU나 TPU 자원 활용을 극대화하여 운영 비용(Opex) 절감하는 것을 뜻합니다. Opex를 강조하는 이유는 일회성 투자(CapEx)에 가까운 훈련과 달리 추론은 꾸준히 비용이 발생하기 때문입니다. 따라서 기업의 AI 전환이 성공하려면 조직 및 도메인에 특화해 훈련한 모델을 보유하는 것만으로는 부족합니다. 이 모델을 프로덕션환경에…
요즘 AI 인프라 관련 소식에서 자주 보이는 단어가 있습니다. 바로 추론(Inference)입니다. 몇 년 전만 해도 AI 인프라와 늘 짝지어 다니던 단어는 훈련(Tanning)이었습니다. 요즘은 훈련보다 추론이 더 많이 보이고 있는데요. 그 이유는 다름 아니라 AI가 이제 본격적으로 사내, 대외 서비스에 적용되기 시작했다는 것입니다. 훈련, 최적화를 마친 모델을 프로덕션 환경에 배포해 서빙하는 곳이 많다 보니 자연스럽게 관심사가…
Agentic AI이 모두의 관심사이자 전략인 시대입니다. 금융, 소매, 제조, 헬스케어 등 산업별 AI 에이전트 구축 소식이 끊이지 않고 보도되고 있습니다. 이런 혁신의 물결에 올라타려면? 거대 언어 모델(LLM) 기반 AI 챗봇만으로는 부족합니다. 이제는 여러 AI 에이전트가 소통하고 협업하며 복잡한 작업을 처리하는 멀티 AI 에이전트 활용을 고민해야 할 때가 아닐까요? 관련해 이번 포스팅에서는 구글의 ADK(Agent Development Kit)로…