GKE 최신 업데이트: LLM 트래픽, 분산 모델, AI 가속기, 성능 향상까지

구글 클라우드 GKE 팀이 정리한 이달의 GKE 주요업데이트 내용을 알려드리고자 합니다.   LLM 트래픽 관리를 위한 GKE 추론 게이트웨이 새롭게 선보이는 GKE 추론 게이트웨이는 GKE Gateway의 확장 기능으로 생성형 AI 워크로드를 효율적으로 서빙하도록 설계되었습니다. 이 솔루션은 긴 연결 시간이나 예측 불가능한 응답 패턴 같은 LLM 트래픽 고유의 특성을 효과적으로 관리합니다. GKE 추론 게이트웨이는 LLM 트래픽…

2021년 10월 Google Cloud Gaming & Media Academy

Overview메가존과 구글 클라우드 코리아가 주최하는 “Google Cloud Gaming & Media Online Academy – 글로벌 게임사 111% 사례로 알아보는 안정적인 글로벌 게임 서비스를 위한 구글 클라우드 구축 전략 웨비나”에 여러분을 초대합니다.   기술 환경의 발전으로 스마트폰 기반의 모바일 게임이 대중화되고 있습니다. 모바일 게임은 구글 스토어를 통해 전 세계 동시 서비스가 가능하다는 강점을 가지고 있습니다. 기술의 발전으로…

Hello Cloud – GoogleCloud와 Citrix VDI가 만드는 완벽한 보안 업무 환경

Overview” Hello Cloud – 포스트 코로나 시대의 스마트워크를 위한, Google Cloud와 Citrix VDI가 만드는 완벽한 보안 업무 환경” 웨비나에 여러분을 초대합니다.   코로나 19가 종식된 후에도 대부분의 기업이 하이브리드 업무 환경을 계속해서 가져갈 것으로 예측되는 가운데, 최근 IDC의 조사 결과에 따르면 전 세계 31%의 기업이 팬데믹과 관계없이 계속해서 홈오피스를 주요 업무 공간으로 유지할 계획이라고 응답한 것으로 나타났습니다. . 팬데믹…

Google Consulting Showcase season7

OverviewGoogle Consulting Showcase Season 7, “인공지능 프로젝트를 시작하기 전에 알아두어야 할 사항들” 웨비나에 여러분을 초대합니다.   IDC의 2021년 ‘세계 인공지능 시장 전망 예측’ 보고서에 따르면 오는 2024년까지 인공지능 시장은 연평균 성장률(CAGR)이 17.5%이고 총 매출은 5,543억 달러(약 622조 원)에 달할 것이라고 합니다. 최근 들어 금융권에서는 고객 신용 분석을, 게임사에서는 게임 사용자 행동 분석을, 제조사는 불량품 분석…

(클라우드 뉴스) 데반얀 사하 구글 부사장이 제시한 클라우드 트렌드 6선

“80% 이상의 기업이 멀티 클라우드 또는 하이브리드 IT 전략을 채택할 것이다.”   데반얀 사하(Debanjan Saha) 구글 엔지니어링 총괄 부사장은 자사 블로그를 통해 2021년 데이터와 클라우드의 변화를 예측하며 이같이 말했다. 그는 데이터와 클라우드 분야의 2020년 특징을 기반으로 2021년에 나타날 6가지 주요 변화를 꼽았다.   1) 클라우드 컴퓨팅의 다음 단계는 디지털 전환의 이점 기업들이 클라우드를 도입하면서 1단계로…

(클라우드 뉴스) KB국민은행이 ‘구글 인공지능’에 언어를 가르친 이유는?

“불쌍한 백성들이 제 뜻을 말하고 싶어도…” 세종대왕이 훈민정음을 만들게 된 이유다.   언어는 생각과 느낌을 표현하는 수단일 뿐만 아니라 생각과 느낌을 형성하고 규정하는 역할을 담당한다. 따라서 우리가 어떤 언어를 사용하느냐에 따라서 사고도 달라질 수 있다. 이는 인공지능(AI) 역시 사람과 마찬가지다. 인공지능 역시 할 수 있는 영역이 무궁무진하지만 그에 앞서 자연어 처리가 기반이 되지 못하면 말…