추론 워크로드를 더 효율적으로 처리하는 방법

프로덕션 환경에서 AI 서비스를 제공할 때 가장 많이 고민하는 것은 바로 효율입니다. 여기서 말하는 효율은 GPU나 TPU 자원 활용을 극대화하여 운영 비용(Opex) 절감하는 것을 뜻합니다. Opex를 강조하는 이유는 일회성 투자(CapEx)에 가까운 훈련과 달리 추론은 꾸준히 비용이 발생하기 때문입니다. 따라서 기업의 AI 전환이 성공하려면 조직 및 도메인에 특화해 훈련한 모델을 보유하는 것만으로는 부족합니다. 이 모델을 프로덕션환경에…

[Drive] Google Forms의 ‘Help me create’, 7개 언어 추가 지원

📌 지원되는 버전 : Google Workspace Business Standard 이상, Enterprise Standard 이상 올해 초 Google Forms에 ‘Help me create’ 기능이 도입되었습니다. 이제 이 기능이 스페인어, 포르투갈어, 일본어, 한국어, 프랑스어, 이탈리아어, 독일어 사용자에게도 제공됩니다. ‘Help me create’를 사용하여 만들고자 하는 양식을 설명하는 프롬프트를 입력하거나, 지원하는 Docs, Sheets, Slides 또는 PDF를 참조하는 프롬프트를 입력할 수 있습니다. 그러면…