AI 투자를 성공으로 이끄는 소프트웨어 엔지니어링 역량

요즘 AI 추론에 대한 이야기가 많습니다. 훈련이나 미세 조정을 마친 모델을 프로덕션 환경에 배포해 추론을 하는 단계로 어떻게 나아갈 것인지로 관심사가 바뀐 것입니다. 관련해 이제 본격적으로 AI가 생산성 향상이나 새로운 비즈니스 기회 창출 같은 본격적인 가치 창출의 단계로 진화하고 있다고 말하기도 합니다. 프로덕션 환경에서 모델을 서빙하는 것은 AI 인프라와 MLOps/LLMOps 플랫폼만 있다고 되는 일이 아닙니다.…

Google Cloud 입문 교육 : Introduction to Data Engineering on Google Cloud

메가존소프트 Google Cloud 데이터 엔지니어링 입문!! 데이터 파이프라인 구축부터 서버리스 플랫폼 활용까지~ Qwiklabs 실습과 선물이 가득!   데이터는 넘쳐나는데, 어떻게 수집하고 처리해야 할지 막막하신가요? 데이터 엔지니어로의 커리어 전환을 꿈꾸지만 어디서부터 시작해야 할지 모르시겠나요? 수많은 기업이 선택한 Google Cloud 환경에서 데이터 엔지니어링의 첫걸음을 내딛을 수 있도록 핵심 이론과 실습을 아우르는 입문 세미나를 준비했습니다. 본 세미나를 통해…

Gemini API로 하는 앱 개발 아이디어 구상과 서비스 구현

AI의 문턱이 어느 정도까지 낮아질까요? 고도로 전문화된 기술 분야인 AI는 이제 일반 사용자나 기업의 현업 사용자가 마음만 먹으면 원하는 데로 활용할 수 있습니다. Make나 n8n을 중심으로 AI 모델과 다양한 도구를 연계해 업무를 자동화는 것은 이제 누구나 도전할 수 있는 일이 되었습니다. 요즘에는 구글 AI Studio 같은 도구로 코딩 문외한도 원하는 앱의 프로토타입 정도는 만들어 볼…

Cloud Run과 IAP의 통합, 몇 번의 클릭으로 완성하는 제로 트러스트

애자일(Agile) 방식으로 서비스를 개발하고 배포하는 것이 일상인 시대입니다. 속도에만 집중하다 보면 간과할 수 있는 것이 있습니다. 바로 보안입니다. 결국 개발, 운영, 보안 담당자 간에 합의가 필요합니다. 민첩성을 유지하는 가운데 보안을 놓치지 않는 황금비를 찾기 위해 머리를 모아야 한다는 것입니다. 다행히 구글 클라우드 환경에서는 따로 고민하지 않아도 됩니다. Cloud Run과 IAP(Identity-Aware Proxy)를 손쉽게 연계할 수 있어…

텍스트를 넘어 ‘보고 듣는’ 멀티모달 AI의 시대로

AI와 소통하는 방식이 빠르게 바뀌고 있습니다. 텍스트를 입력해 답변을 받는 것에 놀라던 기억이 엊그제 같은데 이제는 글자, 이미지, 소리, 영상 정보까지 활용해 소통하는 수준이 되었습니다. 바야흐로 ‘멀티모달(Multimodal) 시대’의 문을 활짝 열렸습니다. 사람이 눈으로 보고 귀로 들으며 주변 상황을 자연스럽게 파악하듯이 멀티모달 AI는 여러 종류의 데이터를 한데 묶어 복잡한 맥락을 이해합니다. 멀티모달 시대를 이끄는 대표 주자가…

관리형 카프카의 편의성과 ADC 기반의 현대적인 인증으로 개발과 운영 편의성 높이기

실시간 데이터 스트리밍 분야에서 아파치 카프카(Apache Kafka)는 업계 표준이나 다름없습니다. 모두가 인정하지만 모두가 쓰지 못하는 것이 카프카이기도 합니다. 운영이 매우 복잡하고 까다롭다 보니 내부에 전문 인력으로 구성한 팀이 없을 경우 도전하기 쉽지 않습니다.  이번 포스팅에서는 구글 클라우드의 관리형 서비스 소개와 함께 ADC(Application Default Credentials)라는 기술을 활용해 인증서 관리를 간소화하는 방법을 알아보겠습니다.    구글 클라우드의 관리형…

급증하는 추론 워크로드 어떻게 수용해야 할까? 답은 바로 GKE 추론 참조 아키텍처!

AI 산업의 중심이 모델을 ‘학습’시키는 단계를 지나 학습한 모델을 현실 세계에 적용해 비즈니스 가치를 만드는 ‘추론(inference)’ 단계로 빠르게 옮겨가고 있습니다. 실제 서비스 단계로 넘어 가면서 추론 비용이 큰 부담으로 다가오고 있습니다. 실제로 AI 모델 추론에 드는 컴퓨팅 비용이 학습 비용을 넘어서는 사례가 하나둘 보고되고 있습니다. 이런 이유로 요즘 비용 효율적이며 동시에 프로덕션 환경이 요구하는 유연한…

[MD] Google Cloud 입문교육 : Introduction to AI & Machine Learning on Google Cloud

Overview Google Cloud AI/ML 무료 입문 교육   AI/ML 시대를 맞이하여 새로운 역량을 키우고 싶지만 어디서부터 시작해야 할지 막막하셨던 분들은 주목해 주세요. Introduc tion to AI & Machine Learning on Google Cloud에서는 Google Cloud를 활용하여 AI/ML의 핵심 개념을 직접 실습하며 쉽고 재미있게 배울 수 있습니다. ✅ 대용량 데이터 분석 플랫폼 : BigQuery ML ✅ 노코드로 구현하는 AI…