AWS, 모델 확장용 신기능 추가한 아마존 세이지메이커

[더테크=조재호 기자] 아마존웹서비스(이하 AWS)가 AWS 리인벤트(re:Invent)에서 거대언어모델(LLM)과 기타 파운데이션 모델(FM)의 구축, 학습, 배포를 가속하는데 도움이 되는 아마존 세이지메이커(Amazon SageMaker)의 새로운 기능 5가지를 발표했다. 이번에 발표된 신규 기능에는 배포 비용과 모델 지연 시간을 줄여 관리형 머신러닝(ML) 인프라 운영을 최적화하는 기능이 포함됐다. 브라틴 사하(Bratin Saha) AWS 인공지능 및 머신러닝 부문 부사장은 “생성형 AI에 대한 관심이 모든 산업군으로 확산됐다”며 “AI 도입을 위한 시스템 구축, 학습, 배포를 위해 학습 속도와 비용 최적화, 지연 시간 단축, FM 평가와 노코드 모델 구축까지 아마존 세이지메이커를 개선해 고객의 접근성을 높일 수 있도록 도울 것”이라고 말했다. 이번에 발표된 세이지메이커의 신규 기능을 살펴보면 고객이 더 쉽고 빠르게 모델을 학습시키고 운영해 생성형 AI 애플리케이션을 개선할 수 있도록 돕는다. 세이지메이커 하이퍼포드(SageMaker HyperPod)는 대규모 FM 학습 가속화를 지원한다. 세이지메이커 인퍼런스(SageMaker Inference)는

• 조재호 기자
• 2023-12-01 10:26