구글 클라우드, '버텍스 AI' 업데이트 공개

제미나이 1.5 프로 정식 버전 출시
프로비저닝 처리량 등 모델 성능 고도화

 

[더테크=전수연 기자] 구글 클라우드가 모델 조정, 증강, 커스터마이징, 확장성, 신뢰성, 보안 등 버텍스 AI의 기능을 바탕으로 강력한 AI 에이전트 구축을 지원한다.

 

구글 클라우드는 자사 기업용 AI 플랫폼 버텍스 AI의 모델, 엔터프라이즈 기능을 발표했다고 8일 밝혔다.

 

구글 클라우드는 지난 5월 프리뷰 버전으로 선보였던 ‘제미나이 1.5 플래시’를 공식 출시했다. 제미나이 1.5 플래시는 짧은 지연 시간, 가격 경쟁력, 100만 토큰 컨텍스트 윈도를 결합해 리테일 기업의 채팅 에이전트, 문서 처리, 전체 데이터를 통합 분석할 수 있는 리서치 에이전트 등 대규모 사례에 사용될 수 있다.

 

제미나이 1.5 플래시는 다양한 멀티모달 사례를 지원한다. 일반적으로 6분 분량의 동영상을 분석하려면 10만 개 이상의 토큰이 소요되며 대규모 코드 베이스의 경우 100만 개 이상의 토큰이 소요된다. 

 

구글 클라우드는 수많은 코드 라인에서 버그를 찾거나 연구 자료에서 필요한 정보를 검색하고 몇 시간 분량의 오디오, 동영상을 분석하는 등 다양한 영역에서 기업이 제미나이 1.5프로를 활용해 혁신할 수 있도록 지원한다.

 

또한 사용자가 제미나이 1.5 프로와 제미나이 플래시 모델의 컨텍스트 윈도를 활용할 수 있도록 해당 모델에 컨텍스트 캐싱 기능을 프리뷰 버전으로 제공한다. 컨텍스트의 길이가 증가하면 애플리케이션에서 응답을 얻는 데 많은 시간, 비용이 소요돼 실제 운영 환경 배포에 어려움을 겪을 수 있다.

 

버텍스 AI 컨텍스트 캐싱은 자주 사용하는 컨텍스트의 캐시 데이터를 활용해 사용자가 최대 76%까지 비용을 절감할 수 있도록 돕는다. 구글 클라우드는 일보 사용자를 대상으로 ‘프로비저닝 처리량’을 제공한다.

 

이를 통해 사용자는 제미나이 1.5 플래시를 포함한 구글 자체 모델의 사용량을 필요에 맞게 적절히 확장할 수 있으며 모델 성능. 비용을 보장받을 수 있다. 

 

구글 클라우드는 기업이 데이터에 대한 신뢰도를 높이고 환각 현상을 줄이기 위해 모델을 넘어 데이터 거버넌스와 데이터 주권 등 엄격한 엔터프라이즈 기준을 충족시키는 동시에 웹, 데이터, 사실을 기반으로 모델 결과물을 그라운딩 해야 한다고 분석했다.

 

지난 5월 구글 I/O에서 버텍스 AI의 그라운딩 위드 구글 서치 기능이 정식 출시된 데 이어 구글 클라우드는 기업이 자사 생성형 AI 에이전트를 특정 제공 업체의 데이터로 그라운딩 할 수 있는 새로운 서비스를 올해 3분기부터 제공할 예정이다.

 

이를 통해 기업은 타사 데이터를 생성형 AI 에이전트에 통합하거나 AI 경험 전반에서 엔터프라이즈 지식을 도출할 수 있다. 구글 클라우드는 해당 서비스 제공을 위해 무디스, 모건스탠리 캐피털 인터내셔널 등 기업들과 협업 중이다.

 

이와 함께 구글 클라우드는 데이터 집약적 산업에서 생성형 AI가 일반 지식이 아닌 컨텍스트만을 디반으로 답변을 생성하는 경우가 많다고 분석했다. 이에 따라 ‘그라운딩 위드 하이 피델리티 모드’를 프리뷰 버전으로 선보였다.

 

하이 피델리티 모드는 여러 문서를 아우르는 요약, 금융 데이터 전반에서 데이터 추출, 사전 정의된 문서 세트 처리와 같은 그라운딩 사례를 지원하기 위해 구축됐다. 또 사용자가 제공한 컨텍스트만을 사용해 답변을 생성하도록 미세 조정된 제미나이 1.5 플래시를 기반으로 구동된다.

 

또 이마젠 3는 구글의 최신 이미지 생성 기반 모델로 이마젠 2보다 여러 측면에서 개선됐다. 우선 이전 모델 대비 40% 이상 빠른 이미지 생성으로 프로토타이핑, 반복 작업을 지원하며 프롬프트 이해, 명령 수행 능력 개선, 실사 수준의 인물 그룹 생성, 이미지 내 텍스트 랜더링 제어 능력 등이 향상됐다.

 

이마젠 3는 사전 접근 권한을 부여받은 일부 버텍스 AI 사용자에게 프리뷰 버전으로 제공되며 다중 언어 지원, 구글 딥마인드의 신스ID 디지털 워터마킹과 같은 내장된 보안 기능, 다양한 화면 비율 지원 등의 기능을 함께 제공한다.

 

아울러 구글 클라우드는 버텍스 AI에서 제공되는 자사 모델, 오픈 모델, 타사 모델을 통해 선택권을 제공하고 있다. 최근에는 앤트로픽이 새롭게 출시한 클로드 3.5 소넷을 버텍스 AI에 추가했으며 자사 환경에서 클로드 3.5 소넷으로 테스트를 진행하거나 운영 환경에 배포하도록 지원한다.

 

올 하반기에는 미스트랄과의 파트너십을 한층 강화해 미스트랄 스몰, 미스트랄 라지, 미스트랄 코드스트랄을 버텍스 AI의 모델 가든에서 제공할 예정이다.

 

이외에도 구글 클라우드는 제미나이 모델 개발에 활용된 연구 기술을 바탕으로 구축한 오픈모델 ‘젬마’의 후속 모델도 발표했다. 젬마 2는 90억개와 270억개의 파라미터 사이즈로 제공되며 이전보다 개선된 보안 기능이 내장됐다.


 


관련기사

12건의 관련기사 더보기

배너

배너