[더테크=전수연 기자] 아마존웹서비스(Amazon Web Services, 이하 AWS)가 쉽고 안전한 방법으로 첨단 생성형 AI 애플리케이션과 경험을 개발할 수 있도록 지원한다.

 

AWS는 아마존 베드록(Amazon Bedrock)의 신규 혁신 기능을 발표했다고 24일 밝혔다.

 

아마존 베드록은 생성형 AI 애플리케이션을 구축·배포하는 데 필요한 기능, 엔터프라이즈급 보안과 함께 AI21랩스(AI21 Labs), 앤스로픽(Anthropic), 코히어(Cohere), 메타(Meta), 미스트랄AI(Mistral AI), 스태빌리티AI(Stability AI), 아마존 등에서 제공하는 주요 파운데이션 모델(이하 FM)에 대한 광범위한 접근을 제공한다.

 

아마존 베드록에서 제공하는 완전 관리형 서비스를 통해 기업은 기본 인프라에 대한 고민 없이 애플리케이션 운영에 있어 원활한 배포, 확장성, 지속된 최적화를 확보할 수 있다. 이번 신규 기능으로는 아마존 베드록에서 자체 완전 관리형 모델을 실행하고 사용 사례에 가장 적합한 모델을 찾거나 생성형 AI 애플리케이션에 더 쉽게 보호 기능을 적용, 모델 선택권을 제공받을 수 있게 됐다.

 

글로벌 스타트업부터 보안에 민감한 기업, 정부 기관에 이르기까지 전 산업 조직들이 아마존 베드록을 통해 생산성을 높이며 사용자 경험을 창출하고 있다. 우선 뉴욕증권거래소는 수천 페이지에 달하는 규정을 처리해 이해하기 쉬운 언어로 답변을 제공하는 등 여러 사례에서 아마존 베드록의 FM과 최첨단 생성형 AI 기능을 활용하고 있다.

 

유럽 최대 항공사인 라이언에어는 직원이 국가별 규정 관련 질문에 대한 답변을 즉시 찾거나 매뉴얼에서 요약을 추출해 승객의 이동을 돕고 있다. 의료 기관을 위한 전자 건강 기록을 제공하는 넷스마트는 의료 서비스 제공자의 임상 문서화 환경을 개선하기 위해 구축된 생성형 AI 자동화 도구를 기반으로 개인의 건강 기록을 관리하는 시간을 최대 50%까지 줄이고 있다.

 

이와 함께 신규 기능 커스텀 모델 가져오기는 조직이 자체 커스텀 모델을 아마존 베드록으로 가져와 운영 오버헤드를 줄이고 애플리케이션 개발을 가속화할 수 있도록 지원한다.

 

의료, 금융 서비스, 기타 산업 분야 사용자는 베드록을 통해 AI21랩스, 아마존, 앤스로픽, 코히어, 메타, 미스트랄AI, 스태빌리티AI 등 강력한 모델을 사용하는 것뿐만 아니라 공개로 사용 가능한 모델을 도메인별 사용 사례에 맞게 커스터마이징함으로써 자체 데이터를 활용하는 경우가 점차 증가하고 있다.

 

AWS는 조직이 자체 데이터를 사용해 이러한 모델을 구축하고자 할 때는 일반적으로 모델을 처음부터 학습시키기 위한 기능을 제공하고 라마, 미스트랄과 같이 공개적으로 사용 가능한 모델에 고급 커스터마이징을 수행하도록 아마존 세이지메이커와 같은 서비스를 지원한다.

 

2017년 출시된 아마존 세이지메이커는 현재까지 가장 큰 규모의 공개 모델인 팔콘180을 비롯한 글로벌 고성능 FM들을 구축·훈련하는 도구다. 이용자는 날리지베이스, 가드레일, 에이전트, 모델 평가와 같은 아마존 베드록의 모든 빌트인 생성형 AI 도구를 직접 개발하지 않고도 자체 커스텀 모델과 함께 사용할 수 있다.

 

커스텀 모델 가져오기 기능은 조직이 베드록에서 관리되는 애플리케이션 프로그래밍 인터페이스로 자체 커스텀 모델을 가져와 접근할 수 있게 함으로써 생성형 AI 애플리케이션 구축 시 선택의 폭을 제공한다.

 

이용자는 아마존 세이지메이커나 다른 도구에서 모델을 손쉽게 베드록에 추가할 수 있다. 자동화된 검증 프로세스를 거치고 나면 베드록의 다른 모델과 마찬가지로 커스텀 모델에 쉽게 접근해 확장성, 애플리케이션 보호 기능, AI 원칙 준수, 검색증감생성(RAG)을 통한 모델의 날리지베이스 확장, 다단계 작업을 할 수 있는 에이전트의 생성, 파인튜닝 수행 등을 기본 인프라 관리 없이도 사용할 수 있다.

 

이 새로운 기능은 조직이 동일한 API를 통해 아마존 베드록 모델과 자체 커스텀 모델의 조합을 쉽게 선택할 수 있도록 지원한다. 현재 프리뷰 버전으로 제공되는 아마존 베드록의 커스텀 모델 가져오기 기능은 가장 인기 있는 오픈 모델 아키텍처 3가지를 지원하며 향후 더 많은 아키텍처를 지원할 계획이다.

 

이 외에도 신규 기능인 모델 평가는 광범위한 업계 선도 모델을 지원하는 베드록이 가격, 성능, 기능 요구사항을 충족할 수 있도록 지원한다. 또한 조직이 베드록에서 모델을 분석, 비교할 수 있는 가장 빠른 방법으로써 모델 평가에 소요되는 시간을 단축해 새로운 애플리케이션을 빠르게 시장에 출시하도록 지원한다.

 

이용자는 정확성, 견고성 등 사전 정의된 평가 기준을 선택하고 자체 데이터 세트 또는 프롬프트 라이브러리를 업로드하거나 기본으로 제공되는 공개 리소스에서 선택해 빠르게 시작할 수 있다. 주관적인 기준이나 판단이 필요한 콘텐츠의 경우 간편하게 워크플로우에 평가자를 추가해 관련성, 스타일, 브랜드 보이스 등 사례별 메트릭에 따라 모델 응답을 평가할 수 있다.

 

가드레일 포 아마존 베드록은 개인·민감한 정보, 욕설, 특정 단어를 제거하고 유해한 콘텐츠를 차단하는 장치를 구현하도록 지원한다. FM의 기본 기능에 안전 보호 기능을 추가해 이용자가 유해 콘텐츠를 최대 85%까지 차단할 수 있다.

 

아마존 베드록의 모든 LLM은 물론 미세 조정된 모델에서도 작동된다. 가드레일을 생성하려면 이용자는 애플리케이션의 컨텍스트 내에서 거부된 주제에 대한 자연어 설명을 제공하기만 하면 된다. 또 혐오 발언, 모욕, 자극적인 표현 등의 영역을 필터링하는 임계값과 개인·민감한 정보, 욕설 등을 제거하는 필터를 구성할 수 있다.

 

아마존 베드록 전용으로 활용되는 아마존 타이탄 모델은 다양한 사례를 위해 대규모의 데이터 세트를 AWS에서 생성하고 사전 학습하며 책임감 있는 AI 사용을 위한 기본 지원을 제공한다. 현재 아마존 베드록은 아마존 타이탄 제품군을 지속 확장해 사용자에게 더 많은 선택권과 유연성을 제공하고 있다.

 

RAG 사용 사례 작업에 최적화된 아마존 타이탄 텍스트 임베딩 V2는 정보 검색, 질의응답 챗봇, 개인화된 추천과 같은 다양한 작업에 적합하다. 많은 조직에서 추가 데이터를 활용해 FM 응답을 보강하고자 RAG를 사용하고 있다.

 

RAG는 FM이 참조할 수 있는 집약적인 작업을 요구한다. 이에 임베딩 V2 모델은 스토리지·컴퓨팅 비용을 절감하는 동시에 정확도를 높여준다. 이 모델은 유연한 임베딩을 통해 전체 스토리지를 최대 4배까지 줄여 운영 비용을 절감하고 RAG 사용 사례 정확도를 97%로 유지한다.

 

아마존 타이탄 이미지 제너레이터는 광고, 전자상거래, 미디어·엔터테인먼트와 같은 업계 이용자가 자연어 프롬프트로 스튜디오 품질의 이미지를 제작하거나 기존 이미지를 개선·편집할 수 있도록 지원한다. 또 생성하는 모든 이미지에 보이지 않는 워터마크를 적용해 AI가 생성한 이미지를 식별할 수 있도록 지원한다.

 

현재 아마존 베드록에서는 메타 라마 3 FM을 사용할 수 있으며 곧 코히어의 커맨드 R·커맨드 R+ 모델도 출시된다. 라마 3는 개발자, 연구자, 기업이 생성형 AI 아이디어를 구축·실험·확장할 수 있도록 설계됐다.

 

라마 3 모델은 광범위한 사용 사례를 지원하는 사전 학습·지침·파인튜닝된 LLM 컬렉션이다. 특히 텍스트 요약·분류, 감정 분석, 언어 번역, 코드 생성에 적합하다. 코히어의 커맨드 R·커맨드 R+ 모델은 글로벌 비즈니스 운영 지원을 위해 10개 언어의 고급 RAG 기능을 갖춘 엔터프라이즈급 생성형 AI 애플리케이션을 구축하는 데 사용할 수 있는 최첨단 FM이다.

 

이 외에도 아마존이 개발한 루퍼스는 아마존의 제품 카탈로그, 고객 리뷰, 커뮤니티 Q&A, 웹상의 정보를 학습한 생성형 AI 쇼핑 도우미다. 푸러스는 고객의 다양한 쇼핑 수요, 제품에 대한 질문 답변, 비교 분석으로 대화 맥락에 맞는 추천 서비스를 제공한다.

 

이러한 AWS의 서비스를 활용하고 있는 기업 중 아하(Aha!)는 제품 전략을 실현할 수 있도록 지원하는 소프트웨어 회사로 아마존 베드록을 통해 유해 콘텐츠를 차단할 수 있는 AI 활용을 지원한다. 이를 기반으로 제품 관리자는 사용자가 제출한 피드백을 분석해 인사이트를 발견할 수 있다.

 

덴츠(Dentsu)는 글로벌 통합 마케팅·기술 제공업체 중 하나로 타이탄 이미지 제너레이터 프리뷰 버전을 통해 자연어 프롬프트를 통한 사실적인 이미지를 대량으로 생성해왔다. 또 새로운 워터마크 감지 기능을 실험해 AI가 생성한 콘텐츠의 투명성을 높이고 신뢰를 구축할 수 있도록 기대하고 있다.

 

AI CRM 기업 세일즈포스(Salesforce)는 CRM, 데이터, AI 신뢰를 통해 기업이 고객과 연결될 수 있도록 지원하고 있다. 세일즈포스는 베드록이 모델에 대한 개방형 에코시스템 접근 방식의 핵심이며 새로운 모델 평가 기능은 자동화된 평가 옵션과 인적 평가 옵션을 통해 모델을 비교하고 선택하는 방법을 가속화할 수 있다고 전했다.

 

또한 액센츄어(Accenture)는 글로벌 전문 서비스 기업으로서 정부·기타 조직이 디지털 코어를 구축하고 시민 서비스를 개선하도록 지원하고 있다. 액센츄어는 베드록의 최신 타이탄 모델과 함께 주력 기반 모델 서비스를 강화하고 공동 고객의 강력한 생성형 AI 애플리케이션을 가속화하는 데 도움이 될 것이라고 전했다.