[더테크=전수연 기자] 클라우드 기반 소프트웨어 전문 기업 옵스나우가 각 산업별 비즈니스 모델에 맞는 생성형 AI와 AI를 활용한 다양한 사례를 알아보는 시간을 가졌다. 산업별로 확장되는 AI와 각 비즈니스에 적용할 수 있는 방법들을 모색하는 장이었다.

옵스나우는 30일 오후 서울 강남구 코엑스에서 산업별 생성형 AI 활용 및 구축 전략 세미나를 개최했다.

첫 순서는 서지영 Microsoft Data&AI 전문가의 ‘Azure OpenAI & Copilot 구축 전략과 활용 사례’ 발표였다. 최근 MS가 챗GPT를 서비스한다는 이슈에 대해 서지영 전문가는 “MS와 오픈AI는 거의 한 몸으로 가고 있으며, MS Azure와 함께 서비스되고 있다”고 전했다.

서지영 전문가는 “현재 MS는 데이터와 챗GPT를 연결시켜 외부 데이터를 학습시키지 않고 단순히 연결해 사용하는 모델을 추구하고 있다”며 “데이터를 파인튜닝할 경우 독자적인 모델을 가진다는 장점이 있지만 데이터가 변경될 때 매번 튜닝을 해야 하며 비효율적”이라고 말했다.

이를 해소하기 위한 MS의 시도에 대해 서지영 전문가는 “데이터가 넘겨지는 시점과 함께 API를 여러 개 두고 구성하면 해소할 수 있다”며 “뿐만 아니라 여러 가지 형태로도 활용할 수 있고 다양한 아키텍처 생성이 가능해진다”고 설명했다.

‘구글 클라우드 생성형 AI와 고객 서비스 혁신’을 주제로 발표한 손범수 구글 클라우드 엔지니어는 현재 LLM(초거대언어모델)이 폭발적으로 확장되고 있다며 AI의 현주소부터 짚었다. 또 구글 클라우드에서 개발하는 Vertex AI도 소개했다. 

손범수 엔지니어는 “파운데이션 모델을 디자인 한다든가 여러 파라미터를 수정할 수 있다”며 “텍스트를 챗봇으로 채팅, 요약 등의 서비스 구현도 가능하며 임베딩 API, 매칭 엔진 시뮬레이션 등을 할 수 있다”고 말했다.

최석재 IBM 상무는 ‘GenAI for Business를 위한 IBM watsonx’를 주제로 한 발표에 나선 “생성형 AI에 대한 관심은 과거 빅데이터-AI 트렌드와 유사하지만 그 속도와 양에 있어 보다 다이나믹한 양상을 보이고 있다”고 언급했다.

최 상무는 “다양한 LLM 도입 관련 문제 중 데이터 신뢰도, 보안, 데이터 근간 등이 투명하지 않다는 게 크다”며 “이 부분은 데이터 품질까지도 영향이 있다. 때문에 아웃풋을 위해 소스의 기반을 제공하고 할루시네이션(환각현상)을 고려해야 한다”고 설명했다.

이와 함께 기업용 생성형 AI를 맞춤화하기 위한 핵심 원칙으로 △open △targeted △trusted △empowering을 꼽았다. 최 상무는 “오픈 커뮤니티와 다양한 모델에 대한 엑세스 제공 및 새로운 가치 창출을 위한 비즈니스 설계, 증가하는 규정 준수 등은 필수적”이라고 전했다.

김규형 옵스나우 사업총괄은 ‘생성형 AI 기반의 AICC 도입 전략 및 활용 방안‘을 주제로 발표했다.김 총괄은 “클라우드는 사용자의 애플리케이션을 어떤 방식으로 빠르게 마이그레이션하는지가 화두였다면 이제 멀티 하이브리드로 바뀌고 있다”며 “이는 CMaaS(Cloud Management as a Service)로 향하고 있는 것”이라고 설명했다.

아울러 김 총괄은 “Gen AI기반 기술지원을 통해 매뉴얼 뿐만 아니라 맞춤형 분석 및 레포트가 가능해진다”며 “정적인 데이터 외에 동적인 데이터까지 클라우드 인프라를 배경으로 답변할 수 있게 된다”고 전했다.