“기업의 규모나 업종을 가리지 않고 AI를 도입 필요성에는 모두가 공감한다. 하지만 시스템 구축과 활용은 다른 이야기다. 이를 위한 다양한 접근 방식이 필요하다.” (이현동 슈퍼브에이아이 부대표)

 

[더테크=조재호 기자]  B2B AI 스타트업 기업인 올거나이즈와 슈퍼브에이아이, 마키나락스가 ‘알짜 기업이 쓰는 진짜 인공지능(AI) 도입·활용 사례’를 주제로 25일 세미나를 진행했다. 서울 강남구 역삼동 마루180에서 진행된 이번 세미나에선 비즈니스 영역에서 활용되는 AI 도입 방법론에 대한 이야기가 오갔다. 

 

행사를 준비한 올거나이즈 관계자는 “다양한 업체의 관리자와 임원, 실무진이 참석해 AI 도입을 진지하게 고민하는 것 같아 기쁘다”며 “앞으로 주기적인 세미나 개최와 함께 다양한 방법으로 자사의 서비스를 소개하는 자리를 마련할 것”이라고 말했다.

 

세미나의 시작은 이현동 슈퍼브에이아이 부대표의 강연이었다. '산업 현장에서 AI 서비스가 실패하는 이유와 극복 방안'이 주제였다.

 

이 부대표의 강연을 한마디로 요약하면 ‘소통의 중요성’이었다. 산업 현장에서 AI를 도입하려면 다양한 이해 관계자의 이야기를 취합해 모델을 설계해야 한다는 입장이다. 공유되지 않은 정보나 협업 도구의 부재가 AI의 기반이 되는 데이터화 부분에서 실패로 이어진다는 설명이었다.

 

아울러 현장에서 원하는 고성능 AI를 위해서는 데이터 센트릭(데이터 중심)의 관점에서 Good 데이터를 수집할 수 있는 기법과 함께 MLOps(머신러닝 개발 및 운영)를 잘 하기 위한 팀 구성과 노하우가 중요하다고 말했다.

 

이어서 진행된 세션은 ‘산업 현장의 데이터를 가치 있게 활용하기 위한 MLOps 전략’에 대해 허영신 마키나락스 CBO가 강연했다. 

 

허 CBO는 4000여개에 달하는 AI모델 운영 사례를 바탕으로 제조 및 산업 현장의 가치 재고를 위해 AI를 선택하고 있지만, 성공하는 기업은 극소수라는 이야기를 전했다. AI도입은 기존 프로그램보다 더 많은 비용과 유지 보수 기간이 필요하기 때문이라는 의견이었다.  따라서 MLOps 전략 수립과 함께 솔루션 파트너 선택이 중요하다는 입장이다.

 

이창수 올거나이즈 대표는 ’생산량을 보호하는 강력한 서스펜션 LLM APP’ 주제로 강연을 진행했다.

 

생성형 AI의 발전으로 이야기를 시작한 이 대표는 LLM의 발전과 함께 최근 특정 분야에 특화된 sLLM에 대해 이야기했다. 매개변수를 줄이고 파인튜닝을 통해 최적화된 모델로 소규모 언어모델인 sLLM은 가격대비 성능이 뛰어나 기업 맞춤형 AI를 제작하기에 유리하다는 설명이다.

 

이 대표는 올거나이즈의 자연어 인지검색 솔루션 ‘알리’가 sLLM을 활용한 모델이며, 기업이 원하는 정확한 답을 주는 AI임을 강조했다. 그리고 자사 솔루션을 도입한 기업들이 키워드 검색에서 문장형 검색으로 AI를 활용해 효율적인 사내 문화를 조성하는 사례를 소개했다.

 

이후 간단한 질의응답 시간이 이어졌다.

 

특화된 AI가 중요한 이유를 묻는 질문에 대해 슈퍼브에이아이는 데이터 중심의 관점에서 그 가치를 알아보려면 일관성 있는 데이터를 기반으로 한 학습 과정을 반복하는 것이 중요하기 때문이라고 했다. 아울러 이를 반복해 약점을 찾아 보강하는 것이 고객사가 원하는 AI를 만들어가는 과정이라고 답했다.

 

마키나락스도 AI의 특성 자체가 도달점이 없는 시스템으로 성능이 좋은 AI를 쓰려면 반복 학습이 중요하다는 입장이다.

 

올거나이즈는 특화된 AI 접근 방식에 대해 이야기했는데, 대규모 프로젝트보다 특정 분야 혹은 팀처럼 작은 규모에서 성공 사례를 만들고 영역을 넓히는 전략. 스몰 스타트의 중요성을 강조했다. 고객사의 마일스톤(프로젝트 관리)을 확립하는 것이 제일 중요하기 때문이다.

 

B2B 측면에서 가장 많이 관심이 쏠린 부분은 보안과 데이터 유출 문제였다. 클라우드와 온프레미스(전통적인 서버나 데이터 센터 활용), 하이브리드 방식에 대한 고민이었다.

 

이와 관련 슈퍼브에이아이의 이 부대표는 클라우드가 보안을 지키지 않는다는 인식을 걷어내야 한다는 입장이다. 온프레미스에 집착하는 것보다 클라우드가 제공하는 컴퓨팅 파워 등 장점을 봐야 한다는 것이다. 아직까지는 온프레미스를 원하는 기업들을 위해 물리적인 저장소를 통한 하이브리드 방식을 병행하고 있다고 답했다.

 

마키나락스의 허 CBO는 제조업 기반의 AI가 주된 영역인 만큼 민감한 정보를 다루거나 가려야할 경우가 크게 없다고 답했다. 다만 데이터 보안 체계에 있어 정책적인 부분과 개인이 느끼는 불안감에 대해서는 다소 한계를 느낀다며 이러한 인식의 전환이 필요하다고 했다.

 

올거나이즈의 이대표도 비슷한 의견이었다. 다만, 고객의 니즈를 무시할 수 없다고 답했다. 이에 대해 북미 고객사는 대부분 클라우드 기반의 SaaS로, 한국과 일본은 온프레미스를 선호하는 경향이 있다고 설명했다.