[더테크=전수연 기자] KT가 초거대언어모델(LLM)의 환각현상(할루시네이션)을 줄이기 위해 패키지 형태의 기능을 도입한 자사 AI ‘믿음(M:dm)’을 공개했다. 특히 자사 포털을 통해 개발 모델을 공유하면서 기업의 AI 도입에 도움을 줄 수 있을 것으로 보인다.

KT는 서울 서초구 KT 연구개발센터에서 온라인 기자설명회를 열고 초거대 AI 믿음의 출시를 31일 발표했다.

파운데이션 모델은 방대한 데이터셋으로 학습한 초거대 AI 핵심 기반 모델이다. KT 믿음 스튜디오 포털을 오픈해 KT는 모든 기업에 믿음의 파운데이션 모델을 개방한다. 이를 통해 기업은 원하는 형태로 파인 튜닝을 거쳐 AI 응용 서비스를 만들 수 있게 된다.

발표에 나선 최준기 AI/빅데이터사업 본부장은 초거대 AI 믿음의 출시 계기부터 설명했다. 믿음은 B2B 시장을 겨냥해 초거대 AI의 대중화를 목표로 하며 글로벌 진출, 새로운 수익화 모델, 사업혁신 케이스 등을 위해 사용될 예정이다.

또 믿음은 △수요와 컴퓨팅환경에 맞는 선택 △경량화 △멀티모달 등으로 제공된다. 최준기 본부장은 “기업이 초거대 AI를 사용할 때 나만의 모델이 필요하고 제작 과정은 쉬웠으면 하는 니즈가 있었다”며 “이를 위해 믿음 스튜디오를 제공하고 전문 모델을 만들 수 있도록 지원한다”고 말했다.

현재 초거대 AI의 가장 큰 문제라고 할 수 있는 환각현상 해결을 위해 KT는 신뢰 패키지(Reliable Package)를 제공한다. 

우선 도큐먼트 AI는 도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 기술이다. 서치 AI는 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술이다. 또 팩트가드 AI는 원문에 근거한 응답만 생성하도록 강화학습이 적용됐다.

함께 공개된 70억 파라미터 규모 경량 모델 ‘Open Ko-LLM’은 역사 왜곡, 형태소 오류, 환각, 혐오 표현 등의 항목과 한국어 사용자의 일반 상식에 부합되는지 평가한다. 특히 누구나 한국어 LLM을 등록해 성능을 평가할 수 있도록 공개된 플랫폼이기 때문에 AI 생태계에 도움을 줄 수 있다.

믿음의 활용 사례에 대해 배순민 AI2XL 연구소장은 “믿음은 단순 데이터뿐만 아니라 테이블, 도식 등을 표시한다. 오픈 도메인 문서로 학습된 LLM은 특정 지식 전문성이 떨어질 수 있다”며 “서치 AI가 적절한 레퍼런스를 찾고 답변하기 때문에 최대 70%까지 환각현상을 줄였다”고 설명했다.

이와 함께 KT는 기업전용 LLM 사업화에 업스테이지, 콴다, 비아이매트릭스 등 다양한 스타트업과 AI 사업모델을 공동 개발하고 있다. 또 지난 22일 태국 자스민 그룹과 믿음을 활용한 태국어 대형언어모델 구축 협력을 추진하는 등 글로벌 시장 확장 가능성도 보였다.

(관련기사: KT, 태국 기업과 태국어 LLM 개발 본격화)

이어진 질의응답에서 국내 초거대 AI의 해외 시장 진출 전망과 KT만의 차별화 포인트에 대해 최준기 본부장은 “앞서 자스민 그룹과 IP TV 개발 협력을 비롯해 클라우드 구성, 모델 빌드 등의 경험을 태국에서 서비스하고 있다”며 “태국과 협력하고 노하우를 전수한다는 측면이 타 빅테크 기업과의 차별점”이라고 답했다.

아울러 KT는 B2B 사업 경쟁력을 높이기 위해 IT 비즈니스 시 기업에게 컨설팅과 LLM 지식을 동시에 전달하고, 기가지니 및 유무선 통신의 개발에도 박차를 가할 계획이다.