더테크 (THE TECH) - 대한민국 대표 블루오션 테크 미디어

[포토] '텔코 LLM'에 담긴 SKT의 기술

[더테크=전수연 기자] SK텔레콤(이하 SKT)이 통신사의 서비스, 상품, 멤버십 혜택, 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 학습시키는 LLM을 개발하고 있다. SKT는 서울 중구 SKT타워에서 자사 텔코 LLM 설명회를 30일 진행했다. 사진은 행사가 열린 무대 모습.

전수연 기자

2024-04-30 14:57

SKT가 개발한 '통신 전문 LLM' 오는 6월 출시된다

[더테크=전수연 기자] SK텔레콤(이하 SKT)이 통신사의 서비스, 상품, 멤버십 혜택, 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 학습시키는 LLM을 개발하고 있다. 이 LLM은 오는 6월 개발이 완료되며 통신사들이 AI컨택센터, 유통망, 네트워크 운용, 사내 업무 등에 활용할 수 있을 것으로 보인다. SKT는 서울 중구 SKT타워에서 자사 텔코 LLM 설명회를 30일 진행했다. 이날 설명회는 텔코 LLM의 의미와 개발 과정을 공유하는 시간으로 마련됐다. 우선 에릭 데이비스 SKT AI Tech Collaboration 담당은 텔코 LLM의 정의부터 언급했다. 텔코 LLM은 5G 요금제, T멤버십, 공시지원금 등 우리나라 통신 전문 용어와 AI 윤리가치 등 통신사의 내부 지침을 학습한 모델이다. 특히 GPT, 클로드와 같은 범용 LLM이 아닌 통신업에 특화된 LLM이라고 볼 수 있다. 텔코 LLM의 3가지 특징에 대해 데이비스 담당은 “개체(Entity) 인식은 특정 요금제의 혜택을 이해한다. 또 상품 선택은 제품 검색어(query)와 가장 일치하는 문서를 찾는다”며 “의도 감지는 문장에서 사용자 의도를 분류해 파악한다”

전수연 기자

2024-04-30 14:57

환각현상 70% 줄인 'KT AI 믿음' 공개

[더테크=전수연 기자] KT가 초거대언어모델(LLM)의 환각현상(할루시네이션)을 줄이기 위해 패키지 형태의 기능을 도입한 자사 AI ‘믿음(M:dm)’을 공개했다. 특히 자사 포털을 통해 개발 모델을 공유하면서 기업의 AI 도입에 도움을 줄 수 있을 것으로 보인다. KT는 서울 서초구 KT 연구개발센터에서 온라인 기자설명회를 열고 초거대 AI 믿음의 출시를 31일 발표했다. 파운데이션 모델은 방대한 데이터셋으로 학습한 초거대 AI 핵심 기반 모델이다. KT 믿음 스튜디오 포털을 오픈해 KT는 모든 기업에 믿음의 파운데이션 모델을 개방한다. 이를 통해 기업은 원하는 형태로 파인 튜닝을 거쳐 AI 응용 서비스를 만들 수 있게 된다. 발표에 나선 최준기 AI/빅데이터사업 본부장은 초거대 AI 믿음의 출시 계기부터 설명했다. 믿음은 B2B 시장을 겨냥해 초거대 AI의 대중화를 목표로 하며 글로벌 진출, 새로운 수익화 모델, 사업혁신 케이스 등을 위해 사용될 예정이다. 또 믿음은 △수요와 컴퓨팅환경에 맞는 선택 △경량화 △멀티모달 등으로 제공된다. 최준기 본부장은 “기업이 초거대 AI를 사용할 때 나만의 모델이 필요하고 제작 과정은 쉬웠으면 하는 니즈가 있었다”며 “