[더테크=조재호 기자] 글로벌 데이터 클라우드 기업 스노우플레이크가 대규모 언어 모델(LLM) 앱 중 챗봇 비중이 지난해 5월 대비 46%까지 늘었다고 밝혔다. 스노우플레이크는 16일 9천여 고객사를 대상으로 데이터 및 AI 도입 패턴과 트렌드를 조사한 ‘데이터 동향 2024 보고서(Data Trend 2024)’를 발간했다. 글로벌 엔터프라이즈 기업들이 AI 기술과 데이터를 어떻게 활용하고 있는지를 다룬 보고서는 텍스트 입력 방식의 LLM 앱의 비중이 지난해 82%에서 54%로 줄어들고 대화형 챗봇이 늘어나고 있다고 분석했다. 스트림릿(Streamlit) 개발자 커뮤니티를 대상으로 한 설문에서 응답자의 약 65%가 업무용으로 LLM 프로젝트를 진행하고 있다고 답했으며 기업 고객들은 생성형 AI 기반 기술을 업무의 생산성, 효율성, 분석력을 높이는데 다양하게 사용하고 있었다. 제니퍼 벨리센트 스노우플레이크 데이터 전략 수석은 “대화형 앱은 사람과 대화하듯 LLM과 상호작용할 수 있다”며 “데이터 거버넌스와 보안이 보장된다면 기업과 사용자 모두의 기대치를 충족하며 활용도가 확대될 것”이라고 말했다. 스노우플레이크 커뮤니티에 속한 2만여명의 개발자들은 지난 9개
[더테크=전수연 기자] 오라클이 AI 코딩 동반 툴인 오라클 코드 어시스트(Oracle Code Assist)를 통한 애플리케이션 속도 향상과 코드 일관성 개선 계획을 13일 발표했다. 오라클 코드 어시스트는 LLM을 기반으로 오라클 클라우드 인프라스트럭처(OCI)에서 실행되며 OCI 기반 자바, SQL, 애플리케이션 개발에 최적화됐다. 기업의 모범 사례, 코드베이스 맞춤화로 대부분의 모던 프로그래밍 언어 코드를 업데이트하고 업그레이드, 리팩터링(소프트웨어 개발 과정에서 기존 코드를 변경하지 않고도 코드의 구조와 디자인을 개선하는 과정)에도 활용될 수 있다. 오라클은 AI 기반 소프트웨어 개발이 소프트웨어의 개념화, 생성, 테스트, 관리 방식에 혁신을 불러일으켰다고 판단했다. 개발자는 AI 지원 도구를 사용해 새로운 아이디어를 탐색하고 신규, 업그레이드, 리팩터링된 코드를 위한 지능형 제안을 받을 수 있다. 또한 일상 작업 자동화 기능을 통해 AI 도구가 소프트웨어 개발 수명 주기의 모든 단계에서 핵심 부분으로 자리잡게 됐다. 코드 어시스트는 코드스니펫, 종속성 분석, 오류 완화 대안, 테스트 사례, 주석, 요약과 문서화를 제공해 개발 수명 주기의 각 단계를
[더테크=조재호 기자] 글로벌 컨설팅 기업인 프로스트앤드설리번이 인공지능(AI) 시장을 전망하는 보고서를 내놨다. 보고서에서는 AI의 활용도가 늘어날 것으로 전망하며 관련 시장 규모 예측과 함께 기업의 도입 전략을 제시했다. 프로스트앤설리번은 10일 ‘2024년 AI 시장 전망 톱 10 보고서(AI: Top 10 Predictions, 2024)’을 발표했다. 이 보고서는 2024년 글로벌 AI 시장이 약 10% 성장해 3400억달러(464.7조원) 규모에 이를 것이며 생성형 AI가 기업의 전략적 차별화와 개인화된 소비자 경험 제공에 중요한 역할을 할 것으로 전망했다. 아울러 제조, 금융, 헬스케어 산업 등에서 AI 활용도가 늘어날 것으로 예상했다. 성장 기회로는 대규모 언어 모델(LLM) 기반 솔루션과 구현, LLM 훈련을 위한 데이터베이스 제공 등을 다뤘다. LLM은 방대한 빅데이터를 기반으로 모델 훈련 속도를 높이고 맥락에 맞는 적용 가능성을 높일 수 있다는 설명이다. 박세준 프로스트앤드설리번 한국지사 대표는 “AI 기술이 산업 전반에 걸쳐 새로운 정의를 내리고 있다”며 “기업들은 AI를 활용하면서 데이터 보안과 개인정보 보호를 최우선으로 고려해 멀티모
[더테크=전수연 기자] 카운트포인트리서치가 발간하는 AI 리포트에 따르면 2023~2027년 동안 약 5억 대에 달하는 AI 노트북 PC가 판매될 것으로 추산되며 AI PC가 소비자들의 교체 수요를 되살릴 것으로 전망된다. 카운트포인트리서치는 PC가 수십 년 동안 주요 생산형 기기로 사용됐지만 생성형 AI 붐에 힘입어 AI를 기반으로 한 새로운 PC의 시대로 접어들고 있다고 분석했다. 또 코로나 19로 인한 글로벌 PC 시장의 재고 조정과 수요가 다시 정상화되며 PC 산업 재편을 위한 환경이 조성되고 있다고 판단했다. 카운트포인트리서치는 다양한 수준의 컴퓨팅 성능, 사용 사례와 연산 성능의 효율성을 기준으로 생성형 AI 노트북 PC를 AI Basic 노트북, AI-advanced 노트북, AI-capable 노트북의 세 가지 범주로 분류하고 있다. 이미 시장에 출시된 AI Basic 노트북은 기본 AI 작업을 수행할 수 있지만 생성형 AI 작업을 완벽히 수행하지 못한다. 다만 올해부터는 NPU(신경 처리 장치) 또는 GPU로 구동되는 TOPS(Tera Operations Per Second)를 갖춘 AI-Advanced와 AI-capable 노트북으로 대체되
[더테크=전수연 기자] SK텔레콤(이하 SKT)이 한국생산성본부가 선정하는 2024년 국가고객만족도(NCSI· National Customer Satisfaction Index) 조사에서 이동전화서비스 부문 27년 연속 1위를 차지했다고 8일 밝혔다. SKT는 NCSI가 국내에 도입된 1998년 이후 27년간 한 해도 빠짐없이 1위를 차지했으며 국내 전체 산업군 통틀어 유일한 결과를 기록했다. 이번 조사에서 SKT는 AI를 활용한 지속 서비스 혁신과 고객 만족도 향상을 위한 다양한 노력을 인정받으며 이동통신 부문 최초 고객만족도 80점을 돌파했다. NCSI는 한국생산성본부와 미국 미시간대가 공동 개발해 세계 각국에서 널리 활용하는 글로벌 권위의 고객만족도 조사 지표다. 매년 기업의 상품, 서비스에 대해 이용자가 직접 평가한 만족 수준을 측정해 계량화한다. SKT는 지난해부터 에이닷 전화에서 통화 녹음·요약, 통역콜 등 AI 기반 새로운 기능을 선보여왔다. 에이닷 전화는 기존 통화 서비스와 달리 AI가 통화 내용의 맥락을 분석하고 통화 유형, 요약까지 제공하는 서비스다. 지난해 새롭게 선보이며 아이폰(IOS) 이용자들로부터 높은 인기를 얻었던 통화 녹음·요약,
[더테크=전수연 기자] 삼성SDS가 자사 생성형 AI 서비스 FabriX(패브릭스)와 Brity Copilot(브리티 코파일럿)의 본격 출시를 선언했다. 삼성SDS는 서울 송파구 잠실캠퍼스에서 미디어데이를 2일 진행했다. 이날 행사에는 △생성형 AI 서비스 플랫폼 패브릭스 △메일·미팅·메신저·문서관리 등 협업 솔루션에 생성형 AI를 활용하는 브리티 코파일럿 △RPA·EPA 등 자동화 솔루션에 생성형 AI 기능을 더한 브리티 오토메이션 등을 기업에 맞춤형으로 제공하겠다는 삼성SDS 생성형 AI 서비스 사업 전략이 발표됐다. 브리티 코파일럿은 회사 업무를 하면서 가장 빈번하게 사용되는 메일, 메신저, 미팅, 문서관리 등 기업의 공통 업무를 지원하는 협업 솔루션 브리티 웍스에 생성형 AI 기술을 적용한 서비스다. 브리티 코파일럿을 활용하면 △영상회의 중 발표자의 음성을 인식해 실시간 자막(한·영)과 번역(13개 언어) △회의 전체 내용의 자막 스크립트 제공 △회의록 작성과 실행 방안 도출 △메일·메신저 대화 요약 △메일 초안 작성 등 다양한 업무를 효율화할 수 있다. 특히 한국어 음성의 높은 인식 정확도(94%)와 실시간 번역 기능으로 전문 통역사 없이 더욱 명확
[더테크=전수연 기자] SK텔레콤(이하 SKT)이 통신사의 서비스, 상품, 멤버십 혜택, 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 학습시키는 LLM을 개발하고 있다. SKT는 서울 중구 SKT타워에서 자사 텔코 LLM 설명회를 30일 진행했다. 사진은 행사가 열린 무대 모습.
[더테크=전수연 기자] SK텔레콤(이하 SKT)이 통신사의 서비스, 상품, 멤버십 혜택, 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 학습시키는 LLM을 개발하고 있다. 이 LLM은 오는 6월 개발이 완료되며 통신사들이 AI컨택센터, 유통망, 네트워크 운용, 사내 업무 등에 활용할 수 있을 것으로 보인다. SKT는 서울 중구 SKT타워에서 자사 텔코 LLM 설명회를 30일 진행했다. 이날 설명회는 텔코 LLM의 의미와 개발 과정을 공유하는 시간으로 마련됐다. 우선 에릭 데이비스 SKT AI Tech Collaboration 담당은 텔코 LLM의 정의부터 언급했다. 텔코 LLM은 5G 요금제, T멤버십, 공시지원금 등 우리나라 통신 전문 용어와 AI 윤리가치 등 통신사의 내부 지침을 학습한 모델이다. 특히 GPT, 클로드와 같은 범용 LLM이 아닌 통신업에 특화된 LLM이라고 볼 수 있다. 텔코 LLM의 3가지 특징에 대해 데이비스 담당은 “개체(Entity) 인식은 특정 요금제의 혜택을 이해한다. 또 상품 선택은 제품 검색어(query)와 가장 일치하는 문서를 찾는다”며 “의도 감지는 문장에서 사용자 의도를 분류해 파악한다”
[더테크=조재호 기자] 네이버의 초대규모 인공지능(AI)인 하이퍼클로바X(HyperCLOVA X)의 신규 모델 ‘HCX-DASH’가 공개됐다. 네이버클라우드는 25일 AI 개발 도구 ‘클로바 스튜디오(CLOVA Studio)’를 통해 HCX-DASH의 첫 번째 버전인 ‘HCX-DASH-001’을 출시했다. 고객사는 앞으로 하이퍼클로바X 모델들뿐만 아니라 HCX-DASH를 활용해 맞춤형 AI를 제작할 수 있다. HCX-DASH는 하이퍼클로바X의 기존 모델(HCX-003)보다 저렴한 비용이 특징이다. 고객사는 기존 보다 5분의 1수준의 가가격으로 신규 모델을 이용할 수 있다. 효율적인 컴퓨팅 자원 활용을 기반으로 속도를 개선했다. 하이퍼클로바X는 대부분의 학습 데이터가 영어로 구성된 AI보다 적은 비용으로 빠르게 한국어를 처리할 수 있다. 국내 사용자에게 상대적으로 우수한 비용 효율성과 사용성을 갖췄다. HCX-DASH는 이러한 장점을 한층 강화해 하이퍼클로바X의 산업계 도입을 가속할 전망이다. 네이버클라우드는 여러 종류의 하이퍼클로바X 모델을 클로바 스튜디오에서 순차적으로 제공할 예정이다. 정교하고 복잡한 작업을 완성도 높게 수행할 수 있는 모델이나 이미지나
[더테크=전수연 기자] 글로벌 데이터 클라우드 기업 스노우플레이크(Snowflake)가 개방성과 성능을 갖춘 엔터프라이즈급 LLM ‘스노우플레이크 아크틱(Snowflake Arctic)’을 출시했다고 25일 밝혔다. 스노우플레이크 고유의 전문가혼합(MoE, Mixture-of-Experts) 방식으로 설계된 아크틱은 동급 최고 성능과 생산성을 지원한다. 기업의 복잡한 요구사항 처리에도 최적화돼 SQL 코드 생성, 명령 이행 등 다양한 기준에서 최고 조건을 충족한다. 특히 아크틱은 무료로 상업 이용까지 가능한 아파치 2.0 라이선스다. 스노우플레이크는 AI 학습 방법에 대한 연구의 자세한 사항을 공개하며 엔터프라이즈급 AI 기술에 대한 새로운 개방 표준을 수립했다. 또 아크틱 LLM은 스노우플레이크 아크틱 모델군의 일부로 검색 사용을 위한 텍스트 임베딩 모델도 포함됐다. 시장조사기관 포레스터가 발표한 최근 보고서에 따르면 글로벌 기업의 AI 의사 결정권자 중 약 46%는 AI 전략의 일환으로 자신이 속한 기업에 생성형 AI를 도입하기 위해 기존의 오픈소스 LLM을 활용한다고 답했다. 이를 위한 스노우플레이크 데이터 클라우드 플랫폼은 현재 글로벌 9400여 개
[더테크=전수연 기자] 메타(Meta)가 다양한 목적으로 사용 가능한 최신 LLM 라마3(Llama 3)를 오픈소스로 공개했다. 메타는 사전 훈련과 미세조정을 마친 80억 개(8B)와 700억 개(70B) 매개변수 모델 두 가지를 공개했다고 19일 밝혔다. 메타는 두 모델이 현재 동급의 오픈소스 모델 중 최고 수준의 성능인 것으로 평가받는다고 전했다. 대규모 다중 작업 언어 이해(MMLU)를 포함한 다양한 업계 표준 벤치마크에서 높은 성적을 받았으며 추론, 코드 생성, 지시 수행에 있어 전보다 성능이 크게 개선됐다. 라마3의 성능 향상은 모델의 사전 훈련, 사후 훈련 과정을 고도화함으로써 이뤄졌다. 사전 훈련을 위해 데이터셋의 양을 늘리고 필터링 과정을 거쳐 고품질 데이터만이 선별됐다. 라마3는 15조 이상의 토큰으로 훈련됐고 이는 라마2 대비 7배 이상 많으며 코드량은 4배 더 많다. 또 라마3의 사전 훈련에는 일상 질문부터 과학, 기술, 공학, 수학 분야, 코딩, 역사 지식에 이르기까지 다양한 분야의 데이터셋이 사용됐다. 이를 통해 모델은 보다 다양한 영역에서 활용될 수 있다. 또 사전훈련의 규모를 확대하고 고도화된 지시 미세조정(Instruction f
[더테크=전수연 기자] LG CNS가 DAP GenAI 플랫폼을 통해 기업의 생성형 AI 서비스 도입을 지원한다. LG CNS는 기업용 생성형 AI 플랫폼 DAP GenAI 플랫폼을 대폭 강화했다고 16일 밝혔다. 지난 10월 출시한 언어 생성형 AI 솔루션 GenAI Text에 △Knowledge Lake △GenAI Image △GenAI Talk 등 3개 솔루션이 추가됐다. LG CNS는 생성형 AI 활용을 위한 기업의 움직임이 본격화되면서 다양한 적용 가능 사례(Use Case)들이 등장하고 있다고 판단했다. 하지만 이를 체계적으로 생성·운영·관리할 플랫폼이 없어 실제 비즈니스에 적용하지 못하고 단편적인 사례 구현에 그치는 경우가 대부분이다. DAP GenAI 플랫폼을 통해 기업은 필요한 서비스를 언제든 만들어 적용하고 운영·관리할 수 있다. LG CNS는 지난해 20여 개의 생성형 AI 레퍼런스 등을 통해 확보한 기술 자산을 DAP GenAI 플랫폼에 담아 완성도를 극대화했다. 기업은 자체 서버, 클라우드 등 보유 중인 인프라에 DAP GenAI 플랫폼을 설치해 비즈니스에 필요한 생성형 AI 서비스를 만들고 활용할 수 있다. 생성형 AI가 거짓, 왜