[더테크 이지영 기자]  노타가 대규모 AI 모델의 보편화를 앞당길 기술을 선보인다. 오는 11월 5일부터 7일까지 일산 킨텍스에서 열리는 ‘디지털퓨처쇼 2025’에서 AI 모델 최적화 플랫폼 ‘넷츠프레소’를 중심으로 GPU 없이도 대규모 언어모델(LLM)을 엣지 환경에서 구동할 수 있는 기술을 공개한다고 31일 밝혔다. 

이번 전시에서 노타는 저전력 디바이스에서도 대규모 언어모델(LLM)과 비전언어모델(VLM)을 최적화할 수 있는 서비스를 선보인다. 이 기술은 모델의 성능을 유지하면서도 추론 속도를 비약적으로 향상시켜, GPU 서버나 고전력 인프라 없이도 고성능 AI를 실행할 수 있게 한다.

이를 통해 GPU 비용과 전력 제약으로 고성능 AI 기능 도입이 어려웠던 기업들이 손쉽게 LLM을 제품에 탑재할 수 있으며, 산업 현장·공공시설·모바일 기기 등 다양한 환경에서 AI 활용 범위를 확대할 수 있다.

노타는 전시 부스 내에서 LLM과 VLM이 엣지 환경에서 구동되는 시연을 마련했다. 관람객은 문서를 업로드하고 질문을 입력하면, 최적화된 LLM 모델이 문서를 이해하고 답변을 생성하는 기능을 직접 체험할 수 있다. 또, VLM 최적화 서비스 시연과 함께 방문객을 대상으로 무료 AI 최적화 컨설팅 프로모션도 진행한다.

노타 관계자는 “이번 전시는 AI 최적화 기술이 기존 기기에서 얼마나 효율적으로 구현될 수 있는지를 직접 경험할 수 있는 자리”라며, “AI 보편화를 이끌 핵심 기술로서 경량화·최적화 기술이 다양한 산업에 쉽게 확산되길 기대한다”고 말했다.

한편, 노타는 자사 최적화 기술을 기반으로 여러 산업 현장에 솔루션을 제공하고 있으며, 정부 주도의 ‘AI 국가대표(독자 AI 파운데이션 모델 개발 프로젝트)’ 정예팀으로 선정되는 등 기술력을 인정받았다. 회사는 최근 수요예측과 일반청약 흥행을 바탕으로 연내 코스닥 상장을 목표로 하고 있다.