AI 학습 10시간→3시간 단축…KAIST, 데이터 선별 기술 개발

학습 데이터 31%만 활용해 AI 성능 거의 유지
GPU 추가 없이 학습 시간 최대 69.6% 단축

 

[더테크 이지영 기자] 인공지능(AI)의 성능을 거의 유지하면서 추가 학습 시간을 최대 69.6% 단축하는 기술이 개발됐다. 기존에 10시간 걸리던 학습을 약 3시간 만에 마칠 수 있는 수준으로, 의료·코딩 등 전문 분야에 특화된 AI 모델 개발의 시간과 비용을 줄일 수 있을 것으로 기대된다.

 

KAIST는 전산학부 이재길 교수 연구팀이 학습 효과가 비슷한 데이터를 선별하고 여러 그래픽처리장치(GPU)에 효율적으로 분배하는 대규모 언어모델 미세조정 기술 'CluSTER(클러스터)'를 개발했다고 2일 밝혔다.

 

대규모 언어모델을 의료나 코딩 등 특정 분야에 활용하려면 해당 분야의 데이터를 추가로 학습시키는 미세조정 과정이 필요하다. 그러나 기존 방식은 방대한 데이터를 여러 GPU에 무작위로 분배하면서 학습 효과가 유사한 정보를 반복 처리하는 비효율이 발생할 수 있다.

 

연구팀은 데이터의 양보다 학습에 미치는 영향과 분배 방식에 주목했다. CluSTER는 각 데이터가 AI 학습에 미치는 영향을 분석해 비슷한 효과를 내는 데이터끼리 묶고, 각 그룹에서 필요한 자료를 선별한다.

 

단순히 문장이나 주제가 비슷한 데이터를 구분하는 것이 아니라 AI가 습득하는 지식과 문제 해결 능력에 미치는 영향을 기준으로 분류하는 것이 특징이다.

 

이후 선별된 데이터를 여러 GPU에 고르게 배분해 중복 학습을 줄이고 다양한 정보를 효율적으로 학습하도록 설계했다. 이를 통해 GPU 자원을 추가하지 않고도 학습 효율을 높일 수 있다.

 

연구팀은 코딩·의료 분야의 데이터 3종을 활용해 약 70억 개와 130억 개의 매개변수를 가진 대규모 언어모델을 대상으로 실험했다. 총 8개 성능 평가를 통해 기술의 효과를 검증했다.

 

실험 결과 전체 학습 데이터의 약 31%만 사용해도 기존 모델의 성능을 거의 유지했으며, 학습 시간은 최대 69.6% 단축됐다. GPU 4개를 활용한 실험을 중심으로 효과를 확인했고, GPU 8개 환경에서도 기존 방식보다 우수한 성능을 보였다.

 

이번 기술은 기업별 고객 상담 AI와 의료 정보 지원 시스템, 코딩 보조 AI 등 특정 업무에 특화된 모델을 개발할 때 학습 비용을 절감하는 데 활용될 수 있다.

 

이재길 KAIST 교수는 "AI 학습의 효율을 높이기 위해서는 GPU를 더 많이 사용하는 것뿐 아니라 어떤 데이터를 학습할지 똑똑하게 선택하는 것도 중요하다"며 "기존 GPU 자원을 효율적으로 활용해 대규모 AI 모델의 학습 부담을 줄일 수 있다는 점에서 의미가 있다"고 말했다.

 



배너