[더테크 이지영 기자] 한국에는 미래 지향적인 리더들이 AI를 기업에 통합시키고 다른 기업에도 그 방법을 알리면서 분야를 이끌어가고 있습니다. 한국과 아시아태평양 지역의 시장에서 GPU 수요가 증가할 것으로 예상합니다. 또한, 한국은 AI 혁신이 빠르게 일어나고 있습니다. 저는 매일 카이스트나 서울대학교에서 새롭게 나오는 흥미로운 논문과 로봇 데모를 봅니다. 이러한 연구의 성과는 GPU 인프라를 기반으로 이뤄지고 있습니다. 'SK AI 서밋 2024' 참석을 앞둔 스티븐 발라반 람다(Lambda) 최고경영자(CEO) 겸 창업자는 29일 SK텔레콤과 인터뷰에서 우리나라의 AI 혁신 속도가 글로벌 기준으로 빠르게 일어나고 있다고 평가하며, AI 혁신의 필수 기반으로 그래픽처리장치(GPU) 인프라를 강조했다. 2012년 AI 엔지니어들이 설립한 람다는 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로 글로벌 빅테크 기업들을 고객사로 두고 있다. SKT와 람다는 AI 인프라 사업을 강화하기 위해 전략적 파트너십을 체결한 바 있다. 그는 SKT와의 협력을 통한 한국 AI 시장의 발전과 혁신을 기대하고 있다. 그는 "AI 생태계가 빠르게 형성되고 있고, AI로 인해
[더테크=조재호 기자] 국내 연구진이 차세대 인터페이스 기술이 활성화된 고용량·고성능 AI 가속기를 개발했다. 대규모 AI 시스템 구축 비용을 감소시킬 수 있을 것으로 예상된다. 카이스트는 8일 정명수 전기및전자공학부 교수 연구팀이 차세대 인터페이스 기술인 CXL(Compute Express Link)이 활성화된 고용량 GPU의 메모리 읽기·쓰기 성능을 최적화하는 기술을 개발했다고 밝혔다. 일반적으로 AI 개발에 활용되는 GPU의 메모리 용량은 수십 기가바이트(GB)에 불과해 단일 GPU만으로는 모델을 추론·학습하는 것은 불가능하다. 대규모 AI 모델에 필요한 메모리를 확보하기 위해서 GPU 여러 대를 연결하는 방법을 선택하는데 이 방법은 GPU 가격으로 인해 총소유비용(TCO·Total Cost of Ownership)을 과하게 높아진다. 이에 차세대 연결 기술인 CXL을 활용해 대용량 메모리를 GPU에 직접 연결하는 CXL-GPU 구조가 다양한 산업계에서 검토되고 있다. 다만 고용량이라는 특징만으로 AI 서비스에 활용되기 어렵다. 대규모 AI 서비스는 용량만큼이나 GPU에 직접 연결된 메모리 준하는 성능이 나올 때 실제 서비스에 활용될 수 있다. 연구진은
[더테크=조재호 기자] 엔비디아가 시총 1위에 올랐다. 이전까지 게이밍 하드웨어로 제조사로 그래픽처리장치(GPU) 제조사였던 엔비디아는 암호화폐와 메타버스 열풍을 지나 AI 시대의 중심으로 우뚝 섰다. 엔비디아는 18일(현지시간) 장 마감 기준 시가총액 1위 기업으로 등극했다. 이날 엔비디아의 주식은 3.51% 오른 135.58달러로 마감해 시가총액이 약 3조3350억달러를 기록한 것이다. 마이크로소프트의 3조3170억달러와 애플의 3조2850억달러가 그 뒤를 이었다. 지난 6일 애플을 제치고 2위를 기록한 엔비디아가 마이크로소프트까지 넘어서면서 세계에서 가장 가치 있는 기업으로 자리했다. 이는 1993년 회사 설립 이후 처음 있는 일이다. 로이터를 비롯한 주요 외신은 엔비디아의 놀라운 시장 가치 급등은 AI에 대한 월스트리트 열광을 상징한다고 평했다. 아울러 젠슨 황 엔비디아 CEO는 최근 세계 부자 11위를 기록 중이다. 차세대 그래픽 시장을 선도하겠다는 포부로 설립된 엔비디아는 회사 이름처럼 모두의 부러움을 사는 기업이 됐다. Nvidia에서 NV는 다음 버전(Next Version)을 뜻하고 부러움이라는 영단어 envy의 라틴어 표현인 invidia(
[더테크=조재호 기자] 엔비디아가 차세대 인공지능(AI) 그래픽 처리장치(GPU) ‘루빈(Rubin)’을 공개했다. 지난 3월 블랙웰을 발표한 지 3개월 만에 차세대 GPU 발표한 것이다. 젠슨 황 엔비디아 CEO는 지난 2일 대만 최대 IT 박람회인 컴퓨텍스 2024 기조연설에 나섰다. AI의 시대가 글로벌 신산업 혁명을 어떻게 주도할 것인지를 주제로 진행된 연설에서 자사의 미래 시장 전략과 함께 차세대 제품군에 대해 언급했다. 황 CEO를 상징하는 검은 가죽자켓을 입고 등장한 CEO는 “이전에는 2년 주기였지만 향후 1년 주기로 새로운 AI 칩 모델을 출시하겠다”며 지난 3월 공개한 블랙웰 아키텍처 기반의 차세대 AI 칩 B200에 이어 루빈 R100을 공개하면서 향후 개발 계획을 소개했다. 기존에 발표했던 블랙웰은 올해에, 이를 개선한 블랙웰 울트라는 2025년, 루빈은 2026년부터 양산할 예정이라고 밝혔다. 이어 2027년엔 루빈 울트라 모델이 출시될 예정이다. 블랙웰은 현재 엔비디아의 주력 제품인 호퍼 아키텍처 H100을 잇는 신제품이다. 루빈에는 6세대 고대역폭메모리(HBM)인 HBM4를 탑재할 것이라고 설명했다. 루빈의 구체적인 사양을 공개한
[더테크=전수연 기자] AMD가 3일(현지시간) Computex 2024를 통해 데이터센터 간 엔드투엔드 AI 인프라를 지원하는 새로운 CPU, NPU, GPU 아키텍처를 소개했다. AMD는 AMD Instinct™ 가속기 로드맵을 공개해 올해 4분기 출시 예정인 새로운 AMD Instinct MI325X를 포함한 AI 가속기의 연간 흐름을 공개했다. 또 5세대 AMD EPYC™ 서버 프로세서, AI 지원 모바일 프로세서의 3세대인 AMD Ryzen™ AI 300 시리즈, 노트북 및 데스크탑 PC용 AMD Ryzen 9000 시리즈 프로세서를 각각 발표했다. 이날 기조연설에서 리사 수 AMD CEO는 “빠르고 가속화되는 AI를 기반으로 AMD의 고성능 컴퓨팅 플랫폼 수요가 증가하고 있다”며 “Computex에서는 마이크로소프트, HP, 레노버 등 전략적 파트너와 함께 차세대 Ryzen 데스크탑·노트북 프로세서를 출시하고 차세대 EPYC 프로세서의 성능을 미리 발표하게 됐다”고 말했다. 우선 AMD는 슈퍼컴퓨터, 클라우드, PC 등의 효율성을 위해 구축된 차세대 Zen 5 CPU 코어를 소개했다. AMD XDNA™ 2 NPU 코어 아키텍처는 이전 세대에 비해
[더테크 뉴스] 엔비디아가 시장 예상치를 넘어선 1분기 실적을 발표함과 동시에 주식 분할과 배당 확대를 시행한다. 이 같은 소식에 장외 거래에서 엔비디아의 주가는 1000달러를 돌파했다. 엔비디아는 22일(현지시각) 올 1분기 매출 260억4400만달러(35조5839억원)과 영업이익 169억900만달러(23조1027억원), 주당 순이익 5.98달러를 기록했다고 발표했다. 이는 시장조사기관 LSEG의 전망치인 매출 246억5000만달러, 주당 순이익 5.59달러를 크게 웃돌았다. 엔비디아의 지난해 같은 기간 매출은 71억9200만달러, 영업이익은 21억4000만달러를 기록했는데 각각 262%, 690% 급등한 수치다. 엔비디아의 실적 대부분은 데이터센터 사업부 매출로 1분기 226억달러를 기록했다. 이는 지난해보다 427% 급등한 수치다. 게임 사업부는 26억달러의 매출을 올렸다. 컨퍼런스 콜을 통해 엔비디아는 H100 출하량이 늘어나면서 실적이 크게 개선된 결과라고 밝혔다. 차세대 슈퍼 칩 GB200(블랙웰) 출시에 따라 2분기 매출이 280억달러에 다다를 것이라고 전망했다. 이는 시장 전망치 268억달러를 넘어서는 수치다. 젠슨 황 엔비디아 CEO는 컨퍼런
[더테크=전수연 기자] 델 테크놀로지스(이하 델)가 엔비디아와의 협력을 확대하며 엔비디아 기반 델 AI 팩토리에 새로운 서버, 엣지, 워크스테이션, 솔루션, 서비스 등을 추가해 AI 도입 지원에 박차를 가한다고 22일 밝혔다. 델은 엔비디아 기반 델 AI 팩토리 포트폴리오의 확장이 양사 공동의 사명을 이어가는 것이라고 전했다. 또 더 많은 기업, 기관들이 AI를 보다 쉽게 구축해 과감하게 차세대 기술에 도전할 수 있도록 지원할 방침이다. 엔비디아는 생성형 AI가 새로운 유형의 컴퓨팅 인프라, 인텔리전스를 생성하는 AI 팩토리를 필요로 한다고 전했다. 엔비디아와 델은 함께 협력해 다양한 산업군에 컴퓨팅, 네트워킹, 소프트웨어를 포함한 풀스택 오퍼링을 제공해 코파일럿, 코딩 어시스턴트, 가상 고객 서비스 에이전트, 산업용 디지털 트윈 등을 구축할 수 있도록 지원할 계획이다. 엔비디아 기반 델 AI 팩토리는 델의 AI 포트폴리오를 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼과 통합한 오퍼링이다. 엔비디아 텐서 코어 GPU, 엔비디아 스펙트럼-X 이더넷 네트워킹 패브릭·엔비디아 블루필드 DPU 등의 기술을 기반으로 하고 있다. 사용자는 필요에 따라 맞춤화된 통합 기
주간 'Tech Point’는 금주의 소식을 톺아보고 정리한 뉴스 큐레이션 콘텐츠입니다. 한 주를 돌아보며 독자 여러분께 한 번 더 알려드리고 싶은 소식과 그 외 이슈들을 함께 모아봤습니다. [더테크=전수연 기자] 5월 2주차 ‘주간 Tech Point’는 올 1분기 이동통신 3사의 실적 발표 소식부터 살펴보겠습니다. SK텔레콤(이하 SKT)은 연결 기준 매출 4조4746억원, 영업이익 4985억원, 당기순이익 36119억원을 기록했습니다. 매출은 SKT, SK브로드밴드 유무선사업의 고른 성장으로 전년 동기 대비 2.3% 늘었으며 영업이익은 0.8% 증가해 비슷한 수준을 유지했습니다. 엔터프라이즈 사업은 꾸준한 성장세를 보여 비통신 영역에서 확고한 성장 동력으로 자리매김한 가운데 AI 매출도 전년 동기 대비 10% 이상 늘어나 의미 있는 성장을 보였습니다. LG유플러스(이하 유플러스)는 매출 3조5770억원, 영업이익 2209억원을 기록했습니다. 영업매출에서 단말기 매출을 제외한 서비스 매출액은 2조8939억원입니다. 매출은 전년 동기 대비 1% 늘었는데 서비스 매출은 2.5% 증가했습니다. 이러한 성장세는 B2B 기업인프라 부문의 성장이 원인으로 꼽힙
[더테크=전수연 기자] 글로벌 엔지니어링 시뮬레이션 전문기업 엔시스코리아(이하 엔시스)가 가속 컴퓨팅, 생성형 AI 기반 차세대 시뮬레이션 솔루션 개발에 나선다. 엔시스는 미국 반도체 기업 엔비디아(NVIDIA)와의 협력을 확대한다고 25일 밝혔다. 협력 확대를 통해 엔시스는 최첨단 기술을 융합해 6G 통신 기술을 고도화하고 엔비디아 그래픽처리장치(GPU)를 기반으로 엔시스 솔버를 강화한다. 엔시스의 소프트웨어에 엔비디아 AI를 통합하고 물리 기반 디지털 트윈을 개발하며 엔비디아 AI 파운드리 서비스로 개발된 맞춤형 LLM을 사용할 예정이다. 엔시스는 최근 포트폴리오 전반에 걸쳐 데이터 상호운용성을 강화하고 향상된 그래픽, 비주얼 렌더링을 제공하기 위해 오픈 USD 얼라이언스(Alliance for OpenUSD, AOUSD)에 가입했다. 이미 엔시스는 엔비디아 옴니버스 플랫폼에 기반한 엔비디아 드라이브 심에 엔시스 AV엑셀러레이트 오토노미를 연동했으며 엔시스 STK, 엔시스 LS-DYNA, 엔시스 플루언트, 엔시스 퍼시브EM 등의 추가 연동을 검토하고 있다. 이를 통해 강화된 상호운용성을 바탕으로 사용자는 광범위한 수준의 시뮬레이션 과제를 해결할 수 있다.
[더테크=전수연 기자] KAIST가 그래픽 연산 장치(이하 GPU)에서 메모리 크기의 한계로 인해 초병렬 연산의 결과로 대규모 출력 데이터가 발생할 때의 난제를 해결했다. KAIST 전산학부 김민수 교수 연구팀은 데이터 처리 기술(INFINEL)을 개발했다고 7일 밝혔다. 이 기술은 한정된 크기의 메모리를 지닌 GPU를 이용해 수십, 수백 만개 이상의 스레드들로 초병렬 연산을 하며 수 테라바이트의 큰 출력 데이터를 발생시킬 경우에도 메모리 에러를 발생시키지 않고 출력 데이터를 메인 메모리로 고속 전송, 저장할 수 있다. 이를 통해 향후 가정에서 사용되는 메모리 크기가 작은 GPU로도 생성형 AI 등 고난도 연산이 대규모 출력을 진행할 경우 빠른 수행이 가능해진다. KAIST는 최근 AI의 활용이 급속 증가하면서 지식 그래프와 같이 정점과 간선으로 이뤄진 그래프 구조의 데이터 구축, 사용이 증가하고 있는 반면 그래프 구조 데이터에 대해 난이도가 높은 초병렬 연산을 수행할 경우 그 출력 결과가 매우 크고 각 스레드의 출력 크기를 예측하기 어렵다고 분석했다. 또한 GPU는 CPU와 달리 메모리 관리 기능이 매우 제한돼 예측할 수 없는 대규모의 데이터를 유연하게 관
[더테크=전수연 기자] 삼성전자가 생성형 AI, 자율주행 등 데이터 처리에 유용한 차세대 인터페이스를 개발했다. 삼성전자는 업계 최초로 엔터프라이즈 리눅스 글로벌 기업 레드햇(Red Hat)과 CXL(Compute Express Link, 고성능 서버 시스템에서 CPU와 함께 사용되는 가속기·D램·저장장치 등을 효율적으로 활용하기 위한 차세대 인터페이스) 메모리 동작 검증에 성공했다고 27일 밝혔다. CXL은 △생성형 AI △자율주행 △인메모리 데이터베이스 플랫폼 등 처리해야 할 데이터 양이 기하급수적으로 증가하면서 주목받고 있는 기술로, 빠르고 효율적인 데이터 처리에 유용하다. 또한 CXL은 CPU, GPU 등 다양한 프로세서와 메모리를 연결하는 PCIe(Peripheral Component Interconnect Express, 기존 SATA 전송 속도의 한계를 극복한 고속 인터페이스 규격) 기반의 통합 인터페이스 표준으로 데이터 처리 지연, 속도 저하, 메모리 확장 제한 등 여러 문제를 해결할 수 있는 차세대 기술로 꼽힌다. 삼성전자는 기업용 리눅스 OS인 ‘레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux 9.3 이하 RHEL 9
[더테크=조재호 기자] 아마존웹서비스(이하 AWS)가 AWS 리인벤트(re:Invent)에서 엔비디아와 전략적 협력을 확대한다고 1일 발표했다. 이번 협력 확대는 초기 머신러닝(ML) 선도 기업들의 오랜 파트너십을 기반으로 한다. 양사는 차세대 GPU와 CPU, AI 소프트웨어를 갖춘 엔비디아의 최신 멀티노트 시스템부터 AWS 니트로 시스템(AWS Nitro System) 고급 가상화 및 보안, 엘라스틱 패브릭 어댑터(Elastic Fabric Adapter, EFA) 상호 연결, 울트라클러스터(UltraCluster) 확장성까지, 파운데이션 모델(FM) 학습과 생성형 AI 애플리케이션 구축 기술들을 결합할 예정이다. 아담 셀립스키(Adam Selipsky) AWS CEO는 “AWS와 엔비디아는 세계 최초의 GPU 클라우드 인스턴스를 시작으로 13년 이상 협력해 왔다”며 “우리는 차세대 엔비디아 GH200과 AWS의 클라우드를 결합해 함께 혁신을 지속할 것”이라고 말했다. 이번 협력으로 AWS는 멀티노드 NV링크 기술이 적용된 GH200을 제공하는 최초의 클라우드 제공 업체가 된다. GH200은 동일한 모듈의 Arm 기반 CPU와 결합한다. GH200 NVL