생성형 AI가 실제 서비스로 확산하면서 데이터센터의 경쟁 기준도 달라지고 있다. 모델 학습을 위한 대규모 GPU 확보에 이어 매일 발생하는 추론 요청을 얼마나 낮은 비용과 전력으로 처리할 수 있는지가 AI 인프라의 새로운 과제로 떠올랐다. 하나의 가속기에 모든 작업을 맡기기보다 워크로드에 따라 GPU와 NPU 등 서로 다른 연산 자원을 조합하는 이기종 컴퓨팅도 대안으로 부상하고 있다. AI 반도체 기업 리벨리온이 일본 데이터센터에 추론 특화 NPU를 대규모 공급하며 글로벌 AI 추론 인프라 시장 공략에 나선다.
리벨리온(대표 박성현)은 글로벌 AI 기술 기업 ai&와 파트너십을 체결하고 일본 도쿄 데이터센터에 자사의 NPU 기반 랙 시스템 ‘리벨랙(RebelRack)’을 구축한다. ai&는 초도 물량을 시작으로 리벨랙 도입 규모를 100대 이상으로 확대할 예정이다. 초기 구축 물량 역시 ai&의 데이터센터 확충 일정에 따라 추가될 수 있다.
리벨리온이 일본 AI 인프라 기업 ai&와 파트너십을 체결하고 도쿄 데이터센터에 NPU 기반 랙 시스템 ‘리벨랙(RebelRack)’을 100대 이상 구축하는 방안을 추진한다. (자료 제공: 리벨리온)
이번 협력은 ai&가 일본에서 제공하는 AI 추론 서비스 인프라에 리벨리온의 NPU를 적용하는 방식이다. 구축이 완료되면 일본 기업과 정부기관, 개발자가 현지 데이터센터에 설치된 리벨리온 솔루션 기반의 추론 인프라를 이용할 수 있게 된다.
ai&는 AI 워크로드의 특성에 따라 서로 다른 컴퓨팅 자원을 배치하는 이기종 인프라를 구축하고 있다. 회사는 20억달러 이상의 인프라 투자를 확보했으며 2026년 말까지 5개 사이트를 가동하고 2027년 말까지 40MW 규모의 인프라를 확보한다는 목표를 제시했다.
GPU에 NPU 더한 이기종 인프라…추론 비용 낮추는 데이터센터 실험
리벨리온은 ai&의 기존 이기종 컴퓨팅 환경에 전력 효율과 운영비 절감에 초점을 맞춘 추론 특화 NPU를 공급한다. AI 서비스의 워크로드에 따라 적합한 가속기를 선택할 수 있도록 컴퓨팅 자원의 선택지를 넓히고 추론 서비스의 비용 구조를 낮추는 것이 협력의 핵심이다.
소프트웨어 환경을 크게 바꾸지 않고 NPU를 적용할 수 있도록 호환성도 확보한다. ai& 기술팀은 GPU 환경에서 사용해 온 오픈소스 소프트웨어를 활용하고 있으며 리벨리온 역시 주요 오픈소스 프레임워크를 지원한다. 이에 따라 기존 개발환경을 유지하면서 NPU 시스템을 추가할 수 있으며 양사는 첫 시스템을 납품 당일부터 가동할 수 있을 것으로 예상하고 있다.
리벨리온은 이번 공급을 일본 소버린 AI 인프라 시장에 진입하는 접점으로도 활용한다. 일본 현지에 컴퓨팅 인프라를 구축함으로써 기업뿐 아니라 정부기관과 개발자가 자국 내 데이터센터에서 AI 추론 서비스를 활용할 수 있도록 한다는 구상이다.
매트 이스트우드(Matt Eastwood) IDC 리서치 수석부사장은 “AI가 실험 단계에서 상용 단계로 넘어가면서 성능·전력 효율·비용을 아우르는 추론의 경제성이 인프라 선택에 미치는 영향이 더욱 커질 것”이라며 “ai&가 상용 규모로 리벨리온 제품을 도입한 것은 목적 기반 AI 반도체가 추론 인프라의 실질적인 대안으로 부상하고 있음을 보여주는 중요한 사례”라고 평가했다.
데이비드 베넷(David Bennett) ai& 공동창업자 겸 대표는 “이기종 인프라란 작업에 가장 적합한 하드웨어를 쓴다는 의미”라며 “리벨리온은 높은 효율과 기존 오픈소스 프레임워크와의 호환성을 제공해 서비스의 비용 구조를 더욱 유연하게 설계할 수 있는 파트너”라고 말했다.
박성현 리벨리온 대표는 “추론의 경제성은 AI가 얼마나 널리 보급되고 활용될 수 있는지를 좌우하는 핵심 요소”라며 “이번 협력을 계기로 일본 현지 고객과 직접 만나는 접점을 확보하고 일본 AI 인프라 시장에서 사업 기반을 확대하는 동시에 기업과 정부, 개발자에게 보다 효율적인 추론 인프라를 제공하겠다”고 말했다.
리벨리온은 데이터센터용 추론 특화 NPU와 소프트웨어, 서버·랙 단위 시스템을 개발하고 있다. 자체 NPU ‘아톰(ATOM)’ 시리즈는 국내 데이터센터와 통신·클라우드 기업의 AI 서비스에 적용됐으며 최근에는 HBM3E 기반 NPU ‘리벨100(Rebel100)’을 중심으로 해외 시장 진출을 추진하고 있다.
The post 리벨리온, 일본 AI 데이터센터에 NPU 100랙 공급 추진…추론 인프라 시장 공략 appeared first on 벤처스퀘어.