AI 인프라 경쟁은 흔히 GPU를 몇 장 확보했는지로 설명된다. 그러나 고가 장비가 통신 대기와 자원 배분 지연으로 쉬고 있다면 보유량이 실제 연산 성능으로 이어지기 어렵다. 실가동률을 확인하지 않은 증설은 성능보다 투자비만 키울 수 있다. 아크릴은 새로운 장비를 구매하기 전에 기존 GPU가 얼마나 일하고 있는지 계측하고, 서로 다른 AI 가속기를 하나로 운영하는 전략을 제시했다.
인공지능 전환(AX) 인프라 전문기업 아크릴은 지난 21일 서울 삼성동 코엑스에서 열린 ‘2026 OCP 코리아 테크 데이’에서 AI 데이터센터의 투자 효율과 운영 자율성을 높이는 ‘소버린 AX(Sovereign AX)’ 전략을 공개했다.
아크릴 박외진 대표이사 (사진 제공: 아크릴)
박외진 아크릴 대표는 기조강연에서 AI 인프라의 경쟁력을 GPU 확보량과 함께 실제 가동 효율과 운영 구조로 평가해야 한다고 강조했다. 아크릴은 국내 산업계의 평균 GPU 실가동률이 50~60% 수준으로 알려져 있어 같은 장비를 보유하더라도 자원 배분과 네트워크 운영 방식에 따라 활용도가 크게 달라질 수 있다고 설명했다.
소버린 AX는 AI 서비스를 구성하는 인프라와 모델, 운영 계층을 개방형 인터페이스로 연결하는 전략이다. 기업과 기관이 특정 장비나 클라우드, 외부 API 공급사에 과도하게 의존하지 않고 자체 환경과 정책에 맞춰 AI 자원을 운영하도록 지원한다.
이 전략의 중심에는 아크릴이 자체 개발한 GPU 클러스터 최적화 플랫폼 ‘GPUBASE’가 있다. GPUBASE는 회사 자체 실증에서 GPU 실효 가동률 93%와 네트워크 경로 활용률 98%를 기록했다.
기존 서버에 소프트웨어를 적용하는 방식으로 GPU와 네트워크 스위치를 추가 구매하거나 AI 학습 코드를 수정하지 않아도 된다. 아크릴은 엔비디아 H100 100장 규모의 클러스터에 적용하면 연간 약 21억 원의 비용을 절감할 수 있을 것으로 추산했다.
GPUBASE는 GPU 작업이 특정 장비와 네트워크 경로에 집중되지 않도록 연산 자원을 배분한다. 노드 사이의 통신 대기와 네트워크 경로 편중을 줄여 동일한 장비에서 처리할 수 있는 작업량을 높이는 구조다.
엔비디아에서 국산 NPU까지…하나의 자원 풀로 관리
GPUBASE는 제조사와 세대가 다른 AI 가속기를 단일 운영 환경으로 묶는다. 엔비디아 A100부터 B200까지의 GPU와 AMD 가속기, 구글 TPU를 비롯해 리벨리온 ‘ATOM’과 퓨리오사AI ‘RNGD’ 등 국산 신경망처리장치(NPU)를 함께 관리할 수 있다.
서로 다른 가속기는 하나의 스케줄러와 자원 할당량(쿼터), 사용량 정산 체계 아래에서 운영된다. 기업은 기존 엔비디아 GPU 인프라를 유지하면서 필요한 영역부터 국산 NPU를 편입할 수 있다. 전체 시스템을 한 번에 교체하지 않고 연산 자원을 확장하며 특정 공급사 의존과 공급망 위험을 분산하는 방식이다.
아크릴은 전력과 데이터센터 공간, 예산 제약으로 가속기를 계속 늘리기 어려운 상황에서 기존 자원의 실가동률을 높이는 것이 투자 효율을 개선할 대안이라고 설명했다. 이번 행사에서도 ‘증설을 결정하기 전에 실가동률부터 계측해야 한다’는 메시지를 제시했다.
기술세션에서는 염익준 아크릴 최고기술책임자(CTO)가 ‘Beyond GPU Management: GPUBASE를 통한 GPU 클러스터 네트워크 최적화’를 주제로 발표했다. GPU 가동률을 낮추는 노드 간 통신 대기와 네트워크 경로 편중 문제를 분석하고, GPUBASE를 활용한 최적화 방법을 소개했다.
염익준 CTO는 “네트워크는 성능인 동시에 비용의 문제”라며 “통신 대기를 줄이면 같은 장비에서 더 많은 GPU가 일하고 그만큼 추가 증설에 필요한 예산을 줄일 수 있다”고 말했다.
아크릴은 관련 기술 연구 결과를 ‘USENIX ATC 2024’와 ‘IEEE Access 2021’에 발표했다. GPUBASE 관련 특허 22건을 포함해 현재까지 83건 이상의 특허도 확보했다.
국내외 클라우드와 폐쇄망에서 진행한 실증·운영 경험도 공개했다. 아마존웹서비스(AWS)와 구글클라우드플랫폼(GCP)에서 각각 500장 이상, 마이크로소프트 애저에서 200장 이상의 GPU를 활용한 대규모 실증을 진행했다.
국내에서는 설계·조달·시공(EPC) 기업의 폐쇄망과 정부부처·지방자치단체의 망분리 환경에서 시스템을 운영했다. 지난 7월에는 모듈형 데이터센터 사업의 1·2차 공급을 진행했으며, 상급종합병원 11곳을 포함한 의료기관 18곳과 누적 1만 병상 이상의 폐쇄망 환경에서도 AI 스택을 운영해 왔다.
OCP 코리아 테크 데이는 글로벌 오픈 컴퓨팅 생태계인 OCP 재단과 OCP Korea 커뮤니티가 개최하는 AI·데이터센터 인프라 콘퍼런스다. 아크릴은 행사장 전시 부스에서 GPU 실가동률과 통신 대기 비중을 측정하는 무상 진단 프로그램도 소개했다.
박외진 아크릴 대표는 “AI 주권은 GPU를 몇 장 확보했느냐보다 인프라와 모델, 운영 전반을 얼마나 효율적으로 통제할 수 있느냐에 달려 있다”며 “세 계층을 연결하는 기술과 실증 데이터를 기반으로 특정 벤더에 종속되지 않는 개방형 소버린 AX 생태계 구축에 기여하겠다”고 말했다.
The post GPU 더 사기 전에 가동률부터…아크릴, 국산 NPU 묶는 ‘소버린 AX’ 공개 appeared first on 벤처스퀘어.