AI 반도체 경쟁이 ‘모델 학습’에서 ‘추론(inference)’ 중심으로 빠르게 이동하고 있다. 생성형 AI 서비스가 폭발적으로 늘어나면서 이제 시장의 핵심은 “얼마나 거대한 모델을 만들 수 있느냐”보다 “얼마나 많은 토큰을 빠르고 효율적으로 처리하느냐”로 바뀌는 분위기다. 이 과정에서 AI 반도체 시장도 새로운 국면에 들어가고 있다. 엔비디아 중심 구조에 대응하려는 글로벌 빅테크와 AI 반도체 기업들이 네트워킹·메모리·패키징 기술까지 결합한 차세대 AI 인프라 경쟁에 뛰어드는 모습이다.
국내 AI 반도체 기업 퓨리오사AI도 브로드컴과 손잡고 차세대 AI 추론 플랫폼 개발에 나선다. 퓨리오사AI는 글로벌 반도체 기업 브로드컴(Broadcom)과 전략적 파트너십을 체결하고 차세대 AI 가속기를 공동 개발한다고 28일 밝혔다.
이번 협력의 핵심은 퓨리오사AI의 독자 아키텍처인 TCP(Tensor Contraction Processor)를 멀티다이 기반 칩렛 구조로 고도화하는 데 있다. 브로드컴은 AI 네트워킹과 첨단 패키징 기술을 결합해 대규모 AI 추론 클러스터 환경 구축을 지원한다. 양사는 단순 칩 개발을 넘어 AI 컴퓨팅과 네트워킹, 소프트웨어를 함께 묶는 통합형 AI 인프라 플랫폼 구축까지 추진한다.
퓨리오사AI 로고 (사진 제공: 퓨리오사AI)
“AI는 이제 추론 전쟁”…반도체 경쟁 축 이동
최근 글로벌 AI 산업에서는 추론 인프라 중요성이 급격히 커지고 있다. 초기 생성형 AI 시장은 모델 학습(training)에 집중됐지만, AI 서비스 사용량이 폭증하면서 실제 서비스 단계에서 토큰을 처리하는 추론 비용과 전력 효율 문제가 핵심 과제로 떠오르고 있기 때문이다.
특히 에이전틱 AI 시대가 열리면서 AI는 단순 질문 응답을 넘어 복수 작업을 동시에 처리하고 지속적으로 추론해야 하는 구조로 이동하고 있다. 이 때문에 AI 데이터센터 역시 GPU 성능뿐 아니라 네트워크 병목과 메모리 대역폭, 전력 효율까지 함께 최적화해야 하는 상황이다.
브로드컴이 최근 AI 네트워킹과 이더넷 스위치 시장에서 존재감을 빠르게 키우는 이유도 여기에 있다. 이번 프로젝트에서 개발되는 퓨리오사AI의 3세대 가속기는 2나노 공정 기반 컴퓨트 다이와 HBM4·HBM4E 메모리를 적용한다. 브로드컴 첨단 패키징 기술을 활용해 여러 개의 실리콘 다이를 하나의 고성능 칩으로 묶는 방식이다.
브로드컴의 고속 이더넷 스위치 기술도 함께 적용해 대규모 AI 클러스터 환경에서 데이터 처리 효율을 높인다는 계획이다. 양사는 2028년 상반기 차세대 AI 가속기 샘플링을 시작할 예정이다.
“토큰 팩토리 시대”…국내 AI 반도체 존재감 커진다
퓨리오사AI는 최근 AI 추론 시장에서 빠르게 존재감을 키우고 있다. 2세대 AI 가속기 ‘RNGD(레니게이드)’는 TSMC 5나노 공정과 SK하이닉스 HBM3 기반으로 양산 중이며, 삼성SDS와 LG AI연구원 등에서 실제 검증을 진행했다. 특히 최근 AI 반도체 업계에서는 “전력당 성능(performance-per-watt)” 경쟁이 중요해지고 있다. AI 모델 규모가 커질수록 데이터센터 전력 소비 부담도 폭증하기 때문이다.
퓨리오사AI는 올해 초 기존 글로벌 빅테크 대비 적은 GPU 자원만으로 유사 성능을 구현하는 경량화 월드모델 기술을 공개하기도 했다. 업계에서는 앞으로 AI 반도체 경쟁이 단순 칩 성능을 넘어 “얼마나 효율적으로 AI 서비스를 운영할 수 있는가” 중심으로 이동할 가능성이 크다고 보고 있다.
브로드컴 반도체 솔루션 그룹 찰리 카와스 사장은 “AI 추론 성능은 이제 단순 연산 능력만으로 결정되지 않는다”며 “데이터 재사용과 통신 효율이 핵심 경쟁력이 되고 있다”고 했다.
백준호 퓨리오사AI 대표 역시 “초거대 AI와 에이전틱 AI 시대에 대응할 수 있는 하이퍼스케일 추론 플랫폼 구축이 목표”라며 “차세대 제품에서 업계 최고 수준의 전력 효율을 구현해 나갈 계획”이라고 말했다.
The post “엔비디아만 있는 게 아니다”…퓨리오사AI, 브로드컴 손잡고 차세대 AI 추론칩 개발 appeared first on 벤처스퀘어.