로봇이 카메라로 주변을 보고 사람의 명령을 이해해 움직이려면 AI가 다음 행동을 빠르게 결정해야 한다. 모델의 정확도가 높아도 판단에 수초가 걸리거나 메모리를 지나치게 많이 사용하면 실제 로봇의 움직임은 느려질 수밖에 없다. 같은 AI 모델이라도 어떤 NPU나 GPU에서 구동하느냐에 따라 성능이 달라지는 만큼 모델과 하드웨어를 함께 최적화하는 기술도 피지컬 AI의 주요 과제로 떠오르고 있다. 노타가 퀄컴과 엔비디아의 서로 다른 엣지 AI 하드웨어에서 로봇용 AI 모델 7종을 최적화해 추론 속도를 최대 7배, 실제 로봇팔 작업 속도를 3배 높인 결과를 공개했다.
AI 모델 경량화·최적화 기업 노타(대표 채명수)는 서울 코엑스에서 열린 ‘휴머노이드 서밋 서울 2026’에서 자사 AI 최적화 플랫폼 ‘넷츠프레소(NetsPresso)’를 활용한 로봇 AI 모델 최적화 결과를 발표했다.
김건민 노타 AI 연구원이 ‘휴머노이드 서밋 서울 2026’에서 NPU와 GPU 환경에 따른 로봇 AI 모델 최적화 결과를 발표하고 있다. (사진 제공: 노타)
이번 검증에는 퀄컴 드래곤윙 IQ-9075와 엔비디아의 GPU 기반 엣지 AI 플랫폼 젯슨 토르(Jetson Thor)를 사용했다. 대상 모델은 엔비디아 GR00T N1.7과 Cosmos3-Edge, 피지컬 인텔리전스 π0.5, 허깅페이스 SmolVLA를 비롯해 MolmoAct2, X-VLA, VLA-JEPA 등 총 7종이다.
노타는 서로 다른 모델과 하드웨어 조합을 최적화하면서 작업 성공률 하락을 최대 1%포인트 이내로 유지하고 추론 속도를 최대 7배 높였다고 설명했다.
대표적으로 GR00T N1.7의 추론 시간은 1602밀리초(ms)에서 228ms로 줄었다. 약 7배 빠른 수준이다. AI가 다음 행동을 결정하는 시간이 짧아지면서 실제 로봇팔의 작업 속도도 3배 향상됐다.
로봇의 작업 수행 능력을 평가하는 시뮬레이션 벤치마크 ‘LIBERO’에서는 원본 모델의 작업 성공률이 93%, 최적화 이후에는 92%를 기록했다. 작업 성공률 차이를 1%포인트로 유지하면서 추론 시간을 줄였다는 게 회사 측 설명이다.
로봇의 ‘두뇌’만 좋아선 부족…하드웨어에 맞춰 연산 방식까지 바꾼다
엔비디아 젯슨 토르에서 진행한 Cosmos3-Edge 테스트에서도 속도 개선을 확인했다. 추론 시간은 1711ms에서 739ms로 단축돼 약 2.3배 빨라졌다. RoboLab 시뮬레이션 벤치마크에서는 원본 모델의 작업 성공률을 유지했다고 노타는 설명했다.
이번 최적화 대상에 포함된 비전언어행동모델(VLA)은 카메라 등으로 들어온 시각 정보를 인식하고 언어 명령을 이해한 뒤 로봇이 취할 행동을 결정하는 AI 모델이다. 실제 로봇에 탑재하려면 작업 수행 능력과 함께 판단 속도와 메모리 사용량, 탑재할 하드웨어의 연산 환경 등을 함께 고려해야 한다.
모델마다 구조와 연산 방식이 다르고 NPU와 GPU 등 하드웨어 역시 처리 방식과 실행 조건에 차이가 있어 동일한 최적화 방식을 일괄 적용하기 어렵다.
노타의 넷츠프레소는 AI 모델의 연산량과 메모리 부담을 줄이는 동시에 목표 하드웨어의 연산 특성까지 반영해 실제 기기에서의 구동 성능을 높이는 방식으로 작동한다. 개발자는 로봇의 용도와 필요한 성능을 기준으로 AI 모델을 선택하고 실제 탑재할 하드웨어에 맞춰 최적화할 수 있다.
김건민 노타 AI 연구원은 행사에서 ‘넷츠프레소를 활용한 다양한 하드웨어 환경에서의 로봇 파운데이션 모델 구동 최적화’를 주제로 이 같은 검증 결과와 실제 로봇 적용 방안을 소개했다.
노타는 모바일과 엣지 기기, 데이터센터에서 축적한 AI 모델 최적화 기술을 로봇과 휴머노이드 등 피지컬 AI 영역에 적용하고 있다. 향후 다양한 로봇 AI 모델과 하드웨어 조합에 대한 최적화 기술을 고도화해 실제 기기 적용을 지원할 예정이다.
The post 노타, 로봇 AI 판단 7배 빨라졌다…NPU·GPU 맞춤 최적화로 작업속도 3배 appeared first on 벤처스퀘어.