AI가 답변을 생성하는 단계를 넘어 외부 도구를 호출하고 시스템을 실행하며 로봇을 움직이는 단계로 진입하면서 보안이 다뤄야 할 영역도 달라지고 있다. 모델의 답변이 안전한지를 확인하는 것만으로는 실제 실행 과정에서 발생할 수 있는 위험까지 통제하기 어렵기 때문이다. AI가 무엇을 판단했는지뿐 아니라 어떤 도구를 호출하고 어떤 행동으로 연결했는지를 지속적으로 살피는 보안 체계가 필요한 이유다. AI 보안 전문기업 에임인텔리전스가 생성형 AI부터 에이전틱·피지컬 AI까지 연결하는 보안 기술을 앞세워 엔비디아의 아시아태평양 스타트업 경연에서 최종 Top 10에 선정됐다.
에임인텔리전스(대표 유상윤)는 지난 22일 열린 ‘엔비디아 인셉션 그랜드 챌린지 2026’ 아시아태평양에서 최종 Top 10에 선정됐다고 밝혔다. 회사에 따르면 이번 챌린지에는 1만여개 스타트업이 참여했다.
이번 발표에는 박하언 에임인텔리전스 CTO가 나서 생성형 AI를 넘어 에이전틱 AI와 피지컬 AI까지 확장되는 환경에서 필요한 보안 체계를 소개했다.
핵심은 AI의 취약점을 찾는 과정과 실제 운영 환경에서 위험한 행동을 막는 과정을 연결하는 ‘에임 컨트롤 루프(AIM Control Loop)’다. 모델을 배포하기 전에 한 차례 안전성을 점검하는 데 그치지 않고 운영 과정에서 새롭게 발생하는 위험을 탐지하고 다시 방어 체계에 반영하는 순환 구조다.
박하언 에임인텔리전스 CTO가 지난 22일 ‘엔비디아 인셉션 그랜드 챌린지 2026’에서 생성형 AI부터 에이전틱·피지컬 AI까지 연결하는 보안·통제 기술을 발표하고 있다. (사진 제공: 에임인텔리전스)
취약점은 스팅어가 찾고 위험 행동은 스타포트가 통제
에임인텔리전스는 이 구조를 자동화 레드티밍 플랫폼 ‘Stinger(스팅어)’와 실시간 AI 보안 솔루션 ‘Starfort(스타포트)’로 구현하고 있다.
스팅어는 텍스트와 음성, 이미지, 영상 등 생성형 AI 영역을 비롯해 에이전틱 AI와 피지컬 AI 환경에서 발생할 수 있는 취약점과 위험 행동을 탐색한다. 스타포트는 실제 AI 운영 단계에서 입출력뿐 아니라 도구 호출과 시스템 실행, 물리적 행동 과정에서 발생하는 위험을 탐지하고 통제하는 역할을 맡는다.
이를 통해 AI 개발 단계의 취약점 탐색부터 배포 이후 실시간 운영까지 보안 범위를 연결한다는 것이 회사 측 설명이다. 특히 AI가 스스로 판단해 외부 시스템이나 현실 세계에 영향을 주는 에이전틱·피지컬 AI에서는 모델 자체의 안전성뿐 아니라 실행 과정까지 추적하고 통제해야 한다는 데 초점을 맞췄다.
에임인텔리전스에 따르면 회사는 현재까지 AI 안전성과 보안 분야에서 36편 이상의 논문을 발표하고 160개 이상의 AI 모델을 평가했다. 이러한 연구 결과를 자동화 레드티밍과 실시간 통제 기술로 제품화하고 있다.
이번 대회에서는 Top 10 선정과 함께 글로벌 AI 클라우드 기업 네비우스(Nebius)의 특별상과 현장 청중투표상도 받았다. 이를 통해 싱가포르에서 열리는 글로벌 스타트업 피칭대회 ‘슬링샷(Slingshot)’ 결승에 자동 진출하게 됐다.
박하언 에임인텔리전스 CTO는 “AI가 단순 텍스트 중심의 기존 질서에서 벗어나 기업 시스템과 물리 세계에 직접 영향을 주는 주체로 진화하고 있다”며 “이번 챌린지를 계기로 에이전틱 AI와 피지컬 AI까지 포괄하는 글로벌 AI 보안·통제 기업으로 성장하겠다”고 말했다.
The post 에임인텔리전스, AI가 행동하기 전부터 실행 이후까지 지킨다…엔비디아 챌린지 Top 10 appeared first on 벤처스퀘어.