기업이 AI를 실제 서비스에 배포하면 개발 단계의 안전성 평가만으로 모든 위험에 대응하기 어렵다. AI 에이전트가 외부 도구와 기업 시스템을 호출하고 피지컬 AI가 현실 공간에서 행동하기 시작하면 공격 지점과 피해 범위도 달라진다. 모델의 취약점을 미리 찾는 레드티밍과 운영 중 발생하는 위험 행동을 통제하는 기술이 하나의 체계로 연결돼야 하는 이유다. AI 보안 전문기업 에임인텔리전스는 위험 탐색과 실시간 방어, 정책 반영, 재검증을 반복하는 ‘AIM 컨트롤 루프’를 앞세워 엔비디아의 아시아·태평양 AI 스타트업 결승에 진출했다.
에임인텔리전스는 ‘엔비디아 인셉션 그랜드 챌린지 2026’에서 1만개 스타트업 가운데 아시아·태평양 결승 진출 기업 20곳에 선정됐다. 엔비디아 인셉션 그랜드 챌린지는 아시아·태평양 지역의 성장 단계 AI 스타트업을 발굴하고 기업 도입과 사업 확장을 지원하는 프로그램이다. 참가 기업은 실제 산업 현장의 문제를 해결하는 기술과 엔비디아 인프라를 활용한 확장성, 기업 적용 가능성 등을 평가받는다.
에임인텔리전스, ‘엔비디아 인셉션 그랜드 첼린지 2026’ 아시아-태평양 TOP 20 결승 진출 (사진 제공: 에임인텔리전스)
에임인텔리전스는 지난 27일 열린 한국 준결승에서 생성형 AI부터 에이전틱 AI, 피지컬 AI까지 포괄하는 엔드투엔드 보안·통제 체계를 소개했다. 발표의 중심에는 AI 시스템의 취약점을 발견하고 실제 운영 환경의 통제 정책으로 연결하는 ‘AIM 컨트롤 루프’가 놓였다.
컨트롤 루프의 공격 검증 영역은 자동화 레드티밍 플랫폼 ‘스팅어(Stinger)’가 담당한다. 스팅어는 텍스트와 음성, 이미지, 영상 등 다양한 입력 방식에서 발생하는 취약점을 탐색하고 AI 에이전트의 도구 호출과 피지컬 AI의 위험 행동까지 시험한다. 공격자가 사용할 수 있는 지시 우회와 권한 오용, 예상하지 못한 시스템 실행 가능성을 배포 전후에 반복적으로 점검한다.
실제 운영 과정의 방어는 실시간 AI 보안 솔루션 ‘가디언(Guardian)’이 맡는다. 가디언은 AI의 입력과 출력뿐 아니라 외부 도구 호출, 기업 시스템 접근, 명령 실행과 물리적 행동 과정에서 발생하는 위험을 탐지한다. 허용된 권한과 보안 정책을 벗어난 행동이 확인되면 실행을 제한하거나 통제 정책에 따라 대응한다.
스팅어가 발견한 새로운 취약점은 가디언의 통제 정책에 반영된다. 변경된 정책은 다시 공격 테스트를 거쳐 실제로 위험을 차단할 수 있는지 검증한다. 이를 통해 일회성 안전성 점검을 개발과 배포, 운영 전 과정에서 방어 체계를 계속 갱신하는 순환 구조로 전환한다.
화면 속 답변에서 물리적 행동까지…AI 보안 범위 확장
에임 컨트롤 루프는 AI 시스템의 규모와 배포 환경에 따라 확장할 수 있도록 설계됐다. 엔비디아 DGX 스파크를 활용한 소규모 온프레미스 환경부터 엔비디아 GPU 기반의 대규모 기업 인프라까지 동일한 공격·방어 체계를 적용하는 방식이다.
기업은 내부망이나 클라우드 등 AI가 배포된 위치와 관계없이 같은 기준으로 취약점을 검사하고 보안 정책을 운영할 수 있다. 규제 산업이나 민감한 데이터를 다루는 기업에는 외부로 정보를 전송하지 않고 자체 인프라 안에서 AI 위험을 검증하는 환경을 제공한다.
보안 범위도 챗봇과 생성형 AI 모델에서 AI 에이전트와 피지컬 AI로 확대된다. AI 에이전트는 사용자를 대신해 데이터를 조회하거나 업무 시스템을 변경할 수 있고, 피지컬 AI는 로봇과 장비를 통해 현실 세계에서 행동한다. 잘못된 판단이나 권한 탈취가 정보 유출을 넘어 시스템 장애와 물리적 사고로 이어질 수 있어 행동 단계의 통제가 필요하다.
에임인텔리전스는 현재까지 AI 안전성과 보안 분야에서 36편 이상의 논문을 발표하고 160개 이상의 AI 모델을 평가했다. 연구 과정에서 축적한 공격 기법과 안전성 평가 데이터를 자동화 레드티밍과 실시간 통제 제품에 반영하고 있다.
결승과 기업 매칭 프로그램은 오는 9월 22일 진행된다. 최종 톱10에 선정된 기업은 글로벌 혁신 행사에서 기술을 소개하고 엔비디아 및 기업 파트너와 기술검증과 사업 협력을 추진할 기회를 얻는다.
박하언 에임인텔리전스 최고기술책임자는 “AI가 화면 속에서 답변하는 도구를 넘어 기업 시스템과 물리 세계에서 직접 행동하는 주체로 진화하면서 중요한 질문은 ‘AI가 무엇을 할 수 있는가’에서 ‘누가 AI를 통제할 것인가’로 바뀌고 있다”며 “생성형 AI와 에이전틱 AI, 피지컬 AI를 포괄하는 글로벌 AI 보안·통제 기업으로 성장하겠다”고 말했다.
The post AI 취약점 찾고 실시간 통제까지…에임인텔리전스, 엔비디아 APAC 톱20 appeared first on 벤처스퀘어.