생성형 AI와 AI 에이전트 도입이 기업 전반으로 확산되면서 새로운 보안 과제가 떠오르고 있다. 기존 보안 체계가 서버와 네트워크, 애플리케이션 보호에 초점을 맞췄다면 이제는 AI 모델과 데이터, AI 에이전트 자체를 보호해야 하는 시대가 된 것이다.
네트워크 보안 전문기업 A10 네트웍스(A10 Networks)가 AI 보안 스타트업 트로이AI(TrojAI)를 인수했다. A10 네트웍스는 19일 AI 애플리케이션과 에이전트형 워크플로우 보안 기술을 보유한 트로이AI를 인수했다고 밝혔다. 이번 인수는 A10이 추진하고 있는 ‘주권형 AI 보안(Sovereign AI Security)’ 전략을 강화하기 위한 행보다.
A10 본사 사옥 (사진 제공: A10)
AI 시대, 새로운 공격 표면 등장
AI 도입이 확대되면서 기업들이 관리해야 할 공격 표면(Attack Surface)도 빠르게 늘고 있다. 특히 생성형 AI와 AI 에이전트는 기존 소프트웨어와 달리 비결정적(Non-deterministic)으로 동작하기 때문에 전통적인 보안 솔루션만으로는 보호에 한계가 있다는 지적이 나온다.
프롬프트 인젝션(Prompt Injection), 데이터 유출, 권한 오남용, 모델 조작 등 AI 특화 공격 기법이 등장하면서 AI 자체를 보호하는 보안 체계가 필요해지고 있다.
트로이AI는 이러한 문제를 해결하기 위해 배포 전 검증과 운영 중 보호를 결합한 AI 보안 플랫폼을 제공한다.
AI 모델을 실제 해커처럼 공격해 취약점을 찾아내는 ‘레드 팀잉(Red Teaming)’ 기능과 서비스 운영 중 발생하는 보안 위협을 탐지·차단하는 ‘실시간 위협 방어(Runtime Protection)’ 기능이 핵심이다.
A10은 트로이AI의 기술을 자사 보안 포트폴리오에 통합해 AI 방화벽과 AI 보안 플랫폼을 결합한 형태로 발전시킬 계획이다. 이를 통해 고객은 온프레미스와 클라우드, 하이브리드 환경 어디에서든 AI 모델과 데이터, AI 에이전트에 대한 통제권을 유지하면서 보안 정책을 직접 관리할 수 있게 된다.
A10 네트웍스 드루파드 트리베디(Dhrupad Trivedi) CEO는 “AI는 기업이 구축하는 서비스뿐 아니라 방어해야 할 공격 표면까지 변화시키고 있다”며 “트로이AI의 소프트웨어 기반 보안 기술과 A10의 AI 방화벽을 결합해 고객들이 더욱 안전하게 AI를 도입할 수 있도록 지원할 것”이라고 말했다. 이어 “특히 데이터 주권(Data Sovereignty) 요구가 높은 기업과 공공기관은 민감한 데이터를 직접 통제하는 환경을 유지하면서도 AI 혁신을 추진할 수 있게 될 것”이라고 덧붙였다.
트로이AI의 리 와이너(Lee Weiner) CEO 역시 “기업과 공공기관이 전례 없는 속도로 AI를 도입하고 있는 만큼 AI 보안 인프라에 대한 통제권을 유지하는 것이 중요해지고 있다”며 “A10과 함께 AI 모델과 애플리케이션, 에이전트를 안전하게 보호할 수 있는 기반을 제공하겠다”고 밝혔다.
업계에서는 향후 2~5년간 AI 인프라 구축과 AI 애플리케이션 도입이 본격화되면서 AI 보안 시장 역시 빠르게 성장할 것으로 전망하고 있다.
The post “AI 모델도 지키는 보안 시대 연다”…A10, 트로이AI 인수 appeared first on 벤처스퀘어.