기업의 생성형 인공지능(AI) 도입이 확대되면서 AI 모델의 안전성을 검증하고 시스템 접근 권한을 관리하는 기술의 중요성이 커지고 있다. 특히 AI 에이전트가 기업 내부 데이터와 업무 시스템을 이용하는 환경에서는 민감정보 노출 가능성을 점검하고 실행 행위를 통제할 필요가 있다. API 거버넌스 전문기업 소프트프릭이 이러한 보안 수요에 대응하는 기술을 특허로 확보했다.
소프트프릭(대표 김동철)은 멀티모달 AI 모델의 프라이버시 취약점을 진단하는 기술과 AI 게이트웨이의 보안 제어 기술에 관한 특허 2건을 등록했다.
등록된 특허는 ‘인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법’과 ‘AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법’이다.
소프트프릭이 AI 모델의 프라이버시 취약점 진단과 AI 게이트웨이 보안 제어 기술에 관한 특허 2건을 등록했다. (자료 제공: 소프트프릭)
첫 번째 특허는 텍스트와 이미지 등 다양한 입력 형태를 활용한 공격 시나리오로 AI 모델의 민감정보 노출 가능성을 점검하는 기술이다. 텍스트 기반 진단만으로 확인하기 어려운 멀티모달 AI의 취약점을 사전에 파악하는 데 목적이 있다.
해당 기술은 소프트프릭이 지난해 출원한 AI 프라이버시 취약점 진단 관련 특허 5건 가운데 하나로, AI 모델 자체의 안전성을 검증하는 ‘AI 보안 테스팅(AI Security Testing)’ 분야에 활용된다.
두 번째 특허는 AI 게이트웨이를 통해 프롬프트와 시스템 이용 행위를 보안정책에 따라 통제하는 기술이다. AI 에이전트가 기업의 API와 데이터, 외부 도구를 이용할 때 접근 권한과 실행 행위를 관리하고 추적할 수 있도록 설계됐다.
소프트프릭은 API 관리·보안 분야에서 확보한 인증·인가와 접근제어 기술을 기반으로 기존 API 게이트웨이의 기능을 LLM 게이트웨이와 AI 게이트웨이로 확장하고 있다.
파바타·AI 게이트웨이에 특허 기술 적용…보안 자동화 연구도 병행
소프트프릭은 이번에 등록한 특허 기술을 기존 취약점 진단 솔루션 ‘파바타(F-Avata)’와 개발 중인 LLM·AI 게이트웨이에 단계적으로 적용할 계획이다.
멀티모달 AI의 프라이버시 취약점 진단 기술은 파바타의 AI 보안 진단 기능으로 개발하고 있다. AI 게이트웨이 보안 제어 기술은 프롬프트·응답과 AI 에이전트의 시스템 접근 및 실행 행위를 관리하는 기능으로 구현 중이다.
현재 제품화를 위한 기술 검증을 병행하고 있으며, 검증이 완료된 기능부터 기존 솔루션과 연계할 방침이다.
AI를 활용한 보안 자동화 기술도 연구하고 있다. LLM이 보안 가이드라인을 분석해 취약점 점검 규칙과 진단 스크립트를 자동 생성하는 기술을 특허 출원했으며, 파바타와의 연계를 추진한다.
이와 함께 위험도에 따라 보호 정책을 조정하는 기술과 생성형 AI 모델의 재학습·증류·미세 조정을 추적하는 워터마킹 기술 등 모델 보호 관련 특허 출원도 이어가고 있다.
김동철 소프트프릭 대표는 “공격자가 AI로 취약점을 찾고 공격을 자동화하면서 사람 중심의 대응만으로는 공격의 속도와 규모를 따라가기 어려워지고 있다”며 “방어에도 AI를 적극 활용하는 동시에 기업이 사용하는 AI의 안전성을 검증하고 접근과 행위를 통제해야 한다”고 말했다.
소프트프릭은 API 게이트웨이와 취약점 진단, 계정관리 및 접근제어 솔루션에 AI 보안 기술을 결합해 AI 모델 검증부터 에이전트 접근·행위 통제, 보안 업무 자동화까지 지원하는 ‘AI 보안 및 API 거버넌스’ 체계를 구축할 계획이다.
The post 소프트프릭, AI 민감정보 노출 진단·에이전트 접근 통제 기술 특허 2건 등록 appeared first on 벤처스퀘어.