생성형 AI가 산업 전반으로 확산되면서 데이터 보안과 개인정보 보호를 동시에 해결하는 기술도 주목받고 있다. 특히 민감한 데이터를 복호화하지 않은 상태에서 AI를 구동하는 ‘프라이빗 AI’가 차세대 AI 인프라로 떠오르면서 완전동형암호(FHE) 기술 경쟁도 본격화되는 분위기다.
프라이빗 AI 딥테크 기업 디사일로는 자사의 완전동형암호(FHE) 기반 거대언어모델(LLM) 추론 프레임워크 ‘THOR’가 국제 표준화 단체 HomomorphicEncryption.org가 운영하는 ‘FHE 벤치마킹 스위트(FHE Benchmarking Suite)’에 공식 등재됐다. THOR는 언어모델 암호화 추론 분야의 첫 레퍼런스 구현(reference implementation)으로 채택됐다.
디사일로 ‘THOR’, 국제 FHE 벤치마크 최초 레퍼런스 구현으로 채택 (사진 제공: 디사일로)
암호화된 AI 추론 성능 검증 기준 제시
완전동형암호(FHE)는 데이터를 복호화하지 않고 암호화된 상태 그대로 연산을 수행할 수 있는 기술이다. AI가 민감한 데이터를 직접 열어보지 않고도 추론을 수행할 수 있어 의료와 금융, 공공 분야에서 핵심 보안 기술로 주목받고 있다.
다만 지금까지는 연구마다 서로 다른 하드웨어와 실험 조건을 적용해 성능을 발표하면서 기술 수준을 객관적으로 비교하기 어려웠다. FHE 벤치마킹 스위트는 재현 가능한 실험 환경과 공통 성능 평가 기준을 제공해 이러한 한계를 해결하기 위해 마련됐다.
디사일로의 THOR는 암호화된 상태에서 LLM 추론 전 과정을 수행하는 프레임워크다. 기존 오픈소스 AI 모델을 별도의 재학습 없이 입력부터 연산, 결과 출력까지 모두 암호화된 상태에서 처리하는 것이 특징이다. 회사는 이를 실용적인 수준에서 구현한 첫 사례라고 설명했다.
THOR는 대표적인 언어모델인 BERT를 GPU 한 대에서 암호화된 상태로 구동해 일반 모델과 약 1%포인트 수준의 정확도 차이를 유지하면서 추론을 수행했다. 추론 시간은 연구 발표 당시 약 10분에서 지속적인 최적화를 거쳐 약 2분으로 단축했으며, 핵심 연산인 행렬 곱셈 성능도 기존 최고 수준 대비 최대 9.7배 향상했다.
이번에 공개된 구현 방식과 성능 측정 기준은 누구나 동일한 조건에서 재현할 수 있도록 제공된다. 앞으로 암호화된 언어모델 추론 기술을 비교·검증하는 기준선으로 활용될 전망이다.
디사일로는 한양대학교 김미란 교수 연구팀과 공동으로 THOR를 개발했으며, 연구 성과는 정보보안 분야 국제 학회인 ACM CCS 2025에서도 발표됐다. 회사는 미국 국립표준기술연구소(NIST)와 국제표준화기구(ISO)의 완전동형암호 표준화 논의에도 참여하며 프라이빗 AI 기술 고도화를 추진하고 있다.
생성형 AI의 활용 범위가 확대될수록 데이터 보호와 AI 활용을 동시에 만족시키는 기술의 중요성도 커지고 있다. 국제 벤치마크를 통한 성능 검증 체계가 마련되면서 완전동형암호 기반 프라이빗 AI 기술의 상용화도 한층 속도를 낼 것으로 기대된다.
The post 암호화한 채 AI 돌린다…디사일로, 국제 FHE 벤치마크 기준 세웠다 appeared first on 벤처스퀘어.