금융권의 생성형 AI 도입은 업무 효율과 정보보호를 동시에 다뤄야 하는 과제로 이어진다. 직원이 AI에 입력하는 질문이나 첨부파일에는 개인정보와 신용정보, 내부 문서가 포함될 수 있기 때문이다. 서비스를 전면 차단하면 업무 활용성이 떨어지고, 별도 통제 없이 허용하면 민감정보가 외부로 전달될 위험이 커진다. AI 보안 기업 야타브는 제1금융권 금융기관과 업무상 AI 사용은 유지하면서 정보유출을 관리하는 보안 체계 구축에 착수했다.
이번 협력은 금융기관의 생성형 AI 서비스를 일괄 차단하는 대신 업무에 필요한 이용 범위와 기능을 구분해 통제하는 데 초점을 맞췄다. 개인정보와 신용정보, 기업 기밀이 외부 AI 서비스로 전송될 가능성을 사전에 확인하고 정책에 따라 제한하는 방식이다.
보안 체계에는 야타브의 AI 정보유출 방지 기능인 ‘AI-DLP’가 적용된다. AI-DLP는 임직원이 생성형 AI에 입력하는 질문과 AI가 내놓은 답변을 실시간으로 분석한다.
탐지 대상에는 계좌번호와 신용카드번호, 전화번호 등 개인정보·신용정보가 포함된다. 계약서와 내부 재무정보, 소스코드, API 키처럼 업무 과정에서 다루는 중요정보도 식별해 통제한다.
야타브의 AI-DLP 기반 생성형 AI 정보유출 방지 체계 이미지 (자료 제공: 야타브)
문서·이미지 속 민감정보 확인…사용 권한도 세분화
PDF와 워드, 엑셀 문서 및 이미지 파일에 대한 보안 점검 기능도 제공한다. 파일에 포함된 문자를 판독해 민감정보 여부를 확인하고, 외부 생성형 AI 서비스에 파일을 올리는 과정에서 보안 정책 위반 가능성을 식별한다.
금융기관은 업무 특성과 사용자 권한에 따라 AI 서비스의 이용 범위를 다르게 설정할 수 있다. 같은 생성형 AI를 사용하더라도 파일 업로드와 다운로드, 이미지 생성, 코드 실행 등 각각의 기능을 허용하거나 제한할 수 있다. 부서와 사용자, 조직 단위로 서로 다른 통제 정책을 적용하는 것도 가능하다.
AI 이용 현황과 정책 위반 내역은 통합 관리된다. 보안 담당자는 서비스별·부서별·사용자별 이용 패턴을 확인할 수 있으며, 위반이 발생하면 실시간 알림을 받는다. 이용자가 입력한 내용과 AI 생성 결과, 업로드 파일 정보도 기록해 사후 점검과 보안 감사 자료로 활용할 수 있다.
야타브는 향후 금융권과 엔터프라이즈의 생성형 AI 이용 확대에 맞춰 입력·출력 데이터와 첨부파일, AI 기능, 사용자 권한을 함께 관리하는 정보유출 방지 체계를 고도화할 계획이다.
이성찬 야타브 대표는 “AI-DLP를 통해 금융 업무의 생산성을 높이는 동시에 개인정보와 기업 중요정보를 보호할 수 있는 실효성 있는 AI 보안 환경을 제공하겠다”고 말했다.
The post 생성형 AI는 쓰되 민감정보는 막는다…야타브, 제1금융권에 ‘AI-DLP’ 구축 appeared first on 벤처스퀘어.