금융사의 AI 도입에서 어려운 지점은 모델 성능보다 업무 시스템과 데이터를 안전하게 연결하는 데 있다. 자금 이체처럼 결과가 항상 같아야 하는 업무를 생성형 AI의 추론에 맡기면 오류 위험이 커지고, 계약서 분석처럼 문맥 이해가 필요한 업무를 정해진 규칙만으로 처리하면 자동화 범위가 제한된다. 금융 데이터가 오가는 과정에서는 망분리와 접근 통제, 데이터 유출 방지까지 함께 충족해야 한다. 신한투자증권은 규칙 기반 실행과 대규모언어모델(LLM)의 추론을 분리하는 방식으로 금융 업무용 AI 에이전트 플랫폼을 구축했다.
구글 클라우드는 신한투자증권이 ‘제미나이 엔터프라이즈 에이전트 플랫폼’을 기반으로 사내 데이터 및 주요 업무 시스템과 연동되는 AI 에이전트 플랫폼을 자체 구축했다고 전했다.
지난 7월 27일 서울 여의도 신한투자증권 본사에서 금융 에이전트 생태계 조성과 AI 거버넌스·보안 협력을 논의한 양사 경영진 (자료 제공: 구글 클라우드)
신한투자증권은 2026년 AI와 디지털자산 역량을 강화하기 위해 AX본부를 신설했다. 부서별로 ‘AX 코디네이터’를 선발해 현업 구성원이 업무에 필요한 에이전트를 직접 개발하도록 지원했으며 이 과정에서 500개 이상의 에이전트가 생성됐다.
다음 과제는 개별 에이전트를 일회성 업무 도구에서 사내 시스템과 연결된 운영 환경으로 전환하는 것이었다. 신한투자증권은 이를 위해 금융 업무의 특성을 반영한 ‘하이브리드 오케스트레이터’를 자체 설계해 제미나이 엔터프라이즈 플랫폼에 적용했다.
하이브리드 오케스트레이터는 업무 성격에 따라 처리 방식을 구분한다. 자금 이체처럼 정확하고 일관된 실행이 필요한 업무는 사전에 설정한 규칙에 따라 처리하고, 계약서 분석처럼 문맥을 이해하고 판단해야 하는 단계에서 제미나이 등 LLM을 호출한다. 생성형 AI가 개입하는 범위를 통제하면서 업무의 안정성과 추론 능력을 함께 확보하는 구조다.
업무 처리 결과와 담당자의 피드백은 빅쿼리(BigQuery) 등 데이터베이스에 저장된다. 축적된 내용은 내부 지식 기반에 반영되고 에이전트가 이후 업무를 수행할 때 다시 활용한다. 실제 업무에서 발생한 결과가 데이터로 쌓이고 에이전트의 판단을 개선하는 ‘데이터 플라이휠’을 구현한 셈이다.
금융 보안 규제를 충족하기 위한 절차와 기술도 적용했다. 신한투자증권은 혁신금융서비스 승인과 클라우드서비스제공자(CSP) 안전성 평가, 클라우드 이용 보고, 보안 실사 등을 거쳤다. 내부망과 구글 클라우드는 전용선으로 연결하고 VPC 서비스 제어를 적용해 망분리 환경을 유지했다. LLM 활용 영역을 분리하고 데이터 손실 방지(DLP) 솔루션을 도입해 중요 정보가 허용되지 않은 영역으로 이동하는 것도 차단했다.
50쪽 계약서의 50개 항목, 처리 시간 2시간에서 5분으로
AI 에이전트는 장외파생상품 계약서 처리 업무에 먼저 적용됐다. 기존에는 담당자 3~4명이 이메일에 첨부된 약 50쪽 분량의 비정형 계약서를 검토하고 사내 시스템의 50여 개 항목에 내용을 직접 입력했다. 계약서 한 건을 처리하는 데 약 2시간이 필요했다.
현재는 업무 시스템에서 에이전트를 호출해 이메일을 선택하면 계약서 분석과 정보 추출, 시스템 입력이 자동으로 이뤄진다. 담당자는 에이전트가 처리한 결과를 최종 확인한다. 사람의 검토 단계는 유지하면서 반복적인 문서 판독과 입력 작업을 자동화해 건당 처리 시간을 5분으로 줄였다.
신한투자증권은 일부 임직원을 대상으로 플랫폼을 클로즈드 베타 형태로 운영하고 있다. 장외파생상품 계약서 사례를 기반으로 자동화할 수 있는 업무를 추가로 발굴해 에이전트 기반 업무 자동화율을 70% 이상으로 높인다.
구축 기간도 단축했다. 노현빈 신한투자증권 AX기획부 부서장은 전통적인 개발 방식으로 최소 1년 이상 걸릴 수 있는 플랫폼을 구글 클라우드의 관리형 서비스와 AI 통합 환경을 활용해 3개월 만에 구축했다고 설명했다. 개발 조직은 기반 플랫폼을 별도로 만드는 대신 업무 시스템 연동과 데이터 파이프라인 구축에 역량을 집중했다.
이선훈 신한투자증권 대표는 “진정한 의미의 AX는 AI 도구 도입을 넘어 기업의 체질과 일하는 방식을 근본적으로 바꾸는 작업”이라며 “구글 클라우드를 기반으로 구축한 에이전트 플랫폼을 발판으로 한국형 금융 AX의 새로운 길을 개척하겠다”고 말했다.
루스 선 구글 클라우드 코리아 사장은 “이번 플랫폼 구축은 규제 산업에서 AI 에이전트를 실제 업무 시스템에 안착시키는 방식을 제시한 사례”라며 “AI 에이전트 생태계를 확장하려는 금융기관에도 새로운 방향을 제시할 수 있을 것”이라고 말했다.
금융 AI의 확산을 가르는 기준은 에이전트의 숫자보다 책임과 통제 구조에 있다. 어떤 단계에서 LLM을 호출하고 어떤 업무를 규칙으로 고정하며 결과를 누가 검증하는지가 명확해야 자동화 범위를 확대할 수 있다. 신한투자증권이 계약서 이외의 업무에서도 같은 정확성과 보안 수준을 유지한다면 금융권의 AX 경쟁은 챗봇 도입에서 실제 업무 흐름을 다시 설계하는 단계로 이동할 수 있다.
The post 규칙은 시스템에, 추론은 LLM에…신한투자증권이 설계한 금융 AI 에이전트 appeared first on 벤처스퀘어.