AI 에이전트가 정보를 찾고 답변하는 단계를 넘어 결제와 거래, 다른 에이전트와의 협상까지 수행하면서 새로운 문제가 생기고 있다. 에이전트가 어떤 권한을 받아 어떤 판단을 내렸고 실제로 무엇을 실행했는지 사후에 입증해야 하는 상황이다. 특히 서로 다른 기업의 에이전트가 거래할 경우 각 회사가 보유한 로그만으로는 상대방이나 감사인이 동일한 기준에서 행동 과정을 확인하기 어렵다. 미스틴랩스와 구글 클라우드는 민감한 활동 기록은 기업 내부에 남겨두면서 해당 기록이 사후에 변경되지 않았음을 별도로 증명하는 방식으로 이 문제를 풀고 있다.
미스틴랩스(Mysten Labs)는 구글 클라우드(Google Cloud)와 AI 에이전트 활동 검증 기술 ‘Verifiable Agent Arbiter(VAA)’를 공동 개발하고 있다.
미스틴랩스, 구글 클라우드와 AI 에이전트 활동 검증 기술 ‘VAA’ 공동 개발 (자료 제공: 미스틴랩스)
VAA는 AI 에이전트의 행동을 사후 검증할 수 있도록 증빙 레이어(evidence layer)를 구성하는 기술이다. 기업이 자사 AI 에이전트에 부여한 권한과 실제 수행한 행동을 연결해 확인하고, 거래 상대방이나 감사인 등 외부 주체가 활동 기록을 생성한 플랫폼 자체에만 의존하지 않고 기록의 무결성을 검증할 수 있도록 설계됐다.
핵심은 에이전트의 상세 활동 기록과 해당 기록이 변경되지 않았음을 입증하는 정보를 분리해 관리하는 구조다. 프롬프트와 모델 출력, 도구 호출, 정책 판단 등 실행 데이터는 고객이 관리하는 구글 클라우드 스토리지에 비공개로 보관한다.
반면 해당 기록의 무결성을 확인하기 위한 암호학적 증명은 데이터 플랫폼 ‘월러스(Walrus)’에 저장하고 레이어1 블록체인 ‘수이(Sui)’와 연계해 관리하는 방식이다. 외부에 에이전트의 민감한 실행 데이터를 그대로 공개하지 않으면서 필요한 경우 기록의 무결성을 확인할 수 있도록 한 것이다.
기업끼리 AI 에이전트로 거래해도 ‘같은 기록’으로 분쟁 확인
VAA가 겨냥하는 활용처 가운데 하나는 기업 간 AI 에이전트 거래다. 두 기업의 에이전트가 개방형 Agent2Agent(A2A) 프로토콜을 통해 업무를 처리하다 문제가 발생하면 양측이 동일한 검증 가능한 증빙 기록을 토대로 거래 과정을 재구성하도록 지원한다.
이를 통해 에이전트끼리 합의한 내용과 실제 제공된 결과, 문제가 발생한 지점을 확인할 수 있다. 미스틴랩스는 서로 다른 로그를 대조하는 데 며칠이 걸릴 수 있는 작업을 수분 단위로 단축하는 것을 목표로 하고 있다.
보안 사고 분석에도 활용한다. 에이전트가 통제 범위를 벗어났거나 비정상적인 실행을 한 것으로 의심될 경우 당시 지시와 정책, 판단, 모델 출력, 도구 실행 내역을 다시 구성할 수 있다. 이를 바탕으로 프롬프트 인젝션 공격이나 정책 우회, 모델 오류, 사고 이후 로그 변경 여부 등을 구분하도록 지원한다.
장기간 보관한 기록은 원본과의 연결 관계를 유지하면서 향후 암호 표준 변화에 대응할 수 있도록 설계했다. 양자내성암호를 포함한 새로운 암호 표준에 맞춰 기록의 유효성을 다시 입증하는 방식도 지원한다.
VAA는 AI 에이전트의 결제 과정에도 연결된다. ‘수이 에이전트 페이먼츠(Sui Agent Payments)’의 결제 처리 서비스와 연동해 에이전트가 서비스를 탐색하고 x402 프로토콜을 이용해 API 호출 비용을 정산하는 과정에서 권한 승인과 지출 결정, 서비스 제공 내역을 암호학적으로 기록한다.
에반 챙(Evan Cheng) 미스틴랩스 공동창립자 겸 CEO는 “AI 에이전트가 재무적·법적 영향을 미치는 의사결정을 내리기 시작한 만큼 부여된 권한을 넘어서지 않도록 하는 시스템이 필요하다”며 “이를 위해서는 어느 거래 상대방이든 직접 검증할 수 있는 증빙이 있어야 한다”고 말했다.
이어 “VAA는 에이전트에게 허용된 권한과 실제 행동, 그 결과에 관한 기록을 모으고 이를 입증하는 증명 정보를 수이와 월러스에 연결한다”며 “구글 클라우드와 함께 이러한 기술을 기업의 업무 과정에 적용하고 있다”고 덧붙였다.
VAA는 기업 고객을 대상으로 우선 도입한 뒤 적용 범위를 확대한다.
The post 미스틴랩스·구글 클라우드, AI 에이전트가 ‘무슨 권한으로 무엇을 했는지’ 검증한다…VAA 공동 개발 appeared first on 벤처스퀘어.