AI가 공공 행정에 빠르게 도입되는 가운데, 인공지능의 판단 과정을 기록하고 사후 검증까지 가능하게 하는 ‘AI 신뢰 인프라’가 공개됐다. AI 활용 확대만큼 결과에 대한 설명 가능성과 책임성이 중요해지는 상황에서 공공 AI의 새로운 운영 기준을 제시했다는 평가다.
디어라운드는 행정안전부가 주최한 ‘2026 공공 AI 박람회(KPAIX 2026)’에 참가해 AI 의사결정 신뢰 인프라인 DPU(Decision Proof Unit)를 선보였다.
디어라운드, ‘2026 공공 AI 박람회’ 참가 (자료 제공: 디어라운드)
AI가 결정해도 사람은 책임진다…공공 AI 신뢰 인프라 제시
이번 박람회에서 디어라운드는 ‘AI가 한 일, 나중에 설명할 수 있습니까?’를 주제로 AI 의사결정의 투명성과 책임성을 높이는 DPU를 공개했다.
DPU는 AI가 내린 판단을 누가, 언제, 어떤 근거로 결정했는지를 변조할 수 없는 형태로 기록하고 사후 감사와 증명이 가능하도록 지원하는 인프라다. 행정과 복지, 심사처럼 결정의 정당성과 추적 가능성이 중요한 공공 분야에서 AI 활용에 따른 책임성을 확보하는 것이 핵심이다. 이는 정부가 이번 박람회에서 제시한 ‘AI 민주정부-국민과 함께 만드는 친절하고 유능한 정부’ 방향과도 맞닿아 있다. AI가 공공 의사결정 전반으로 확대될수록 판단 과정의 투명성과 설명 가능성을 확보하는 기반 기술의 중요성이 커지고 있기 때문이다.
또한 시행을 앞둔 AI 기본법의 신뢰성 확보 요건에도 부합하는 기술이라는 설명이다.
디어라운드는 기술 소개에 그치지 않고 실제 공공 현장에도 DPU를 적용하고 있다. 공공기관 및 여성기업 수의계약을 통해 지역 상권 활성화 쿠폰사업과 간판 개선사업 등을 DPU 기반으로 운영하며 AI 의사결정의 근거를 기록하고 증명하는 체계를 구축하고 있다.
조현주 디어라운드 대표는 “AI가 한 일을 나중에 사람이 설명하고 증명할 수 있어야 비로소 신뢰가 생긴다”며 “공공 영역에서 AI를 사람이 통제하고 그 근거를 남길 수 있는 신뢰 인프라를 지속적으로 만들어가겠다”고 말했다.
디어라운드는 AI 의사결정의 근거를 기록하고 증명하는 DPU를 기반으로 공공과 지역사회 분야의 디지털 전환(AX)을 지원하는 스타트업이다. 현재 공공사업을 중심으로 AI 신뢰 기술을 적용하고 있으며 벤처기업과 소셜벤처, 여성기업 인증을 보유하고 조달청 나라장터에도 등록돼 있다.
The post “AI가 내린 결정, 설명할 수 있습니까?”…디어라운드, 공공 AI 신뢰 인프라 공개 appeared first on 벤처스퀘어.