AI가 실제 서비스에 적용되면서 모델의 성능만큼 운영 과정의 신뢰성을 확보하는 역량이 중요해지고 있다. 발생 가능한 위험과 영향을 분석하고 AI가 스스로 판단할 범위와 사람이 개입할 조건을 설계해야 하기 때문이다. 개발 과정에서 예상과 실제의 차이를 발견하고 근거에 따라 설계를 수정하는 능력도 요구된다. 전국 대학생과 대학원생 149명이 실제 AI 개발 프로젝트를 통해 이 과정을 경험하는 ‘제2회 트라이톤’에 돌입했다.
신뢰할 수 있는 AI 국제연대 한국 네트워크인 TRAIN코리아와 AI 신뢰성 기술기업 씽크포비엘은 지난 12일 서울 가톨릭대학교 성의교정 옴니버스파크에서 ‘제2회 트라이톤’ 참가자 오리엔테이션을 개최했다.
‘플레이 트라이톤 페스티벌 2026’이라는 이름으로 열리는 이번 대회는 오리엔테이션을 시작으로 예선과 본선을 거쳐 오는 12월 결선 및 시상식으로 마무리된다. 전국 36개 대학에서 대학생과 대학원생 149명, 37개 팀이 참가한다.
참가자는 컴퓨터와 소프트웨어, AI 전공뿐 아니라 역사와 경영, 수학, 어문 분야 전공자로도 구성됐다. 직전 대회 참가자 가운데 다시 도전한 인원도 포함됐다. 오리엔테이션에는 참가자 100여 명이 참석해 대회 목표와 제출물, 평가 방식, 팀별 역할 분담, 교육 및 개발도구 활용 방법을 확인했다.
전국 36개 대학에서 모인 ‘제2회 트라이톤’ 참가자들이 지난 12일 서울 가톨릭대학교 성의교정 옴니버스파크에서 열린 오리엔테이션을 마친 뒤 기념촬영을 하고 있다. (사진 제공: 씽크포비엘)
모델 점수 대신 개발 과정 평가…AI 에이전트 신뢰성도 포함
참가팀은 대회 기간 AI 허브의 데이터와 SK텔레콤의 AI 모델 ‘A.X’를 활용해 클릭베이트 탐지 AI 모델을 개발한다. 모델의 탐지 성능 자체는 평가 대상에서 제외된다. 실제 AI 서비스를 개발하는 과정에서 신뢰성 확보 활동을 계획하고 실행하는 경험에 무게를 두기 위해서다.
예선에서는 팀별 주제와 서비스 방향을 정한 뒤 예상 사용자와 사회적 영향, 발생 가능한 위험을 분석하고 신뢰성 활동 계획을 수립한다. 본선 진출팀은 예선에서 세운 계획을 실제 시스템에 구현하고 검증해 최종 결과물을 완성한다.
AI가 상황을 판단해 조치하고 필요한 경우 사람에게 결정을 넘기는 운영 구조도 설계해야 한다. AI의 자율 판단 범위와 인간 검토가 필요한 조건, 사람을 호출하는 임계점, 운영자가 판단 과정을 확인할 수 있는 대시보드 또는 설계안 등이 주요 과제다.
평가에서는 최종 산출물과 함께 팀원의 역할 정의와 분담, 실제 이행 수준을 살핀다. 처음에 무엇을 예상했는지, 개발 과정에서 어떤 결과를 관찰했는지, 이를 근거로 판단과 설계를 어떻게 수정했는지도 평가한다. 올해는 AI 에이전트 시스템의 신뢰성을 실제 구동 단계에서 확보하는 과정이 새롭게 포함됐다.
참가자에게는 예상과 관찰, 판단, 변경 사항을 개발 과정에서 기록할 수 있는 다이어리와 워크시트가 제공된다. 여러 팀이 고민과 시행착오를 공유하고 서로 질문하는 집단 멘토링과 동료 학습도 강화된다.
결선에서는 전문가 사전평가와 함께 참가팀이 서로의 결과와 경험을 살펴보는 동료 평가를 반영한다. 다른 팀에 자신의 시행착오와 판단 근거를 공유해 새로운 질문이나 시도를 끌어낸 과정도 평가 요소가 된다.
상위 6개 팀에는 상장과 상금을 수여한다. 상금은 AI 신뢰성 관련 국제표준 번호를 반영해 최소 52만5900원부터 최대 420만100원까지 차등 지급한다. 수상팀 참가자에게는 IT 기업의 채용 연계형 인턴십 기회를 제공하며, 본선 진출자 가운데 자격요건을 충족한 참가자는 AI 신뢰성 전문가 민간자격인 CTAP 일반등급 시험에 응시할 수 있다.
박지환 씽크포비엘 대표는 “사람이 쓰러졌을 때 착한 마음만으로는 살릴 수 없고 응급처치를 해야 하는 것처럼 AI 신뢰성도 기준을 아는 것만으로 만들어지지 않는다”며 “이번 대회가 실제 프로젝트에서 위험을 발견하고 근거로 판단하며 필요하면 설계를 바꿀 수 있는 실천형 AI 신뢰성 인재를 키우는 과정이 되길 바란다”고 말했다.
The post 모델 성능 아닌 ‘신뢰 만드는 과정’ 겨룬다…149명 트라이톤 돌입 appeared first on 벤처스퀘어.