프런티어 AI의 성능이 빠르게 높아지면서 개발 속도를 늦춰야 하는지를 둘러싼 논쟁이 국제적으로 이어지고 있다. 한국에서는 기술 추격과 산업 경쟁력을 유지하면서 AI가 초래할 수 있는 위험을 어떻게 평가하고 통제할지가 주요 과제로 떠올랐다. 국가인공지능전략위원회도 1일 관련 세미나를 열고 프런티어 AI 역량 확보와 안전·보안 체계를 함께 구축하는 대응 방향을 논의했다. 포티투마루는 이 자리에서 일률적으로 개발 속도를 늦추기보다 위험 수준에 따른 안전장치와 검증 체계를 마련해야 한다는 의견을 제시했다.
에이전틱 AI 기업 포티투마루는 1일 서울 중구 서울스퀘어에서 열린 국가인공지능전략위원회 ‘AI 개발 속도조절론 관련 세미나’에 참석해 AI 안전과 공공 AX 대응 방향을 제안했다.
이번 세미나는 국가AI전략위 보안특별위원회가 글로벌 프런티어 AI 개발 속도조절론과 국내 대응 방향을 논의하기 위해 마련했다. 정부 자료에 따르면 세미나에서는 기술 경쟁력 확보와 안전장치, 첨단 AI 위험평가·통제, 기업 부담을 고려한 안전체계 등이 주요 의제로 다뤄졌다.
김동환 포티투마루 대표(왼쪽 첫 번째)가 1일 서울스퀘어에서 열린 국가인공지능전략위원회 ‘AI 개발 속도조절론 관련 세미나’에서 패널 토론을 하고 있다. 이날 참석자들은 프런티어 AI 역량과 안전·검증 체계를 함께 확보하는 방안을 논의했다. (사진 제공: 포티투마루)
하정우 국가AI전략위 상근 부위원장의 인사말에 이어 이원태 보안특별위원장이 ‘글로벌 프런티어 AI 개발 속도조절론과 대한민국 AI의 대응전략’을 주제로 기조발제를 진행했다. 최대선 숭실대 AI안전성연구센터 센터장, 김성훈 업스테이지 대표, 이한울 에임인텔리전스 부사장도 각각 AI 위험 통제와 기술 경쟁력, 보안 역량 등을 발표했다.
패널 토론에는 국가AI전략위 공공AX분과 위원으로 활동하는 김동환 포티투마루 대표와 김명주 AI안전연구소 소장, 최대선 센터장, 김성훈 대표, 이한울 부사장 등이 참여했다.
속도 일괄 규제보다 ‘위험별 관리’…안전·신뢰 체계 함께 구축
김 대표는 AI 기술 발전 속도와 사회적 제도·윤리적 합의 사이에 격차가 있다는 문제의식에는 공감하면서도 개발 속도를 일률적으로 조절하는 방식의 현실성에는 의문을 제기했다. AI 산업 육성과 안전장치 구축을 동시에 추진하고 특정 기업이나 국가의 이해에 치우치지 않도록 국제기구를 통한 다자 협력 체계를 마련해야 한다는 의견도 냈다.
특히 AI의 위험 수준과 활용 분야에 따라 대응하는 ‘위험 기반(Risk-based)’ 관리 체계를 제안했다. 환각과 데이터 유출 등 생성형 AI 활용 과정에서 발생할 수 있는 위험을 평가·통제할 기술적 안전장치를 공공과 산업 현장에 구축하고 검증 가능한 범위에서 에이전틱 AI 활용을 확대해야 한다는 설명이다.
이 같은 방향은 이날 세미나에서 논의된 큰 흐름과도 맞닿아 있다. 국가AI전략위는 프런티어 AI 역량을 확보하는 동시에 위험평가와 안전 검증, 통제 체계를 강화하는 방안을 논의했으며 참석 전문가들도 자체 기술과 독립적인 평가·통제 역량, 국제 공조의 필요성을 제시했다.
포티투마루는 AI 신뢰성 관련 인증을 확보하며 공공 AX 시장을 공략하고 있다. 회사의 ‘LLM42 v.1.1’과 ‘RAG42 v.1.3’은 지난 9월 정부의 ‘인공지능 제품·서비스 확인제’ 확인을 받았다.
김동환 대표는 “글로벌 프런티어 모델 속도조절론 논쟁에 휩쓸려 대한민국의 AI 혁신이 흔들려서는 안 된다”며 “지금 필요한 것은 속도 조절이 아니라 안전성과 신뢰성을 검증할 수 있는 안전장치를 강화하는 것”이라고 말했다. 이어 국제 AI 안전 규범을 만드는 과정에서도 한국이 적극적인 역할을 해야 한다고 강조했다.
The post 포티투마루, AI 개발 ‘브레이크’보다 안전장치 먼저…국가AI전략위서 공공 AX 제언 appeared first on 벤처스퀘어.