과기정통부–구글 딥마인드 MOU 현장 참여…AI 안전 전문가로 협력 방향 제시
“텍스트→에이전트→피지컬 AI”…안전성 평가 기준 전면 재정립 필요
에임인텔리전스, 과기정통부–구글 딥마인드 MOU 현장 참여 (사진 제공: 에임인텔리전스)
AI 안전 논의가 새로운 단계로 접어들고 있다. AI 보안 전문기업 에임인텔리전스(대표 유상윤)는 과학기술정보통신부와 구글 딥마인드 간 MOU 체결식 및 전문가 간담회에 박하언 CTO가 참석해 협력 방향을 제시했다고 밝혔다.
이번 MOU는 과학기술 AI 공동연구, AI 인재 양성, 책임 있는 AI 활용을 핵심 축으로 추진되며, 글로벌 AI 협력의 중요한 전환점으로 평가된다.
“AI 안전, 물리 세계까지 확장”…평가 기준 재정립 필요
체결식 이후 열린 전문가 간담회에서 박하언 CTO는 AI 안전성 논의의 범위가 빠르게 확장되고 있다고 강조했다. 기존 텍스트 기반 출력 안전성에서, AI 에이전트의 ‘행동’, 나아가 실제 물리 환경에서 작동하는 ‘피지컬 AI’ 안전성으로 중심이 이동하고 있다는 설명이다.
특히 물리 세계에서 작동하는 AI의 경우, 오류 발생 시 되돌리기 어려운 특성이 있어 기존과는 다른 수준의 평가 체계와 안전 장치가 필요하다는 점을 지적했다.
이번 간담회에는 바이오·신약, AI 연구 분야 전문가들도 함께 참여해 AI 기반 과학기술 혁신과 글로벌 협력 방향에 대해 논의를 이어갔다. 참석자들은 한국이 데이터·모델·인재를 유기적으로 연결하는 AI 중심 연구 생태계로 전환해야 한다는 데 공감대를 형성했다.
에임인텔리전스는 AI 안전성 평가 및 가드레일 기술을 기반으로, 에이전트와 피지컬 AI 영역까지 확장된 통합 보안 체계를 구축하고 있다. 한국 AI안전연구소(AISI) 등과의 협력을 통해 안전성 평가 표준화에도 참여 중이다.
박하언 CTO는 “AI 안전성은 이제 선택이 아닌 필수 요소”라며 “이번 협력을 계기로 한국이 에이전트 및 피지컬 AI 안전성 평가의 글로벌 표준을 선도할 수 있을 것”이라고 밝혔다.
The post 에임인텔리전스, 과기정통부–구글 딥마인드 MOU 현장 참여…“AI 안전 글로벌 표준 필요” appeared first on 벤처스퀘어.