생성형 AI 경쟁의 기준이 바뀌고 있다. 더 큰 모델을 만드는 경쟁에서 벗어나 기업이 데이터를 얼마나 안전하게 통제하고 실제 업무 성과로 연결할 수 있느냐가 새로운 경쟁력으로 떠오르고 있다. 글로벌 엔터프라이즈 AI 기업 코히어(Cohere)는 이러한 변화의 해법으로 ‘소버린 AI(Sovereign AI)’를 제시했다. 코히어는 한국을 아시아태평양(APAC) 전략의 핵심 거점으로 삼고 금융과 제조, 공공, 헬스케어 등 규제 산업을 중심으로 엔터프라이즈 AI 사업을 확대하겠다는 전략을 공개했다.
코히어 로고
“우리는 처음부터 소버린 AI 회사였다”
코히어가 이번 기자간담회에서 가장 먼저 강조한 것은 AI 모델 자체가 아니었다. 회사가 출범한 이유와 방향이었다.
프랭크 오다우드(Frank O’Dowd) 최고사업책임자(CRO)는 “우리는 최근 소버린 AI를 내세운 회사가 아니라 처음부터 기업과 정부가 AI에 대한 완전한 통제권(Ownership)을 가질 수 있도록 돕기 위해 설립됐다”며 “이것이 다른 엔터프라이즈 AI 기업과 가장 큰 차이”라고 말했다.
실제로 생성형 AI 열풍이 시작되기 전부터 소비자 대상 서비스보다 기업용 AI 시장에 집중해 왔다. 창업자 가운데 한 명인 에이든 고메즈(Aidan Gomez)는 생성형 AI의 기반이 된 트랜스포머(Transformer) 연구 논문의 공동 저자로 잘 알려져 있으며, 회사 역시 설립 초기부터 범용 AI가 아닌 엔터프라이즈 AI를 목표로 사업을 전개해 왔다.
이들이 말하는 소버린 AI는 단순히 데이터를 특정 국가 안에 저장하는 개념이 아니다. 기업과 정부가 데이터와 AI 모델, 인프라 운영에 대한 통제권을 직접 보유한 상태에서 필요한 환경에 맞게 AI를 활용하는 구조를 뜻한다. 데이터가 외부 AI 서비스의 학습에 활용되거나 기업 밖으로 유출될 가능성을 최소화하고, 각 국가와 산업이 요구하는 보안·규제 기준에 맞춰 AI를 운영할 수 있도록 하는 것이 핵심이다.
이 같은 철학은 주요 고객군에서도 드러난다. 금융과 첨단 제조업, 헬스케어, 공공기관 등 보안과 규제가 엄격한 산업을 중심으로, 기존 업무 환경과 데이터를 유지한 채 AI를 도입할 수 있도록 지원하는 데 초점을 맞추고 있다.
장화진 코히어 한국·아시아 총괄은 “기업들이 원하는 것은 AI를 사용하는 것이 아니라 자신들의 데이터와 지식을 안전하게 활용하는 것”이라며 “소버린 AI는 데이터와 모델, 인프라를 기업 스스로 통제하면서 AI를 업무에 적용할 수 있도록 하는 개념”이라고 말했다.
이를 위해 회사는 AI 모델 공급에 그치지 않고 플랫폼과 거버넌스, 보안까지 아우르는 ‘풀스택 엔터프라이즈 AI 기업’을 지향한다. 기업이 어떤 클라우드와 인프라 환경을 선택하더라도 동일한 AI 플랫폼을 구축하고 운영할 수 있도록 지원하는 것이 차별화된 경쟁력이라는 설명이다.
소버린 AI 기업 코히어(Cohere)의 프랭크 오다우드(Frank O’Dowd) 사업총괄책임(CRO)이 5일 서울 소공동 웨스틴조선 호텔에서 열린 기자간담회에서 발표를 하고 있다.
ROI 높이는 풀스택 AI…”기업은 모델보다 성과를 원한다”
코히어는 이날 생성형 AI 경쟁의 핵심이 더 큰 모델이 아니라 기업이 AI를 얼마나 효율적으로 활용하느냐에 있다고 강조했다. 기업들이 AI 도입을 확대하고 있지만 기대만큼의 성과를 체감하지 못하는 이유는 기술보다 활용 방식에 있다는 판단이다.
장화진 코히어 한국·아시아 총괄은 “많은 기업이 AI에 투자하고 있지만 실제 투자 대비 효과(ROI)는 기대에 미치지 못하는 경우가 많다”며 “기업이 해결하려는 문제에 맞는 AI를 선택하는 것이 무엇보다 중요하다”고 말했다.
예를 들어 단순 반복 업무까지 최고 성능의 프론티어 모델을 사용하는 것은 토큰 비용만 높이고 효율은 떨어질 수 있다. 업무 목적에 따라 적절한 모델과 AI 에이전트를 선택하면 비용을 줄이면서도 투자 효과를 더 빠르게 확보할 수 있다는 것이 회사의 접근 방식이다.
이 같은 전략의 중심에는 자체 엔터프라이즈 AI 플랫폼 ‘노스(North)’가 있다. 하나의 플랫폼에서 프론티어 모델과 오픈소스 모델을 함께 활용할 수 있으며, 기업은 성능과 비용, 활용 목적에 맞춰 필요한 모델과 AI 에이전트를 선택할 수 있다. 업무별 AI 에이전트 카탈로그를 제공해 목적에 맞는 에이전트를 손쉽게 적용할 수 있는 점도 차별화 요소로 내세웠다.
특정 클라우드에 종속되지 않는 구조도 강점이다. 다양한 클라우드 환경은 물론 온프레미스(On-premise) 환경까지 지원해 기업이 데이터와 AI 운영 환경을 직접 통제할 수 있도록 설계했다.
기업 내부 데이터베이스와 업무 시스템을 안전하게 연결할 수 있는 점도 강조했다. 외부 AI 서비스를 이용하는 과정에서 기업의 고유 데이터가 다른 모델 학습에 활용될 수 있다는 우려를 줄이고, 자체 데이터를 기반으로 AI 에이전트를 구축해 실제 업무 자동화까지 연결할 수 있다는 설명이다.
장 총괄은 “기업이 원하는 것은 AI 모델 자체가 아니라 업무 성과”라며 “기업이 데이터를 안전하게 활용하면서도 투자 효과를 빠르게 확인할 수 있는 엔터프라이즈 AI 플랫폼을 제공하는 데 집중하고 있다”고 말했다.
프랭크 오다우드 코히어 사장 겸 최고사업책임자(CRO)와 장화진 코히어 한국·아시아 총괄이 소버린 AI 전략과 한국 시장 확대 계획에 대한 기자들의 질문에 답하고 있다.
한국을 시작으로 APAC 확장…”소버린 AI 생태계 키운다”
코히어는 한국을 아시아태평양(APAC) 사업의 핵심 거점으로 육성하겠다는 전략도 공개했다. AI 인재와 산업 기반을 갖춘 데다 새로운 기술 도입 속도가 빠른 한국을 테스트베드로 삼아, 이곳에서 검증한 엔터프라이즈 AI 사례를 일본과 대만, 호주, 인도 등 아시아 시장으로 확산시키겠다는 구상이다.
장 총괄은 한국이 경쟁이 치열하고 신기술 수용 속도가 빠른 시장인 만큼, 여기서 확보한 성공 사례는 다른 아시아 국가로도 빠르게 확산할 수 있다는 점에서 전략적 의미가 크다고 말했다.
현재 LG CNS와 협력해 엔터프라이즈 AI 사업을 추진하고 있으며, 일본에서는 후지쯔와 자체 LLM 개발 프로젝트를 진행하고 있다. 싱가포르를 비롯한 여러 국가에서는 공공기관과 협력을 이어가는 한편, 국내에서도 금융과 제조, 공공 분야를 중심으로 파트너 생태계를 확대할 방침이다.
국내 법인 설립도 추진 중이다. 한국을 단순한 영업 거점이 아니라 아시아 사업을 이끌 핵심 허브로 육성하고, 파트너와 고객, AI 전문 인력을 지속적으로 확대해 기업들이 소버린 AI를 보다 쉽게 도입할 수 있는 환경을 구축하겠다는 계획도 밝혔다.
기업 현장에서 AI를 실제 업무에 연결하는 FDE(Forward Deployed Engineer) 조직의 중요성도 강조했다. 단순히 AI 모델을 공급하는 데 그치지 않고 고객사의 데이터베이스와 업무 시스템을 연결해 AI 에이전트와 자동화를 구축하는 역할로, 글로벌 시장에서도 관련 인력을 지속적으로 확대하고 있다는 설명이다.
이번 기자간담회에서 거듭 강조한 메시지는 ‘더 큰 AI’가 아니었다. 기업이 데이터를 직접 통제하고, 필요한 모델을 선택해 원하는 환경에서 운영할 수 있는 구조가 앞으로의 엔터프라이즈 AI 경쟁력을 좌우한다는 것이다. 생성형 AI 경쟁이 모델 성능에서 실제 업무 성과와 운영 역량으로 이동하는 가운데, 코히어는 소버린 AI와 풀스택 플랫폼을 앞세워 한국을 아시아태평양 전략의 출발점으로 삼겠다는 청사진을 제시했다.
The post 소버린 AI 앞세운 코히어(Cohere)…”한국을 APAC 허브로 키운다” appeared first on 벤처스퀘어.