AI 경쟁이 거대언어모델과 GPU 확보를 넘어 데이터와 인프라의 통제권을 둘러싼 경쟁으로 옮겨가고 있다. 외부 클라우드와 특정 기술에 대한 의존도가 높아질수록 기업과 공공기관은 데이터가 어디에 저장되고 어떤 모델과 시스템에서 처리되는지 직접 관리하기 어려워진다. 민감한 산업 데이터와 공공 데이터를 활용하려면 연산 자원을 확보하는 것만큼 인프라 전체를 선택하고 운영할 수 있는 소프트웨어 역량이 중요하다. 오케스트로가 고객별로 분리된 AI 데이터센터 환경을 구축하고 이를 도시 단위 운영체계로 확장하는 ‘소버린 AI 데이터센터’ 전략을 공개한다.
오케스트로, AI 주권 시대 ‘소버린 AI 데이터센터’ 전략 공개 (자료 제공: 오케스트로)
AI 인프라 소프트웨어 기업 오케스트로 그룹은 오는 8월 25일 오후 2시 ‘AI 주권 시대, 도시에서 데이터센터까지’를 주제로 온라인 웨비나를 진행한다. 박소아 오케스트로 클라우드 대표가 연사로 나서 AI 인프라 구축 과정에서 발생하는 통제권과 구축 속도의 문제를 짚고 소버린 AI 데이터센터 구현 방안을 소개한다.
소버린 AI는 기업이나 국가가 데이터와 AI 모델, 컴퓨팅 인프라를 자체 정책과 규제에 맞춰 선택하고 통제할 수 있는 역량을 의미한다. 자체 데이터센터를 구축하는 방식뿐 아니라 데이터의 저장 위치와 접근 권한, 적용 모델, 인프라 운영 현황을 이용자가 직접 관리할 수 있는 구조까지 포함한다.
오케스트로가 제시하는 소버린 AI 데이터센터는 고객별로 물리적으로 격리된 환경을 제공한다. 기업과 기관은 다른 고객의 시스템과 분리된 상태에서 서버와 GPU 등 장비를 운영하고, 업무에 사용할 AI 모델도 독립적으로 선택·관리할 수 있다.
인프라 구성은 필요한 서비스를 골라 조합하는 카탈로그 방식이다. 데이터센터 상면과 베어메탈 서버, IaaS·PaaS, GPU, 시스템 마이그레이션, 재해복구(DR) 등을 산업과 업무 특성에 맞게 선택할 수 있다. AI 추론 서비스와 국산 NPU, AI 모델, 데이터 카탈로그, AI 아키텍처 컨설팅도 연계한다.
물리 장비부터 클라우드와 AI 서비스 계층까지 운영 현황을 하나의 체계에서 파악할 수 있도록 한 것도 특징이다. 장애나 자원 사용 현황을 확인하기 위해 서로 다른 관리 도구를 오가는 부담을 줄이고, 특정 서비스나 기술에 대한 종속을 낮추면서 인프라 운영의 투명성을 확보하는 구조다.
데이터센터에서 도시 운영체계로 확장
이번 웨비나에서는 소버린 AI 데이터센터를 도시 단위 인프라로 확장한 ‘천안·아산 K-AI City’ 사례도 다룬다. 천안·아산 K-AI City는 인접한 두 도시의 데이터와 AI 서비스를 하나의 운영체계로 연결하는 AI 특화 시범 도시 사업이다.
도시마다 개별적으로 운영되는 교통과 안전, 행정 데이터를 AI 데이터센터에 연계하고 필요한 서비스를 공동 인프라 위에서 운영하는 방식이다. 데이터센터는 연산 자원을 공급하는 시설의 역할과 함께 서로 다른 도시 시스템과 AI 서비스를 연결하는 기반으로 활용된다.
오케스트로는 AI 데이터센터를 중심으로 자율주행 모빌리티와 디지털 트윈, AI CCTV, 에이전틱 AI, 피지컬 AI 등을 연계하는 인프라 구조를 제시한다. 자율주행 차량과 CCTV, 도시 센서에서 생성되는 데이터를 통합하고 AI가 이를 분석해 교통이나 안전 업무에 활용할 수 있도록 지원하는 형태다.
도시 단위 AI 운영체계에서는 데이터의 저장 위치와 접근 권한, 서비스별 연산 자원 배분을 통합적으로 관리하는 기능이 중요하다. 여러 기관이 하나의 인프라를 공유하더라도 기관별 데이터와 시스템을 분리하고, 필요한 경우에만 정해진 기준에 따라 연계할 수 있어야 하기 때문이다.
박소아 오케스트로 클라우드 대표는 “AI 주권은 데이터와 인프라를 스스로 선택하고 통제할 수 있는 역량에서 시작된다”며 “소버린 AI 데이터센터 구현 전략과 이를 도시 단위 인프라로 확장한 천안·아산 K-AI City 사례를 통해 AI 인프라 자립을 위한 구체적인 방향을 제시하겠다”고 말했다.
웨비나는 8월 25일 오후 2시부터 올쇼TV에서 온라인으로 진행된다. 참가비는 무료이며 사전 등록을 마친 참가자가 시청할 수 있다.
소버린 AI의 경쟁력은 GPU나 데이터센터를 보유한 규모보다 데이터와 모델, 하드웨어, 클라우드 서비스를 하나의 정책 아래에서 운영하는 능력에 좌우된다. 천안과 아산을 연결하는 시도가 실제 도시 서비스의 비용과 운영 복잡성을 얼마나 낮추는지가 오케스트로의 소버린 AI 전략을 평가하는 기준이 될 전망이다.
The post GPU보다 중요한 것은 ‘통제권’…오케스트로, 도시 단위 소버린 AI 설계한다 appeared first on 벤처스퀘어.