AI가 기업의 애플리케이션과 업무 프로세스 안으로 들어오면서 인프라의 역할도 달라지고 있다. 대규모 모델을 학습시키는 연산 능력만으로는 실제 서비스에서 요구하는 속도와 안정성을 확보하기 어렵다. 사용자가 있는 곳 가까이에서 데이터를 처리하고 필요한 GPU 자원을 연결하는 분산 인프라가 필요하고, AI 에이전트와 API가 늘어난 만큼 보호해야 할 영역도 넓어졌다. 아카마이는 코어 클라우드에서 리저널 클라우드, 엣지까지 연산과 전송을 분산하고 여러 보안 계층을 결합하는 방식으로 기업의 AI 전환 수요에 대응한다.
아카마이코리아는 22일 서울 역삼동 사무실에서 ‘2026 아카마이 미디어 간담회’를 열고 아시아태평양과 한국 시장의 AI 전환 흐름과 보안 환경의 변화, 분산형 AI 인프라 전략을 공개했다. 이날 간담회에는 이경준 아카마이코리아 대표와 한준형 시니어 솔루션 엔지니어링 매니저(상무), 강상진 수석 기술 솔루션 아키텍트(상무)가 참석했다.
아카마이 미디어 간담회에서 발표 중인 이경준 대표
이경준 대표는 기업의 관심이 AI를 도입할 것인지에서 실제 비즈니스와 서비스에 어떻게 적용할 것인지로 구체화되고 있다고 봤다. 시범적으로 사용하던 AI가 애플리케이션과 업무 프로세스에 포함되면서 모델과 데이터, 애플리케이션, 사용자를 연결하는 인프라가 실제 AI 서비스의 성능과 운영 효율에 직접 영향을 미치기 시작했다.
이 대표는 “모델과 데이터 그리고 애플리케이션과 사용자를 얼마나 빠르고 안전하게 연결하고 이를 얼마나 효율적으로 운영할 수 있느냐가 매우 중요해진다”고 말했다.
AI가 늘린 공격 표면…에이전트 시대에는 ‘권한’도 관리 대상
AI 활용 범위가 넓어질수록 기업이 관리해야 할 보안 영역도 함께 늘어난다. 한준형 상무는 ‘AI가 엔터프라이즈에 가져온 새로운 공격 표면’을 주제로 웹 브라우저에서 시작한 AI 활용이 CLI와 IDE, 데스크톱 애플리케이션 등으로 확산되면서 나타나는 보안 문제를 소개했다.
데이터 유출과 API 남용, 기업의 관리 범위 밖에서 임직원이 AI 서비스를 사용하는 섀도우 AI(Shadow AI), 프롬프트 조작 등이 대표적이다. AI가 질문에 답하는 단계를 넘어 목표를 받아 스스로 작업을 수행하는 에이전틱 환경에서는 관리 대상이 더 늘어난다. AI 에이전트에 어떤 신원을 부여하고 어느 범위까지 데이터와 시스템에 접근하도록 허용할지도 기업 보안 체계 안에서 관리해야 한다.
아카마이는 하나의 보안 솔루션으로 모든 공격을 차단하는 대신 웹 애플리케이션 보안과 봇 방어, API 모니터링, 마이크로세그멘테이션을 결합하는 다층 방어 방식을 제시했다. 아카마이 워크포스 프로텍터(Workforce Protector)는 임직원의 AI 사용 과정에서 발생할 수 있는 데이터 노출을 관리하고, API 시큐리티(API Security)는 RAG(검색증강생성)와 API 환경의 위험을 식별한다. 내부 시스템에 침입이 발생한 뒤에는 아카마이 가디코어 세그멘테이션(Guardicore Segmentation)을 이용해 공격이 다른 자산으로 확산되는 것을 제한한다.
보안의 출발점도 공격을 완전히 막는 데 두지 않았다. 이미 내부 자산 일부가 침해됐을 가능성을 전제로 피해가 다른 시스템으로 번지지 않도록 범위를 통제하는 방식이다.
한 상무는 “하나의 디펜스 시스템을 가지고 여러 가지 형태의 공격을 다 없앨 수 없다”며 “따라서 멀티 레이어의 디펜스가 필요하다”고 말했다.
AI 연산은 코어에만 있지 않는다…리저널·엣지로 나누는 이유
AI 서비스가 실시간 추론으로 확장되면서 클라우드 인프라에도 변화가 필요하다. 강상진 상무는 AI 워크로드의 성격에 따라 연산 위치를 코어 클라우드(Core Cloud), 리저널 클라우드(Regional Cloud), 엣지(Edge)로 나누는 분산형 구조를 제시했다.
대규모 연산이 필요한 작업은 코어 클라우드에서 처리하고 데이터 레지던시와 지역별 성능을 고려해야 하는 작업은 리저널 클라우드에 배치한다. 사용자와 가까운 곳에서 빠르게 반응해야 하는 실시간 추론은 엣지 네트워크를 활용한다. 아카마이는 현재 130개 이상 국가, 700개 도시에서 4300개 이상의 엣지 PoP(Point of Presence)와 1000Tbps 이상의 네트워크 용량을 운영하고 있다.
여기서 엣지에 GPU를 직접 배치하는 방식과는 구분된다. GPU가 설치된 데이터센터는 높은 전력과 냉각 성능을 요구하는 반면 CDN이나 방화벽을 운영하는 엣지 데이터센터는 필요한 물리적 조건이 다르다. 사용자의 요청을 가까운 엣지에서 받아 적절한 GPU 데이터센터로 전달하고, 연산 결과를 다시 사용자에게 보내는 방식으로 연산과 네트워크를 분리한다.
국내 적용 사례도 소개했다. 데브시스터즈는 대규모 글로벌 트래픽을 처리하기 위해 아카마이 클라우드를 도입했으며 스마트빅은 게임 서버 워크로드를 이전해 저지연 환경을 구축하고 비용을 절감했다.
‘2026 아카마이 미디어 간담회’에서 이경준 아카마이코리아 대표와 주요 임원들이 AI 인프라와 보안 전략에 대한 질의응답을 진행하고 있다. (사진 제공: 아카마이코리아)
추론용 GPU에서 학습까지…분산된 자원 연결하는 AI 그리드 준비
GPU 인프라의 활용 범위도 넓어진다. 현재 아카마이가 제공하는 엔비디아 RTX 계열 GPU 인스턴스는 AI 추론에 최적화돼 있으며 일부 경량 학습 워크로드도 처리할 수 있다. 기업 고객의 학습용 GPU 수요가 늘면서 상위 GPU 모델 제공도 준비하고 있다.
강 상무에 따르면 엔터프라이즈 고객을 중심으로 상위 학습용 GPU 모델에 대한 문의가 이어지고 있으며 내년 초부터 관련 수요에 대응할 수 있을 것으로 예상된다. 상위 모델이 추가되면 추론 중심이었던 GPU 서비스 범위를 학습으로 넓혀 스타트업과 중소·중견기업부터 대기업까지 다양한 규모의 AI 워크로드를 지원할 수 있다.
엔비디아와 함께 준비 중인 ‘AI 그리드 오케스트레이션’은 전 세계에 분산된 GPU 자원을 하나의 네트워크처럼 활용하는 데 초점을 둔다. 사용자의 위치와 GPU 가용성을 고려해 적절한 자원으로 AI 워크로드를 연결하고, 가디코어 세그멘테이션을 결합해 분산 환경의 보안까지 관리하는 방식이다.
아카마이는 2008년 한국 법인을 설립한 이후 18년째 국내 사업을 이어가고 있다. 현재 국내 전 산업군에서 282개 고객사와 64개 파트너 생태계를 확보했으며 이 가운데 약 25개 기업을 주요 레퍼런스로 두고 있다.
AI 서비스가 실제 업무와 제품 안으로 들어갈수록 필요한 연산을 어디에서 처리할지와 이를 어떻게 보호할지는 하나의 인프라 문제로 연결된다. 아카마이는 코어와 리저널, 엣지에 AI 워크로드를 분산하고 그 위에 여러 단계의 보안을 결합하는 방식으로 국내 AI 인프라 시장을 확대할 계획이다.
* 스타트업 생태계 기자단은 KAIA와 벤처스퀘어가 함께 운영하며 스타트업 현장의 다양한 이야기를 기록합니다.
The post 아카마이코리아, AI 인프라 코어에서 엣지까지…“연산은 분산하고 보안은 겹겹이” appeared first on 벤처스퀘어.