사이버 공격자들이 생성형 AI를 보조 도구에서 자율적으로 과업을 수행하는 공격 수단으로 전환하고 있다. 표적 정찰과 악성코드 제작뿐 아니라 공격 과정의 오류 해결, 자격 증명 탈취까지 AI가 담당하면서 침해 속도도 빨라졌다. 기업이 보유한 AI 모델과 데이터, 클라우드 컴퓨팅 자원 역시 새로운 공격 표적으로 떠올랐다. 구글위협인텔리전스그룹(GTIG)은 이 같은 흐름을 분석한 ‘2026년 2분기 AI 위협 추적 보고서’를 공개했다.
구글 클라우드 로고 (자료 제공: 구글 클라우드)
보고서에 따르면 한 위협 행위자는 클라우드 리소스를 침해한 뒤 에이전틱 AI를 활용해 공격을 기획하고 시스템을 구축했다. 이후 수천 개의 자격 증명을 탈취하기까지 걸린 시간은 6시간에 불과했다. AI가 스캐닝 파이프라인을 관리하고 공격 과정에서 발생한 오류를 해결하면서 사람의 판단과 개입에 따른 지연 시간이 줄어든 결과다.
에이전틱 공격과 AI 공급망 침해가 동시에 확산
공격 대상도 소프트웨어와 클라우드 인프라 전반으로 확장됐다. GTIG는 TeamPCP로 알려진 UNC6780이 AI 코딩 어시스턴트가 사용하는 도구에 백도어를 심고, 오픈소스 패키지의 메타데이터를 조작한 사례를 확인했다. 이를 통해 AI 어시스턴트가 개발자에게 악성 의존성 코드를 추천하도록 유도했으며, 배포한 악성코드에는 명령을 은밀하게 실행하기 위한 프롬프트도 포함했다.
국가 지원 위협 조직의 AI 활용도 구체화됐다. 중국 연계 사이버 스파이 조직 BASIN CASTLE은 표적 정보 수집부터 침투 이후의 기술적 문제 해결까지 공격 과정 전반에 대형언어모델을 활용했다. 또 다른 중국 연계 조직은 공격 초기 단계를 자동으로 수행하는 모의 침투 프레임워크를 구축하기 위해 구글 제미나이를 사용하려 했다.
기업이 개발한 AI 모델과 소스코드, 프롬프트, 연구 자료도 주요 공격 자산으로 분류됐다. GTIG는 의료와 정부, 미디어 등 여러 산업에서 독점 AI 지식재산을 겨냥한 공격이 증가했으며, 일부 공격자가 탈취 자료 공개를 빌미로 금전을 요구한 사례도 관찰했다.
AI 서비스 이용 비용과 컴퓨팅 자원을 탈취하려는 ‘LLM재킹’도 이어졌다. 중국 연계 조직 UNC6508은 미국 의료기관의 클라우드 환경을 침해한 뒤 로컬 AI 모델을 호스팅한 것으로 조사됐다. 상용 AI 서비스의 보안 모니터링을 피하면서 침해된 환경을 자체 AI 인프라처럼 이용한 사례다.
2026년 4월 맨디언트 대응 조사에서는 공격자가 피해 기업의 클라우드 계정으로 고성능 GPU 인스턴스를 할당받아 승인되지 않은 AI 워크로드를 실행한 사실이 확인됐다. 관련 비용은 피해 기업에 전가됐다. 북한 IT 인력 조직이 탈취 계정으로 LLM API를 대량 등록해 활동 규모를 키운 정황도 포착됐다.
GTIG는 AI가 기업의 기술 환경에 깊이 통합될수록 개발자 계정과 오픈소스 구성요소, AI 코딩 도구, 모델 가중치, API 자격 증명, GPU 자원이 하나의 공격면으로 연결될 수 있다고 진단했다. 방어 조직에는 기존 침해 대응과 함께 AI 공급망의 무결성, 클라우드 자원 사용 현황, 모델과 데이터 접근 권한을 통합 관리할 필요성이 커졌다.
존 헐트퀴스트 GTIG 수석 애널리스트는 “공격자들은 이미 다양한 영역에 AI를 접목하고 있으며, 에이전트 방식으로 전환되면서 위협의 규모와 속도도 커질 것”이라며 “6시간 만에 대규모 탈취 공격을 수행한 사례처럼 공격자들은 방어자의 대응 속도를 넘어서는 방식으로 이동하고 있다”고 말했다.
The post AI가 공격 속도까지 바꿨다…GTIG, 6시간 만의 대규모 계정 탈취 경고 appeared first on 벤처스퀘어.