더 똑똑한 AI가 나왔다고 지금 쓰는 모델을 바꿔야 할까. 클로드와 GPT, 제미나이의 신모델 경쟁이 다시 뜨거워지면서 기업과 사용자에게는 성능 경쟁 못지않게 현실적인 문제가 생겼다. 새 모델의 벤치마크 점수가 얼마나 높은지가 아니라 실제 업무를 더 빠르고 적은 비용으로 끝낼 수 있는지를 판단하는 일이다.
앤트로픽의 Claude Fable·Mythos 5.1, 구글의 Gemini 3.8 Flash·Flash Cyber, OpenAI의 GPT-6 Astra가 잇따라 등장했다. 각 기업은 코딩과 추론, 전문 업무 수행 능력의 향상을 강조한다. 하지만 AI가 문서 작성과 자료 조사, 소프트웨어 개발, 고객 응대 등 실제 업무에 깊숙이 들어온 상황에서 모델 교체는 구독 서비스 하나를 바꾸는 문제로 끝나지 않는다.
이미 익숙해진 도구를 유지할 이유와 새로운 능력을 활용할 이유가 동시에 커지고 있기 때문이다. 특히 이번 신모델 발표에서 눈여겨볼 부분은 성능 향상과 함께 제시된 가격과 작업 방식, 이용 조건이다. AI의 가치를 판단하는 기준이 답변의 품질에서 실제 업무 한 건을 끝내는 데 필요한 시간과 비용으로 넓어지고 있다.
앤트로픽은 Fable 5.1 발표에서 코딩과 지식업무 역량을 강조하면서 가격과 데이터 보관, 과도한 안전장치에 대한 고객 의견도 함께 다뤘다. 이미 처리한 입력을 재사용하는 캐시 읽기 비용을 낮춰 일반적인 작업 비용은 약 25%, 에이전트 작업은 최대 약 45% 줄어들 것으로 예상했다. 실제 절감 폭은 반복 입력을 얼마나 재사용하는지에 따라 달라질 수 있다.
9월 1일 출시된 앤트로픽 Fable 5.1 (자료 출처: 앤트로픽)
구글의 Gemini 3.8 Flash는 다른 측면을 보여준다. 구글은 이전 모델과 같은 토큰 단가를 유지하면서도 복잡한 작업에서는 추론 단계를 늘리고 도구를 반복적으로 호출해 토큰 사용량이 증가할 수 있다고 설명했다. 가격표에 표시된 토큰 단가가 같더라도 업무 한 건을 끝내는 데 실제로 사용하는 토큰이 늘어나면 총비용도 달라질 수 있다는 의미다.
OpenAI는 Astra의 컴퓨터·브라우저 사용과 전문 업무 수행 능력을 강조했다. 모델과 Codex 실행 환경 개선을 합쳐 특정 평가에서 이전 경험 대비 작업 완료 속도가 1.9배 빨라졌다고 밝혔다. 모델 자체의 능력뿐 아니라 이를 실행하는 환경도 업무 속도에 영향을 미친다는 점을 보여주는 발표다. 다만 해당 평가 결과를 모든 업무에서 동일한 생산성 향상이 나타난다는 의미로 해석하기는 어렵다.
세 회사의 발표는 서로 다른 방향을 가리키지만 질문은 하나로 모인다. AI 모델의 가격표와 실제 업무 비용은 같지 않다는 것이다. 입력 단가가 낮아도 추론과 도구 호출이 늘어나면 비용이 커지고, 반대로 단가가 높은 모델도 재시도와 수정 횟수를 줄인다면 작업 한 건의 총비용은 낮아질 수 있다.
여기에 결과를 검토하는 사람의 시간까지 포함하면 계산은 다시 달라진다. 문서 초안이 빠르게 나와도 출처와 숫자를 다시 확인하는 데 많은 시간이 필요할 수 있다. 코드를 곧바로 생성해도 테스트와 수정, 기존 시스템과의 연결이 남는다. 업무 현장에서 중요한 시간은 첫 결과물이 나올 때까지와 실제 사용할 수 있는 결과물이 완성될 때까지로 나뉜다. 두 시간의 차이를 얼마나 줄이는지가 신모델의 실용적 가치를 가르는 기준이 될 수 있다.
GPT-6 Astra 출시 이후 블룸버그와 인터뷰 중인 샘 올트먼 OpenAI CEO (출처: 유튜브 캡처)
어려운 일에서 더 벌어지는 성능 차이
신모델의 개선 폭이 모든 업무에서 동일하게 나타나는 것도 아니다. 사용자 측 평가에서는 작업 난이도에 따라 성능 차이가 달라지는 사례가 확인된다.
코드 리뷰 서비스 CodeRabbit은 자체 초기 평가에서 Astra가 GPT-5.6 Sol보다 조치 가능한 형태로 찾아낸 버그의 범위가 전체적으로 약 4% 넓었지만 여러 파일을 함께 검토해야 하는 어려운 작업에서는 상대적 개선 폭이 약 20%였다고 밝혔다. 회사는 이 결과가 전체 코드 리뷰 품질의 순위나 모든 작업에서 동일한 개선이 나타난다는 의미는 아니라고 명시했다. 최신 3사 모델 전체를 비교한 평가도 아니다.
이 사례는 신모델의 가치가 작업의 성격에 따라 달라질 수 있다는 점을 보여준다. 간단한 요약이나 문서 정리에서는 체감하기 어려운 차이가 여러 파일이나 자료의 관계를 함께 분석해야 하는 복잡한 업무에서는 커질 수 있다. 어려운 문제를 해결하는 능력이 향상됐다고 해서 모든 반복 업무에 같은 모델을 투입할 이유가 생기는 것도 아니다.
신모델이 나왔다고 모든 업무를 한꺼번에 옮길 필요가 없는 이유다. 일상적인 작업에는 익숙한 기존 모델을 유지하고, 기존 방식으로 해결하기 어려웠던 업무부터 새 모델을 적용하는 선택이 가능하다. 단순 문서 정리에는 빠르고 저렴한 모델을 사용하고 복잡한 분석이나 코딩, 에이전트 업무에는 성능이 높은 모델을 배치하는 방식이다.
다만 여러 모델을 함께 사용한다면 조직 내부의 선택 기준도 필요하다. 도구가 늘어날수록 구성원이 각 모델의 특성을 익혀야 하고 업무별로 어떤 모델을 사용할지 판단해야 한다. 모델 선택으로 절약한 비용보다 관리와 학습에 들어가는 시간이 커진다면 멀티모델 전략의 효과도 줄어들 수 있다.
구글이 공개한 Gemini 3.8 Flash와 Gemini 3.8 Flash Cyber (출처: 구글)
모델이 빨라졌다고 회사가 빨라지는 것은 아니다
모델을 어디에 적용하느냐에 따라 전환의 무게도 달라진다. 개인이 자료 조사용 챗봇을 바꿀 때는 결과물의 품질과 편의성이 주요 기준이지만 고객 응대나 제품 기능에 연결된 모델을 교체할 때는 응답 속도와 출력 형식, 기존 시스템과의 연결, 오류 발생 시 대응까지 검토해야 한다. 사용자가 보는 화면은 같더라도 뒤에서 작동하는 모델이 바뀌면 서비스의 품질과 비용 구조가 함께 달라질 수 있기 때문이다.
인력과 예산이 제한된 스타트업에는 기회와 부담이 동시에 생긴다. 이전에는 외부 개발이나 전문인력이 필요했던 분석과 개발을 내부에서 시도할 여지가 커지는 반면 모델을 평가하고 업무에 연결하며 결과를 검수할 사람도 필요하다. 기능을 구현하는 시간이 줄어들수록 무엇을 만들 것인지 결정하고 고객의 반응을 확인하며 결과물의 품질을 책임지는 업무의 중요성은 오히려 커진다.
AI 기업 내부에서 나오는 생산성 향상 주장도 이런 맥락에서 볼 필요가 있다. The Decoder는 OpenAI 개발자 Thibault Sottiaux가 Astra를 내부적으로 활용하면서 일부 계획을 6개월 앞당겼다고 주장했다고 보도했다. 특정 조직의 내부 활용 사례인 만큼 다른 기업에서도 동일한 효과가 나타난다고 일반화하기는 어렵다.
개발 속도가 두 배 빨라져도 제품 요구사항을 결정하거나 고객 반응을 검증하는 데 대부분의 시간이 쓰인다면 전체 사업 일정의 단축 폭은 제한될 수 있다. 반대로 개발 자체가 가장 큰 병목이었던 조직이라면 모델의 성능 향상이 전체 프로젝트 기간을 크게 줄일 수도 있다.
결국 중요한 것은 AI가 얼마나 빨라졌느냐보다 우리 업무의 병목을 얼마나 줄였느냐다. 모델의 성능 향상을 조직의 생산성으로 연결하려면 개별 작업의 속도가 아니라 업무 과정 전체를 살펴봐야 한다.
갈아탈지 말지는 벤치마크보다 ‘내 업무’가 결정한다
모델 전환의 근거도 결국 각자의 실제 작업에서 찾아야 한다. 자주 처리하는 업무와 기존 모델이 실패했던 업무를 같은 조건에서 비교하고 결과물의 정확성과 작업시간, 수정 횟수, 최종 검수시간, 실제 발생 비용을 함께 살펴보는 방식이다.
초기 설정과 전환에 한 번 들어가는 비용과 모델을 사용하면서 반복적으로 발생하는 운영 비용도 구분해야 한다. 고객에게 직접 영향을 주는 기능이라면 문제가 발생했을 때 기존 모델이나 시스템으로 돌아갈 수 있는지도 판단 기준에 포함된다.
비교 결과 현재 모델이 필요한 수준을 충족한다면 굳이 바꿀 이유는 없다. 특정 업무에서만 개선이 뚜렷하다면 해당 영역부터 새 모델을 적용할 수 있다. 핵심 업무에서 품질과 시간, 비용의 개선이 반복적으로 확인된다면 그때 전환 범위를 넓히면 된다.
클로드와 GPT, 제미나이의 신모델 경쟁은 AI에 맡길 수 있는 일의 범위를 계속 넓히고 있다. 그러나 더 높은 벤치마크 점수가 곧 더 높은 업무 생산성을 의미하지는 않는다. 새로운 모델의 성능표보다 중요한 것은 그 차이가 실제 업무에서 얼마나 의미가 있는지 확인하는 일이다.
새 모델을 도입할 가장 분명한 이유는 지금 해결하지 못하는 문제가 있고, 새 모델이 그 문제를 더 적은 수정과 검수, 감당할 수 있는 비용으로 해결할 때다. 그때 모델 교체는 신제품을 따라가는 선택이 아니라 업무를 개선하는 투자가 된다.
* 스타트업 생태계 기자단은 KAIA와 벤처스퀘어가 함께 운영하며 스타트업 현장의 다양한 이야기를 기록합니다.
The post [VS기획] 클로드·GPT·제미나이 신모델 잇따라…AI, 나올 때마다 갈아타야 할까 appeared first on 벤처스퀘어.