과학 연구에서 AI의 역할이 논문을 찾고 요약하는 보조도구에서 연구 과정에 직접 참여하는 단계로 이동하고 있다. 복잡한 문제를 여러 경로로 추론하고 가설을 세운 뒤 실험 결과를 다시 다음 추론에 반영하는 방식이다. 특히 생물학과 신소재처럼 실제 실험을 거쳐야 가설을 검증할 수 있는 분야에서는 AI 모델 자체의 성능뿐 아니라 전문 데이터와 연구 도구, 실험 환경을 어떻게 연결하느냐가 중요해지고 있다. 범용 AI와 실제 연구 사이를 연결하는 ‘Scientific AI(과학 AI)’가 새로운 기술 경쟁 영역으로 떠오르는 배경이다.
최근 수학 분야에서는 AI가 대규모 추론과 검증 과정에 투입되는 사례가 잇따랐다. 오픈AI는 이달 내부 연구 모델을 사용하는 약 1만개의 동시 실행 에이전트를 투입해 나비에-스토크스 밀레니엄 문제에 대한 해법을 제안했다. 에이전트가 해법에 도달하기까지 약 88시간이 걸렸고 이후 GPT-6 Astra를 이용한 Lean 형식화와 검증에 17시간을 추가로 사용했다.
AI가 논문 검색과 요약을 넘어 가설 생성과 과학적 추론, 실험 설계와 검증 과정까지 참여하는 ‘Scientific AI’ 기술 개발이 이어지고 있다. 아스테로모프는 범용 AI와 실제 과학 연구를 연결하는 추론 레이어를 개발하고 있다. (자료 제공: 아스테로모프)
앤트로픽은 클로드를 이용해 페르마의 마지막 정리의 기존 증명을 11일 동안 Lean으로 형식화했다. 이는 새로운 증명을 찾아낸 사례라기보다 기존 수학적 증명을 컴퓨터가 처음부터 끝까지 검증할 수 있는 형태로 전환한 것으로, 최종 결과물에는 약 1300만줄의 Lean 코드가 사용됐다.
수학에서는 형식 검증을 통해 결과를 확인할 수 있지만 생물학이나 소재 연구는 상황이 다르다. AI가 가능성이 높은 가설을 제시하더라도 실제 실험을 통해 결과를 확인하고 실패한 가설을 수정하면서 다음 연구 방향을 정해야 한다. 이에 따라 AI의 추론 능력을 전문 지식과 데이터, 연구 도구, 실험·검증 과정까지 연결하는 시스템 개발이 이어지고 있다.
국내에서는 아스테로모프가 범용 AI 모델과 실제 과학 연구 사이를 연결하는 ‘추론 레이어(reasoning layer)’를 개발하고 있다. 대규모언어모델(LLM)에 분야별 과학 데이터와 전문 도구, 여러 AI 에이전트의 협업·검증 과정을 결합해 반복적인 추론을 거치면서 가설을 발전시키는 구조다.
개념검증(PoC) 시스템 ‘틸라(Thyla) 1.0’은 특정 기반 모델에 종속되지 않는 모델 애그노스틱 구조를 적용했다. 문제에 따라 여러 AI 에이전트와 과학 데이터, 전문 도구를 조합한다.
아스테로모프 자체 평가에서 기반 모델로 사용한 GLM-5.1은 ‘Frontier Science-Research’에서 10.0%를 기록했고 추론 레이어를 적용한 틸라 1.0은 33.9%를 기록했다. 회사는 이를 기반 모델의 성능뿐 아니라 모델 위에서 추론과 검증을 어떻게 구성하는지가 과학 문제 해결 성능에 영향을 줄 수 있다는 결과로 해석했다.
지난 7월 열린 제56회 국제물리올림피아드(IPhO 2026) 이론시험을 이용한 평가도 진행했다. 회사에 따르면 자체 AI 시스템은 실제 참가자와 같은 5시간 동안 외부 AI 모델이나 인터넷에 접속하지 않고 추론과 검증, 답안 작성을 수행해 30점 만점에 28.6점을 받았다.
가설→실험→데이터→다음 가설…AI 연구가 ‘폐쇄루프’로
미국 라일라 사이언스(Lila Sciences)는 AI 모델과 로봇 기반 자율실험실을 결합한 ‘AI Science Factory’를 구축하고 있다. AI가 가설을 만들고 실험을 설계하면 자동화된 실험 환경에서 이를 수행하고 결과 데이터를 다시 모델에 넣어 다음 실험을 설계하는 폐쇄루프 방식이다.
라일라는 이 시스템을 이용해 95만개 이상의 mRNA 서열을 실제 합성하고 살아있는 세포에서 측정한 데이터를 AI 모델 학습에 활용했다. 이후 해당 플랫폼을 체내 CAR-T 연구에 적용했으며 회사가 공개한 비인간 영장류 실험에서는 비교 대상으로 설정한 조성보다 더 깊고 지속적인 B세포 제거 결과를 확인했다고 설명했다.
피리오딕 랩스(Periodic Labs)는 AI와 자율실험실을 결합해 초전도체와 자성 소재 등 새로운 물질을 탐색한다. 실험 결과를 AI가 분석해 다음 실험에 반영하고 새로 만들어진 데이터를 다시 모델 학습에 사용하는 구조다.
회사는 지난 15일 자체 실험실 데이터를 학습에 활용한 1조 파라미터 규모의 ‘Periodic Neon’을 공개했다. 이 모델은 X선 회절(XRD) 데이터를 분석해 실험에서 생성된 물질을 판별하는 데 초점을 맞추고 있으며 실제 실험실에 배치됐다.
디스커버리 루프(Discovery Loop)는 특정 과학 분야보다 연구와 엔지니어링 과정 자체를 AI로 자동화하는 데 초점을 맞춘다. 연구자가 반복해 수행하는 실험 제안과 실행, 결과 분석, 후속 실험 설계를 AI가 연속적으로 처리하고 다수의 실험을 병렬로 수행해 다음 연구 방향을 찾는 구조다. 머신러닝 연구와 엔지니어링을 시작으로 의약품 개발과 의료정보학, 태양에너지, 청정수 등으로 적용 분야를 확대한다는 구상이다.
이들 기업의 접근법은 서로 다르지만 AI를 연구자의 질문에 답하는 도구에서 ‘가설-실험-검증-수정’의 반복 과정에 참여하는 시스템으로 확장한다는 점에서는 맞닿아 있다. AI 모델의 추론 성능 경쟁이 실제 실험 데이터와 연구 장비, 전문 도구를 얼마나 효과적으로 연결할 수 있는지를 겨루는 단계로 이동하는 셈이다.
아스테로모프 관계자는 “향후 과학 AI의 경쟁력은 단순히 벤치마크에서 높은 점수를 내는 것을 넘어 실제 연구 현장에서 의미 있는 가설을 제시하고 이를 실험을 통해 검증하는 과정까지 얼마나 효과적으로 이어갈 수 있느냐에 달려 있다”며 “AI의 추론과 실제 실험을 긴밀하게 연결해 복잡한 과학 연구를 반복 가능한 체계로 만드는 데 집중하겠다”고 말했다.
The post 아스테로모프, 논문 찾던 AI가 가설 세우고 실험까지…‘Scientific AI’ 경쟁 appeared first on 벤처스퀘어.