오픈AI, 에이전틱 AI 과학 연구 혁신… 검증 한계는 과제

오픈AI가 자율 코딩 에이전트를 활용해 과학 계산 소프트웨어를 개선한 현장 보고서를 공개하며 연구 자동화의 결론을 제시했다. 오픈AI 오피셜이 지난 7월 28일(현지시각) 이 같은 내용을 담은 탐색적 연구 결과를 보도했다.


이번 연구는 생명과학 분야 8개 프로젝트를 대상으로 진행했다. 연구진은 5개 과제에 코덱스를 단독으로 적용했다. 나머지 3개 과제에는 코덱스와 클로드 코드를 함께 도입했다.

대표 사례인 유전체 데이터 분석 라이브러리 cyvcf2 작업에서는 GPT-5.5를 활용했다. GPT-5.5는 낡은 빌드 시스템을 하나로 통합하는 절차를 설계했다. 그 결과 프로그램 설치와 테스트 과정을 개선했다. 개발에 참여한 브렌트 페더슨은 개발 속도는 빨라졌으나 과학적 성과를 도출하려면 전문가의 세심한 관리가 여전히 필요하다고 평가했다.

AI 에이전트는 코드 구현 속도를 크게 높였다. 반면 작업 결과가 과학적으로 타당한지 스스로 판단하지는 못했다.

에이전트는 명확한 오류가 있는 코드에도 높은 확신을 표명하는 한계를 보였다. 연구진은 기존 도구와의 결과 비교나 통계적 검증으로 오차를 잡았다. 초기 구현은 신속하게 이뤄지지만, 예외 처리를 조정하는 마지막 단계는 연구자의 정교한 개입이 결정한다.

AI 에이전트 도입과 외부 지표 기반 검증 시스템의 결합은 이전의 단일 프롬프트 방식보다 환각 현상을 현저히 억제한다.

오픈AI 오피셜 보고서에 따르면 에이전트의 오류 확신 문제를 사전에 정의된 시뮬레이션 및 수치 대조 기법으로 걸러냄으로써 환각으로 인한 오류 전파를 효과적으로 방지한다. 이와 같은 다단계 검증 체계는 AI의 속도 이점은 살리고 자의적 오답 출력을 통제해 소프트웨어의 안정성을 한층 높인다.

김주원 글로벌이코노믹 기자 park@g-enews.com