CalibForge: 학습 가능한 터미널 작업을 위한 적대적 솔버 보정 시스템

핵심 요약

• 무엇을 · 이 연구는 인공지능 에이전트가 학습하기에 적절한 난이도의 '터미널 작업'(실행 및 검증 가능한 프로그래밍 작업)을 자동으로 생성하는 시스템인 CalibForge를 제안합니다.
• 어떻게 · CalibForge는 '적대적 솔버 보정'이라는 방식을 사용합니다. 이는 여러 종류의 솔버(문제 해결 프로그램)를 활용하여 후보 작업의 난이도를 조정하는 것입니다. '다중 솔버 보정'은 다양한 솔버들의 의견 불일치를 활용하고, '대조 솔버 보정'은 특정 솔버가 잘 풀지만 다른 솔버는 풀지 못하는 관계를 목표로 합니다. 이 두 가지 전략을 통해 솔버의 능력에 맞춰 학습에 가장 적합한 난이도 영역을 찾아 작업을 만듭니다.
• 결과 · CalibForge를 사용하여 총 5,431개의 보정된 터미널 작업을 생성했습니다. 이 작업들로 훈련된 모델은 기존 방식보다 훨씬 더 효과적인 학습 성과를 보였습니다. 특히, Terminal-Bench 2.0에서 24.71%p, SWE-bench Pro에서 27.68%p, Doc2Repo에서 30.04%p의 성능 향상을 달성했습니다. 이는 솔버의 능력에 맞춰 학습 가능한 작업을 만드는 것이 효과적인 에이전트 훈련 데이터를 구축하는 데 실용적임을 보여줍니다.

왜 중요한가

기존에는 AI 에이전트 학습을 위한 프로그래밍 작업을 사람이 직접 만들거나 단순히 실행 가능성만 검증하는 방식이었습니다. 하지만 이 방식으로는 에이전트가 효과적으로 학습하기에 적절한 난이도의 작업을 대규모로 얻기 어려웠습니다. CalibForge는 이 문제를 해결하여 에이전트 학습의 효율성을 크게 높일 수 있습니다.

실생활·산업 영향

이 기술은 소프트웨어 개발, 코드 생성, 자동화된 문제 해결 등 다양한 분야에서 AI 에이전트의 훈련 데이터를 자동으로 생성하고 개선하는 데 활용될 수 있습니다. 이를 통해 AI 에이전트의 개발 및 성능 향상에 기여할 수 있습니다.

한계·주의

초록에는 CalibForge 시스템 자체의 구체적인 한계점이 명시되어 있지 않습니다. 다만, '솔버-상대적 학습 가능성'이라는 개념에 기반하고 있으므로, 사용되는 솔버들의 성능이나 다양성에 따라 생성되는 작업의 품질이 달라질 수 있습니다.