論文の概要: daVinci-Prover: Agent-Native Mid-Training for Formal Theorem Proving
- arxiv url: http://arxiv.org/abs/2611.16433v1
- Date: Thu, 12 Nov 2026 07:44:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.392524
- Title: daVinci-Prover: Agent-Native Mid-Training for Formal Theorem Proving
- Title(参考訳): daVinci-Prover: フォーマルな理論証明のためのエージェント負のミッドトレーニング
- Abstract要約: エージェント・プローバーは、基底定理証明やエージェント・トラジェクトリに先立って、強力な数学的スキルを必要とすることを示す。
私たちはdaVinci-Proverのハーネスを導入し、モデルが証明を構築し、リーン検証器と対話できるようにする。
トレーニング中のレシピでは,一致したQwen3-8B SFTのみのベースラインよりも平均13.7ポイント向上した。
- 参考スコア(独自算出の注目度): 41.211312867038394
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Advances in large language models (LLMs) are rapidly transforming formal theorem proving. Yet further progress remains constrained by the lack of a transparent and effective data recipe for systematically improving theorem-proving models. In this work, we argue that effective agentic provers require strong mathematical skill priors to ground theorem proving and agentic trajectories to enable long-horizon, interactive proof construction. To this end, we synthesize an agent-native 33.7B-token mid-training corpus covering decomposition, search, self-verification, and revision, together with verifier-grounded agentic trajectories. We further introduce the daVinci-Prover harness, which enables models to construct proofs and interact with a Lean verifier in an isolated workspace, and use it to collect approximately 36K high-quality agent trajectories for supervised fine-tuning. Our mid-training recipe yields an average improvement of 13.7 points over the matched Qwen3-8B SFT-only baseline across MiniF2F, FATE-M, and ProofNet. When applied to the Qwen3.5 series, our approach also yields strong performance across theorem-proving benchmarks and achieves near-saturating MiniF2F performance with memory compaction. The results highlight agent-native mid-training as an effective foundation for developing stronger interactive theorem-proving agents.
- Abstract(参考訳): 大規模言語モデル(LLM)の進歩は、急速にフォーマルな定理を証明している。
さらに、定理証明モデルを改善するための透明で効果的なデータレシピが欠如していることにより、さらなる進歩は引き続き制限される。
本研究では,実効的なエージェント・プローサは,長期の対話的証明構築を可能にするために,地上定理証明やエージェント・トラジェクトリに先立って,強力な数学的スキルを必要とすることを論じる。
そこで本研究では, 分解, 探索, 自己検証, 修正を含むエージェントネイティブ33.7Bの中間訓練コーパスを, 検証対象のエージェント軌道とともに合成する。
さらに、daVinci-Proverのハーネスを導入し、モデルが独立したワークスペースで証明を構築し、リーン検証器と対話できるようにし、それを約36Kの高品質エージェントトラジェクトリを収集して教師付き微調整を行う。
我々の中級トレーニングのレシピは、MiniF2F、FATE-M、ProofNetでマッチしたQwen3-8B SFTのみのベースラインよりも平均13.7ポイント向上した。
Qwen3.5 シリーズに適用すると,提案手法は定理証明ベンチマークにまたがって高い性能を示し,メモリ圧縮によるほぼ飽和の MiniF2F 性能を実現する。
その結果、より強力な対話的定理提示エージェントを開発するための効果的な基盤として、エージェントネイティブなミッドトレーニングが強調された。
関連論文リスト
- OProver: A Unified Framework for Agentic Formal Theorem Proving [33.14658302112269]
OProverは、Lean 4.0で証明された代理的な形式的な反復定理のための統一されたフレームワークである。
エージェント証明を実行し、新たに証明された証明をOProofsと検索メモリにインデックスし、修理軌跡をSFTデータとして使用し、未解決のハードケースをRLに使用する。
OProver-32BはMiniF2F (93.3%)、ProverBench (58.2%)、PutnamBench (11.3%)で最高のパス@32を獲得し、MathOlympiad (22.8%)、ProofNet (33.2%)で上位にランクインしている。
論文 参考訳(メタデータ) (2026-05-17T06:39:05Z) - MA-LoT: Model-Collaboration Lean-based Long Chain-of-Thought Reasoning enhances Formal Theorem Proving [30.112351299773632]
この問題を解決するために,我々はLean4定理の包括的なフレームワークを提案する。
一般的なNLの認識タスクを完全防御生成と証明修正のための誤り解析に分離する。
我々のフレームワークは、MiniF2F-TestデータセットのLean4バージョンにおいて**61.07%*の精度を達成する。
論文 参考訳(メタデータ) (2025-03-05T05:50:31Z) - Theorem Prover as a Judge for Synthetic Data Generation [22.124954482278536]
RLHF(Reinforcement Learning from Human Feedback)において、人間のアノテーションを定理証明に置き換える枠組みを提案する。
複数の大規模言語モデル(LLM)でTP-as-a-JudgeとRFを適用し、ベンチマークをわずか3,508サンプルで改善し、MultiArithmのMistral-7Bで5.56%の精度を達成した。
論文 参考訳(メタデータ) (2025-02-18T18:57:09Z) - ProofAug: Efficient Neural Theorem Proving via Fine-grained Proof Structure Analysis [50.020850767257095]
本稿では,LLMに様々な粒度で自動化手法を付加するProofAugを提案する。
本手法は,オープンソースのDeep-math-7bベースモデルとIsabelle証明アシスタントを用いて,MiniF2Fベンチマークで検証した。
また、ProofAugのLean 4バージョンを実装し、Kimina-Prover-seek-Distill-1.5Bのパス@1のパフォーマンスを44.3%から50.4%に改善します。
論文 参考訳(メタデータ) (2025-01-30T12:37:06Z) - Alchemy: Amplifying Theorem-Proving Capability through Symbolic Mutation [71.32761934724867]
この研究は、記号的突然変異を通じて形式的な定理を構成するデータ合成のフレームワークであるAlchemyを提案する。
マドリブにおける各候補定理について、書き直しや適用に使用できるすべてのイベーシブルな定理を同定する。
その結果、マドリブの定理の数は110kから6Mへと桁違いに増加する。
論文 参考訳(メタデータ) (2024-10-21T08:04:21Z) - MUSTARD: Mastering Uniform Synthesis of Theorem and Proof Data [85.50740598523818]
MUSTARDは、高品質で多様性のある定理と証明データの均一な合成をマスターするフレームワークである。
5,866個の有効なデータポイントを持つMUSTARDSAUCEベンチマークを示す。
我々は広範囲な解析を行い、MUSTARDが検証された高品質なステップバイステップデータを生成することを示す。
論文 参考訳(メタデータ) (2024-02-14T05:57:58Z) - Proof Artifact Co-training for Theorem Proving with Language Models [4.934817254755007]
PACT(bf Proof bf Artifact bf Co-bf Training)は、カーネルレベルのコトレーニング用証明項から自己教師付きデータを抽出する一般的な手法である。
我々は、Transformer言語モデルによって駆動されるニューラル定理証明器でリーンを計測し、PACTがテスト定理の保留組における成功率を証明する定理を32%から48%に改善することを示す。
論文 参考訳(メタデータ) (2021-02-11T18:59:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。