論文の概要: CoEvo: Oracle-Grounded Self-Evolution of a Single Model for Multi-Step Causal Reasoning

• arxiv url: http://arxiv.org/abs/2609.26094v1
• Date: Tue, 18 Aug 2026 03:29:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.873788
• Title: CoEvo: Oracle-Grounded Self-Evolution of a Single Model for Multi-Step Causal Reasoning
• Title（参考訳）: CoEvo: マルチステップ因果推論のための単一モデルのOracle中心の自己進化
• Abstract要約: マルチステップ因果推論は、各ステップが次に制約する連鎖推論を必要とする。 専門分野においては、中段階の教師 LLM が出現し、安全制約が雲の蒸留を制限し、変化条件の適応が要求される。 正しい連鎖を生成することは難しいが、一つのステップを検証することは容易である。
• 参考スコア（独自算出の注目度）: 5.241146164724621
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-step causal reasoning requires chaining inferences where each step constrains the next. An early error propagates silently, and a correct answer reached via flawed logic evades outcome-level detection. In specialized domains, teacher LLMs err on intermediate steps, safety constraints restrict cloud distillation, and shifting conditions demand adaptation, leaving self-evolution as the practical route. Naive self-evolution can collapse: outcome-only rewards let the model exploit distributional shortcuts, and weak self-evaluation reinforces spurious paths into stable failure patterns. We exploit a key asymmetry: generating a correct chain is hard, but verifying a single step is easy. Many high-stakes domains admit a deterministic, queryable oracle, a physics simulator or rule engine over codified constraints. It checks asserted steps without teacher-level ability and abstains beyond its rules; it can check what the model asserts, never replace it. This enables CoEvo, an oracle-grounded self-evolution framework where a single model alternates between Proposer and Solver. As Solver, the model generates competing chains; intra-group debate exposes disagreement steps, a proxy for the capability boundary, and the oracle adjudicates them into process-level supervision. As Proposer, the same model constructs progressively harder scenarios inside oracle constraints, steering the curriculum toward deep multi-hop chains. Both roles are updated jointly, so training pressure co-evolves with the model. On industrial, clinical, and legal multi-step causal reasoning benchmarks, CoEvo enables an 8B LLM to sustain self-evolution, surpassing distillation baselines and the strongest proprietary reference on path correctness (82.1% vs. 71.4%). The trained model generalizes to unseen categories and systems, preserving root-cause accuracy.
• Abstract（参考訳）: マルチステップ因果推論は、各ステップが次に制約する連鎖推論を必要とする。 早期エラーは静かに伝播し、欠陥論理による正解は結果レベルの検出を回避している。 専門分野において、教師のLLMは中間段階に進み、安全制約は雲の蒸留を制限し、シフト条件は適応を要求し、自己進化を実践的なルートとして残している。 結果のみの報酬により、モデルは分散的なショートカットを活用でき、弱い自己評価は、安定した障害パターンへの急激なパスを強化する。 正しい連鎖を生成することは難しいが、一つのステップを検証することは容易である。 多くのハイテイクドメインは、決定論的でクエリ可能なオラクル、物理シミュレータまたはルールエンジンを符号化された制約として受け入れている。 教師レベルの能力なしでアサートされたステップをチェックし、そのルールを越えてアサートする。 これにより、CoEvoは、ProposerとSolverを1つのモデルで交互に使用する、オラクルで構築された自己進化フレームワークである。 グループ内での議論は、不一致のステップ、能力境界のプロキシを公開し、オラクルはそれらをプロセスレベルの監視に適応させる。 Proposerとして、同じモデルは、オラクルの制約の中で徐々に難しいシナリオを構築し、カリキュラムを深いマルチホップチェーンに向けて操縦する。 どちらの役割も共同で更新されるので、トレーニングのプレッシャーはモデルと共進化する。 産業、臨床、法的な多段階因果推論ベンチマークにおいて、CoEvoは8B LLMが自己進化を維持し、蒸留ベースラインを超越し、パスの正確性(82.1%対71.4%)に関する最強のプロプライエタリな基準を達成している。 トレーニングされたモデルは、未確認のカテゴリやシステムに一般化され、根本原因の精度が保たれる。

関連論文リスト

• STRETCH the Boundaries: A Unified Self-Taught Framework for Progressive LLM Evolution [5.942312351575627]
  大規模言語モデル(LLM)は、自己改善トレーニングにおいて能力の停滞に悩まされることが多い。 本稿では,認知的足場理論に触発された統合フレームワークSTRETCH(Self-Taught Reasoning Evolution via Targeted CHallenge)を提案する。
  論文  参考訳（メタデータ） (2026-09-16T13:27:16Z)
• On the Generalization Gap in Self-Evolving Language Model Reasoning [16.207017999660653]
  統合オフライン自己進化フレームワークにおける4つの代表的な戦略を解析する。 自己進化はベースモデルよりも一貫して改善されるが、過剰なトレーニング計算の後に高原が投資される。 Gemma 12Bはオラクルの教師付きトレーニングにほぼ一致するので,大規模モデルによるマルチターン批評家のリビジョンは,強力な自己進化性能に達することが判明した。
  論文  参考訳（メタデータ） (2026-05-31T07:43:19Z)
• AnE: Pushing the Reasoning Frontier of Multimodal LLMs via Anchor Evolution [61.593935260052795]
  Supervised Fine-Tuning (SFT) とReinforcement Learning (RL) による後学習は多モーダル大規模言語モデル(MLLM)における推論の強化に不可欠である 既存のパラダイムは、静的データの制限により、しばしばパフォーマンスのボトルネックに達する。 我々は,真理に順応したデータキュレーションとモデル進化を統合する新しいパラダイムであるアンカー進化(AnE)を提案する。
  論文  参考訳（メタデータ） (2026-05-25T08:26:34Z)
• LC-ERD: Mining Latent Logic for Self-Evolving Reasoning via Consistency-Regulated Reward Decomposition [55.572260012037084]
  本稿では, LC-ERD (Logic-Consistent Endogenous Reward Decomposition) を紹介する。 モデルの潜在論理エキスパートズ(Latent Logic Expertise)からのコンセンサスを集約することで、変分論理ポテンシャルを導出する。 LC-ERDは、論理の一貫性と正確性の間のトレードオフを明らかにする、堅牢な自己進化パスを提供する。
  論文  参考訳（メタデータ） (2026-05-19T07:27:50Z)
• CoVerRL: Breaking the Consensus Trap in Label-Free Reasoning via Generator-Verifier Co-Evolution [52.691495954442985]
  CoVerRLは1つのモデルがジェネレータと検証ロールを交換するフレームワークで、各機能が他方をブートストラップする。 Qwen と Llama のモデルファミリーでの実験では、CoVerRL は数理推論のベンチマークで4.7-5.9% でラベルなしのベースラインを上回っている。 自己検証の精度は55%から85%以上改善され、両方の能力が真に共存することを確認した。
  論文  参考訳（メタデータ） (2026-03-18T14:38:55Z)
• Evolving, Not Training: Zero-Shot Reasoning Segmentation via Evolutionary Prompting [44.347846669388446]
  推論時間進化探索プロセスとして推論セグメントを再構成するゼロショットフレームワークEVOL-SAM3を提案する。 EVOL-SAM3は静的ベースラインを大幅に上回るだけでなく、ゼロショット設定で挑戦するReasonSegベンチマークにおいて、完全に教師された最先端メソッドをはるかに上回る。
  論文  参考訳（メタデータ） (2025-12-31T08:10:03Z)
• Evolving Language Models without Labels: Majority Drives Selection, Novelty Promotes Variation [74.75716642635484]
  大規模言語モデル(LLM)は、検証可能な報酬(RLVR)からの強化学習でますます訓練されている 本稿では,ラベルのないフレームワークEVOL-RLを提案する。 EVOL-RLは、多数派のみのベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2025-09-18T17:50:04Z)
• Language Models are Hidden Reasoners: Unlocking Latent Reasoning Capabilities via Self-Rewarding [74.31981011985681]
  大きな言語モデル(LLM)は印象的な機能を示しているが、それでも複数のステップを必要とする複雑な推論タスクに苦戦している。 LaTRO(LaTent Reasoning Optimization)は、潜在分布からのサンプリングとして推論を定式化するためのフレームワークである。 複数のモデルアーキテクチャを用いて、GSM8KおよびARC-Challengeデータセットの実験を通してLaTROを検証する。
  論文  参考訳（メタデータ） (2024-11-06T22:02:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。