論文の概要: Counterfactual Self-Evolving Agents for Evidence-Grounded Reasoning
- arxiv url: http://arxiv.org/abs/2609.32870v1
- Date: Sat, 26 Sep 2026 18:54:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 19:28:39.240803
- Title: Counterfactual Self-Evolving Agents for Evidence-Grounded Reasoning
- Title（参考訳）: Evidence-Grounded Reasoningのための非現実的自己進化剤
- Abstract要約: セルフプレイプロジェクタ-ソルバ手法は、タスクを生成し、検証されたソリューションから学習することで推論を改善する。
そこで,本論文では,原事例を再考するための反実的文脈を生成する反実的自己進化について紹介する。
トレーニング可能なプロポーラは、対象とするエビデンスを編集し、因果的説明で潜在的な結果の変化を記述する。
- 参考スコア（独自算出の注目度）: 35.98610301736344
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-play proposer--solver methods improve reasoning by generating tasks and learning from verified solutions. However, for evidence-identifiable tasks, where case-specific evidence and domain knowledge determine a checkable answer, self-play requires generating plausible cases whose answers can be independently verified. We introduce counterfactual self-evolution, which generates counterfactual context for reconsidering the original case. A trainable Proposer constructs targeted evidence edits and describes potential outcome changes with causal explanations. We handcraft an expert-verified counterfactual instruction-tuning dataset to teach the Proposer to generate high-quality counterfactuals across a broad range of action--outcome scenarios. Each counterfactual instruction-tuning example specifies an edit within a defined category and explains its hypothesized causal effect on the decision, teaching the Proposer to reason systematically about what changes and why. We instruction-tune the Proposer on these examples, then formulate a fine-tuning reward that integrates feedback from the Solver and Verifier. Across diverse counterfactual scenarios, this reward favors high-quality counterfactuals and warranted revisions, while penalizing changes that overturn correct decisions. The counterfactual context aims to correct errors and strengthen confidence in correct decisions. Accepted counterfactuals accumulate in memory that supplies in-context evidence to the frozen Solver; the Solver adapts through evolving context rather than weight updates. We apply the framework to clinical reasoning, fact verification, and business reasoning. Our evaluation tracks performance over successive rounds as counterfactual memory grows, including transfer to harder cases. Our method achieves superior results across diverse frontier models.
- Abstract（参考訳）: セルフプレイプロジェクタ-ソルバ手法は、タスクを生成し、検証されたソリューションから学習することで推論を改善する。
しかし、ケース固有の証拠とドメイン知識がチェック可能な答えを決定するエビデンス特定タスクでは、セルフプレイは、独立して答えを検証できる妥当なケースを生成する必要がある。
そこで,本論文では,原事例を再考するための反実的文脈を生成する反実的自己進化について紹介する。
トレーニング可能なプロポーラは、対象とするエビデンスを編集し、因果的説明で潜在的な結果の変化を記述する。
我々は、専門家が検証した偽物検出データセットを手作りし、Proposerに幅広いアクション・アウトカムシナリオで高品質な偽物を生成するように教える。
それぞれのカウンターファクトインストラクションチューニングの例は、定義されたカテゴリ内で編集を定義し、その決定に対する仮説上の因果効果を説明し、プロポーラに、どのような変更と理由を体系的に推論するように教える。
これらの例についてProposerを指示-チューニングし、SolverとVerifierからのフィードバックを統合する微調整の報酬を定式化する。
様々な反事実的シナリオにまたがって、この報酬は高品質な反事実と保証された修正を好んでおり、一方で正しい決定を覆す変更を罰する。
反事実的文脈は、誤りを訂正し、正しい決定に対する信頼を強化することを目的としている。
受容された反事実は記憶に蓄積され、凍ったソルバーに文脈証拠を供給する。
この枠組みを臨床推論、事実検証、ビジネス推論に適用する。
本評価では, 実効記憶の増大に伴い, 連続ラウンドでの性能が向上し, ハードケースへの転送が困難になった。
本手法は様々なフロンティアモデルに対して優れた結果が得られる。
関連論文リスト
- Counterfactual Explanations and the Scope of Contestability [0.0]
本稿では,特定の知識の提供によってエージェンシーを復活させる方法について述べる。
我々は、特定のタイプの説明、反事実的説明が、アルゴリズム決定に異議を唱える能力を促進するかどうかを論じる。
論文 参考訳（メタデータ） (2026-08-25T13:45:16Z) - ReflectFact: Self-Reflective Agents for Improving Comprehension and Reasoning in Multi-Hop Fact Verification [10.886692231174358]
マルチホップ事実検証は、ソーシャルメディア上の誤情報と戦うために重要である。
最近の手法は、事実検証を専門のサブタスクに分解するために、マルチエージェントのコラボレーションに依存している。
マルチホップ事実検証のための新しい自己表現型エージェントフレームワークであるReflectFactを提案する。
論文 参考訳（メタデータ） (2026-08-13T06:41:56Z) - Refinement Provenance Inference: Detecting LLM-Refined Training Prompts from Model Behavior [58.751981587234916]
本稿では,Refinement Provenance Inference (RPI)監査タスクをRefinement Provenance Inference (RPI)として定式化する。
本稿では,ロジットレベルの信号で教師が強制する可能性機能を融合させるロジットベースのフレームワークであるReProを提案する。
トレーニング中、ReProはシャドウファインチューニングを通じて転送可能な表現を学び、訓練データアクセスなしで、見えない犠牲者の証明を推測するために軽量のリニアヘッドを使用する。
論文 参考訳（メタデータ） (2026-01-05T10:16:41Z) - Mitigating Spurious Correlations Between Question and Answer via Chain-of-Thought Correctness Perception Distillation [25.195244084313114]
CoPeD (Chain-of-Thought Correctness Perception Distillation) は,学生モデルの推論品質の向上を目的としている。
CoPeDは学生モデルに対して、正しい合理性に基づいて回答を予測し、誤ったときに修正するよう推奨する。
論文 参考訳（メタデータ） (2025-09-06T05:33:17Z) - STRIVE: Structured Reasoning for Self-Improvement in Claim Verification [30.15803409441136]
自己改善検証のための構造化推論を提案する。
本稿では,Crim Decomposition,Entity Analysis,Evidence Grounding Verificationを用いた構造化推論設計を提案する。
その後、すべてのトレーニング例に対して推論連鎖を生成するために適用され、その後の自己改善トレーニングのために正確で構造的に健全なもののみを選択する。
論文 参考訳（メタデータ） (2025-02-17T16:07:07Z) - ReCEval: Evaluating Reasoning Chains via Correctness and Informativeness [67.49087159888298]
ReCEvalは2つの重要な特性(正確性と情報性)を通じて推論チェーンを評価するフレームワークである。
本稿では、ReCEvalが様々なエラータイプを効果的に識別し、従来の手法と比較して顕著な改善をもたらすことを示す。
論文 参考訳（メタデータ） (2023-04-21T02:19:06Z) - Generating Fact Checking Explanations [52.879658637466605]
まだ欠けているパズルの重要なピースは、プロセスの最も精巧な部分を自動化する方法を理解することです。
本稿では、これらの説明を利用可能なクレームコンテキストに基づいて自動生成する方法について、最初の研究を行う。
この結果から,個別に学習するのではなく,両目標を同時に最適化することで,事実確認システムの性能が向上することが示唆された。
論文 参考訳（メタデータ） (2020-04-13T05:23:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。