論文の概要: Learning to Plan by Looking Back: Hindsight Hierarchies for Training Reasoning Models
- arxiv url: http://arxiv.org/abs/2610.12168v1
- Date: Thu, 08 Oct 2026 15:42:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.124671
- Title: Learning to Plan by Looking Back: Hindsight Hierarchies for Training Reasoning Models
- Title(参考訳): 振り返りによるプランニングの学習:推論モデルの訓練のための隠れ階層
- Abstract要約: 私たちは、以下の3つの機能を示すために、同じモデルを共同でトレーニングすることで、これを運用します。
本稿では,本手法の正式な仕様と,リーン定理証明器で証明された対話的定理の具体的インスタンス化について述べる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a self-improvement loop for reasoning models based on the following observation: Even when the difficulty of a problem exceeds the model's current solving abilities, an additionally supplied solution might enable the model to extract useful solution ideas in hindsight. We operationalize this by jointly training the same model to exhibit the following three capabilities: predicting solution ideas from problems alone, reverse-engineering ideas from problems and known solutions, and solving problems using provided ideas. The loop alternates between reverse engineering such ideas from problems with supplied solutions and using these ideas as additional supervision for joint training of all three capabilities. We give a formal specification of our method and a concrete instantiation for interactive theorem proving in the Lean theorem prover; empirical evaluation remains future work.
- Abstract(参考訳): 問題の難易度がモデルの現在の解能力を超えても、追加で供給されたソリューションは、モデルが後から有用な解のアイデアを抽出することを可能にするかもしれない。
私たちは、同じモデルを共同でトレーニングして、問題のみからソリューションアイデアを予測し、問題や既知のソリューションからアイデアをリバースエンジニアリングし、提供されたアイデアを使って問題解決する、という3つの能力を示すことで、これを運用します。
このループは、供給されたソリューションの問題から、そのようなアイデアをリバースエンジニアリングと交換し、これらのアイデアを3つの能力の合同トレーニングのための追加の監督として使用する。
本稿では,本手法の正式な仕様と,リーン定理証明器で証明された対話的定理の具体的インスタンス化について述べる。
関連論文リスト
- Algorithmic Thinking Theory [32.67988252212099]
このような推論アルゴリズムを解析するための理論的枠組みを導入する。
アーキテクチャ仕様に依存したモデルを理解するためのアプローチとは異なり、我々のモデルは実験的なエビデンスに基礎を置いている。
論文 参考訳(メタデータ) (2025-12-04T15:55:55Z) - Learning Regularization Functionals for Inverse Problems: A Comparative Study [57.289041896491206]
画像の逆問題を解決するための様々な学習された正規化フレームワークが登場した。
これらはフレキシブルなモデリングと数学的洞察を提供する。
利用可能なコードを共通のフレームワークに集め、統一することで、このギャップに対処します。
論文 参考訳(メタデータ) (2025-10-02T07:42:28Z) - Recombinant dynamical systems [0.0]
本稿では,経験に基づく問題解決やタスク学習の概念を捉えようとするコネクショナリストモデルについて述べる。
我々は,このモデルを,明らかに勾配降下手順が存在しない非効率な列生成の計算問題に適用する。
論文 参考訳(メタデータ) (2025-05-19T17:45:10Z) - Imitate, Explore, and Self-Improve: A Reproduction Report on Slow-thinking Reasoning Systems [92.89673285398521]
o1のような推論システムは、複雑な推論タスクを解く際、顕著な能力を示した。
推論モデルをトレーニングするために、模倣、探索、自己改善のフレームワークを導入します。
提案手法は,産業レベルの推論システムと比較して競争性能が向上する。
論文 参考訳(メタデータ) (2024-12-12T16:20:36Z) - REL: Working out is all you need [20.65423513616306]
我々はOpenAIのO1モデルが、明らかに人間的な方法で問題解決にアプローチしていることを観察する。
これらの洗練された推論機能は、他の最先端の言語モデルでは特に欠落している。
論文 参考訳(メタデータ) (2024-12-05T22:32:01Z) - Coding for Intelligence from the Perspective of Category [66.14012258680992]
符号化の対象はデータの圧縮と再構成、インテリジェンスである。
最近の傾向は、これらの2つの分野の潜在的均一性を示している。
本稿では,カテゴリ理論の観点から,インテリジェンスのためのコーディングの新たな問題を提案する。
論文 参考訳(メタデータ) (2024-07-01T07:05:44Z) - Learn Beyond The Answer: Training Language Models with Reflection for Mathematical Reasoning [59.98430756337374]
教師付き微調整により、様々な数学的推論タスクにおける言語モデルの問題解決能力が向上する。
本研究は,手前のトレーニング問題をより深く理解することを目的とした,新しい技術を紹介する。
本稿では,各トレーニングインスタンスに問題反映を埋め込む手法であるリフレクティブ拡張を提案する。
論文 参考訳(メタデータ) (2024-06-17T19:42:22Z) - Deep Generative Models for Decision-Making and Control [4.238809918521607]
この論文の2つの目的は、これらの欠点の理由を研究し、未解決問題に対する解決策を提案することである。
本稿では、ビームサーチを含む現代の生成モデリングツールボックスからの推論手法を、強化学習問題のための実行可能な計画戦略として再解釈する方法について述べる。
論文 参考訳(メタデータ) (2023-06-15T01:54:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。