論文の概要: Forecasting Future Behavior as a Learning Task

• arxiv url: http://arxiv.org/abs/2606.11445v1
• Date: Tue, 09 Jun 2026 20:56:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.178728
• Title: Forecasting Future Behavior as a Learning Task
• Title（参考訳）: 学習課題としての将来の行動予測
• Authors: Mosh Levy, Yoav Goldberg, Asa Cooper Stickland,
• Abstract要約: 我々は、単一の推論軌道で操作する振る舞い予測器を訓練し、説明から求めるのと同じ予測を行う。 提案手法は,再実行時に LRM が解答を繰り返す確率と,入力部分の削除が解答をどう変えるかという2つのタスクで評価する。
• 参考スコア（独自算出の注目度）: 25.073460373115733
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Trust in an AI system is often anchored by explanations of how it works, which one then uses to forecast its behavior on new inputs. For large reasoning models (LRMs), this conventional route is particularly difficult to follow: explanation methods for single token generations do not naturally generalize to long trajectories, and the trajectories themselves are often not faithful when read as natural language. We propose an alternative that bypasses the explanation step: treat behavior forecasting as a learnable task and train Behavior Forecasters that operates on a single reasoning trajectory to make the same forecasts one would typically seek from an explanation. The forecaster's training data is obtained by querying the LRM with no human annotation, and its inference is done in a single forward pass. We instantiate this approach on two tasks: how likely the LRM is to repeat its answer on re-runs, and how removing parts of the input changes its answer. We evaluate this approach on both tasks across three diverse reasoning datasets and find that trained Behavior Forecasters are more accurate than GPT-5.4 and Claude Opus-4.6 reading the same trajectories as naive readers, at a small fraction of their inference cost. We find that fine-tuning the backbone end-to-end and initializing it from the target LRM are each necessary for strong performance. These results show that the reasoning trajectory carries information about the LRM's future behavior that goes beyond what naive reading conveys.
• Abstract（参考訳）: AIシステムの信頼はしばしば、それがどのように機能するかの説明によって固定され、新しい入力に対してその振る舞いを予測するために使用される。 大きな推論モデル(LRM)では、この手法は特に従うのが困難である: 単一トークン生成のための説明法は、自然に長い軌跡に一般化するものではなく、トラジェクトリ自体が自然言語として読むときに忠実でないことが多い。 行動予測を学習可能なタスクとして扱うことと、単一の推論軌道上で動作している行動予測者を訓練することで、説明から求めるのと同じ予測を行う方法を提案する。 予測者のトレーニングデータは、人間のアノテーションを伴わずにLRMをクエリして取得し、その推論は単一のフォワードパスで実行される。 このアプローチを2つのタスクでインスタンス化します。再実行時に LRM がその回答を繰り返す確率と、入力の一部を削除する方法です。 この手法は3つの多様な推論データセットにまたがって評価され、トレーニングされた行動予測器はGPT-5.4やClaude Opus-4.6より精度が高いことが判明した。 バックボーンをエンド・ツー・エンドに微調整し、ターゲットのLEMから初期化することは、それぞれが強い性能を実現するために必要である。 これらの結果から, 推論軌跡は, 自然読影が伝達する範囲を超えて, LRMの今後の行動に関する情報を伝達することが明らかとなった。

関連論文リスト

• Predicting Future Behaviors in Reasoning Models Enables Better Steering [35.89008737242842]
  テストタイムステアリングは、隠れた表現を介入することで大きな推論モデル(LRM)を制御するが、出力品質を低下させることができる。 我々は、事前のステアリング作業は、すでに生成されたテキストの振る舞いを検出する内部機能に暗黙的に依存していると論じる。 我々は、中間推論ステップから将来の行動可能性を予測するために、アクティベーションプローブを訓練する。 これらのプローブは64%-91%の精度で最も起こりそうな振る舞いを予測し、内部予測の異なるタイプの特徴を明らかにした。
  論文  参考訳（メタデータ） (2026-06-09T17:49:24Z)
• Monitoring the Internal Monologue: Probe Trajectories Reveal Reasoning Dynamics [42.27928681606673]
  大規模推論モデル (LRM) は, 思考の連鎖 (CoT) 推論を通じて, 安全監視のための新たな機会を導入する。 本研究では,LRMの隠れ表現について検討し,今後の挙動をプロンプトおよびCoT表現から予測できるかどうかを検証した。 将来のモデル行動は, 単一の静的予測より, 完全な軌道上での検証において, より区別し易いことが判明した。
  論文  参考訳（メタデータ） (2026-05-18T15:29:04Z)
• Metacognitive Reuse: Turning Recurring LLM Reasoning Into Concise Behaviors [45.578570554635775]
  大規模言語モデル(LLM)は、思考の連鎖を拡大することによって、多段階の問題を解決する。 再帰的推論の断片を簡潔かつ再利用可能な「行動」に変換する簡単なメカニズムについて検討する。 これらの振る舞いは"振る舞いハンドブック"に格納され、推論時のモデルインコンテキストにそれらを供給するか、教師付き微調整によってパラメータに蒸留する。
  論文  参考訳（メタデータ） (2025-09-16T16:44:26Z)
• CoLD: Counterfactually-Guided Length Debiasing for Process Reward Models [29.95434387343843]
  本稿では,3つのコンポーネントによる長さバイアスを緩和する統合フレームワークを提案する。 CoLDは一貫して報酬長相関を減少させ、ステップ選択の精度を改善し、より簡潔で論理的に妥当な推論を促進する。
  論文  参考訳（メタデータ） (2025-07-21T15:07:59Z)
• Improve Vision Language Model Chain-of-thought Reasoning [86.83335752119741]
  視覚言語モデル(VLM)におけるチェーン・オブ・シント(CoT)推論は、解釈可能性と信頼性を向上させるために不可欠である。 我々は,より詳細な回答を必要とする推論タスクに対して,短時間でVLMを訓練することはよくないことを示す。
  論文  参考訳（メタデータ） (2024-10-21T17:00:06Z)
• Understanding Reasoning Ability of Language Models From the Perspective of Reasoning Paths Aggregation [110.71955853831707]
  我々は、LMを、事前学習時に見られる間接的推論経路を集約することで、新たな結論を導出すると考えている。 我々は、推論経路を知識/推論グラフ上のランダムウォークパスとして定式化する。 複数のKGおよびCoTデータセットの実験と分析により、ランダムウォークパスに対するトレーニングの効果が明らかにされた。
  論文  参考訳（メタデータ） (2024-02-05T18:25:51Z)
• You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory Prediction [52.442129609979794]
  軌道予測のための最近の深層学習手法は有望な性能を示す。 そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。 本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2021-10-11T14:24:15Z)
• Injecting Knowledge in Data-driven Vehicle Trajectory Predictors [82.91398970736391]
  車両軌道予測タスクは、一般的に知識駆動とデータ駆動の2つの視点から取り組まれている。 本稿では,これら2つの視点を効果的に結合する「現実的残留ブロック」 (RRB) の学習を提案する。 提案手法は,残留範囲を限定し,その不確実性を考慮した現実的な予測を行う。
  論文  参考訳（メタデータ） (2021-03-08T16:03:09Z)
• Value-driven Hindsight Modelling [68.658900923595]
  値推定は強化学習(RL)パラダイムの重要な構成要素である。 モデル学習は、観測系列に存在する豊富な遷移構造を利用することができるが、このアプローチは通常、報酬関数に敏感ではない。 この2つの極点の間に位置するRLにおける表現学習のアプローチを開発する。 これにより、タスクに直接関連し、値関数の学習を加速できる、抽出可能な予測ターゲットが提供される。
  論文  参考訳（メタデータ） (2020-02-19T18:10:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。