論文の概要: Adaptive Stopping of Streamed Reasoning for Language Model Agents
- arxiv url: http://arxiv.org/abs/2610.27981v1
- Date: Tue, 20 Oct 2026 10:24:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.761573
- Title: Adaptive Stopping of Streamed Reasoning for Language Model Agents
- Title(参考訳): 言語モデルエージェントのためのストリーム推論の適応的停止
- Abstract要約: StreamStopはモデル固有の停止ポリシーをアクション合意からオフラインで学習する。
凍結プレフィックスリーダは、軽量ストップヘッドの利用可能な推論テキストを符号化する。
WebShopとScienceWorldのクローズドループ評価では、StreamStopは、バリデーション選択された固定予算設定よりも高い評価成功を達成する。
- 参考スコア(独自算出の注目度): 3.70775761503087
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reasoning-enabled language model agents can incur substantial computation before acting, although the reasoning needed varies across decisions. Existing stopping signals, such as confidence and intermediate-answer stability, can vary in effectiveness across reasoning models; signals obtained from hidden states or token probabilities also require internal access that may be unavailable or impractical. We introduce StreamStop, which learns model-specific stopping policies offline from prefix-level action agreement. A frozen prefix reader encodes available reasoning text for a lightweight stop head, allowing stopping without access to the reasoning model's internal signals. We construct and publicly release a dataset of agent reasoning trajectories with prefix-level action annotations. These annotations compare each prefix action with the full-reasoning reference action, enabling offline comparison of stopping rules and exact expected-return optimization of a discounted action-agreement objective. Conditioning the head on the discount factor allows the agreement-token trade-off to be adjusted at inference without retraining. In closed-loop evaluations on WebShop and ScienceWorld, StreamStop achieves higher observed success than most validation-selected fixed-budget settings while using fewer reasoning tokens than Full thinking. On WebShop with Qwen3.8-27B, it uses 42% fewer reasoning tokens per episode with similar observed task success.
- Abstract(参考訳): 推論可能な言語モデルエージェントは、動作する前に相当な計算を発生させることができるが、推論は決定によって異なる。
信頼や中間回答安定性といった既存の停止信号は、推論モデル間で有効性が異なる可能性があるが、隠れ状態やトークン確率から得られる信号は、利用できないか実用的でない可能性のある内部アクセスも必要である。
本稿では,プレフィックスレベルのアクション合意からモデル固有の停止ポリシーをオフラインで学習するStreamStopを紹介する。
フリーズプレフィックスリーダは、軽量のストップヘッド用の利用可能な推論テキストをエンコードし、推論モデルの内部信号にアクセスせずに停止することができる。
我々は,プレフィックスレベルのアクションアノテーションを用いたエージェント推論トラジェクトリのデータセットを構築し,公開する。
これらのアノテーションは、各プレフィックスアクションとフルレソナリング参照アクションを比較し、停止ルールのオフライン比較と、割引されたアクションアグリメント目的の正確な期待と戻りの最適化を可能にする。
ディスカウントファクターの先頭を条件にすることで、再トレーニングすることなく、合意書のトレードオフを推論で調整することができる。
WebShopとScienceWorldのクローズドループ評価では、StreamStopは、検証選択された固定予算設定よりも、完全な思考よりも推論トークンを少なく使用しながら、観察された成功を達成する。
Qwen3.8-27BのWebShopでは、エピソードごとの推論トークンが42%少なくなり、同様のタスクが成功している。
関連論文リスト
- SAFETYEDIT: Sparse Internal Targets with Prompt-Wide Control for LLM Jailbreak Backdoors [23.736424923454763]
モデル編集バックドアは、トリガーの下で有害な応答を誘導し、未使用の入力に対する通常の動作を保存することを目的としている。
最近のモデル編集アプローチは、モデル重みの小さなサブセットへのランクワン更新を通じて、肯定的な応答プレフィックスをターゲットにしている。
本研究では,単一拒絶関連座標を最適化し,初期注意層におけるKV-cacheマーキングを用いてプレフィックストリガー信号の伝搬を行うSAFETYEDITを提案する。
論文 参考訳(メタデータ) (2026-10-15T20:57:15Z) - When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation [107.3164703390355]
本稿では,適応エージェント推論のためのトレーニング手法として,クロスツーリング推定(RACE)による推論適応を提案する。
RACEは、削除が現在のおよびその後の参照アクションに限定的な影響を持つ推論ターンを特定する。
4つの代表エージェントベンチマークの実験により、RASはタスク性能を維持したり改善したりしながら、推論コストを大幅に削減することが示された。
論文 参考訳(メタデータ) (2026-10-08T14:43:09Z) - Controlled Decoding Attacks on Black-Box LLMs [68.46062477706256]
Methodは、繰り返しサンプリングとアシスタント-継続を可能にする、テキストのみの継続インターフェイスを通じてジェイルブレイクを行うためのフレームワークである。
Risk-Gated Residual Controlは、進化する応答プレフィックスを使用して、配布の再構築と修正をいつ行うかを決定する。
Speculative Multi-Token Executionは、介入を必要としないドラフトプレフィックスの検証と受け入れによって、さらにターゲットコールを償却する。
論文 参考訳(メタデータ) (2026-09-29T07:58:49Z) - Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning [76.50676105904442]
遅延テストタイムスケーリングは、推論中に隠れた状態を精錬することで推論を改善する。
既存のメソッドは通常、編集可能な潜在トークンすべてに単一のスカラー報酬を適用する。
Token-Disentangled Latent Test-Time Scalingは、潜在精錬トークンを認識できる推論時間フレームワークである。
論文 参考訳(メタデータ) (2026-09-28T14:10:01Z) - How to Speculate about Uncertainty in Agentic Coding? A Draft-Model Gate Method [4.37919186746582]
ブラックボックスエージェントの予測故障信号を復元する手法である投機的不確実性(SU)を提案する。
我々は、推論とアクションスパンを分離して位相認識の特徴を抽出し、検証対象に対して校正する。
SUは、ルーティング、人間の介入、テストタイムの余分な計算など、ダウンストリームポリシーが直接的に消費できる、障害に似たスコアを生成する。
論文 参考訳(メタデータ) (2026-09-04T15:30:22Z) - Can We Break LLMs Out of Self-Loops? Fine-Grained Reasoning Control with Activation Steering [44.273459587532535]
大規模言語モデルからの推論トレースにおける潜時遷移のダイナミクスを解析し,発見する。
フェールトラジェクトリが自己ループで立ち往生していることを示し、最終回答に向けて前進することなくトークン予算を浪費する。
隠れ状態干渉・活性化による推論過程のステアリングについて提案する。
論文 参考訳(メタデータ) (2026-07-20T16:01:57Z) - Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
モデル・オーガニゼーションのベンチマークであるPandoを紹介します。
Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。
説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
論文 参考訳(メタデータ) (2026-04-13T06:42:24Z) - SPOT: Span-level Pause-of-Thought for Efficient and Interpretable Latent Reasoning in Large Language Models [15.95627037350657]
CoT (Explicit Chain-of-Thought) 計算はトークンレベルのトレースを内部化することによって高い推論コストを発生させる。
固定応答テンプレートを強制せずに、明示的なCoTをコンパクトなポーズトークンに圧縮するフレキシブルなフレームワークであるSPOTを提案する。
推論ベンチマークの実験では、SPOTは生成したトークンを37.5%削減しながら、平均2.3ポイントの精度を向上している。
論文 参考訳(メタデータ) (2026-03-06T12:34:27Z) - Decomposing Reasoning Efficiency in Large Language Models [2.4149105714758545]
我々はトークン効率を、固定されたトークン予算の下での完了、与えられた完了条件の正確性、冗長性といった、解釈可能な要因に分解する。
推論トレースが利用可能であれば、冗長だが拡張された推論からループを分離するために決定論的トレース品質尺度を追加します。
我々の分解は、異なる効率の介入を示唆する異なるボトルネックプロファイルを明らかにします。
論文 参考訳(メタデータ) (2026-02-10T14:09:18Z) - CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。
静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。
LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
論文 参考訳(メタデータ) (2026-02-04T00:12:30Z) - How Does Prefix Matter in Reasoning Model Tuning? [57.69882799751655]
推論(数学)、コーディング、安全性、事実性の3つのコアモデル機能にまたがる3つのR1シリーズモデルを微調整します。
その結果,プレフィックス条件付きSFTでは安全性と推論性能が向上し,Safe@1の精度は最大で6%向上した。
論文 参考訳(メタデータ) (2026-01-04T18:04:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。