論文の概要: When Reasoning Goes Astray: Attention Dynamics of Uncontrolled Reasoning

• arxiv url: http://arxiv.org/abs/2609.38817v1
• Date: Wed, 30 Sep 2026 02:44:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.052419
• Title: When Reasoning Goes Astray: Attention Dynamics of Uncontrolled Reasoning
• Title（参考訳）: 推論がアストレイになるとき:制御不能な推論の注意ダイナミクス
• Abstract要約: 大規模推論モデル(LRM)は、拡張推論によって複雑なタスクのパフォーマンスを向上させる。 LRMは冗長な検証と永続的な生成ループに縮退する。 既存の緩和は、長い出力を断ち切るか、表面の繰り返しに反応する。
• 参考スコア（独自算出の注目度）: 18.663090251940822
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large reasoning models (LRMs) improve performance on complex tasks through extended reasoning, yet the same process can degenerate into redundant verification and persistent generation loops. Such uncontrolled reasoning increases inference cost and creates risks of resource exhaustion and service degradation. However, existing mitigations largely truncate long outputs or react to surface repetition, and thus fail to distinguish normal thinking from uncontrolled reasoning or explain how benign reasoning degenerates into harmful behavior. In this paper, we operationalize LRM generation as four states and further introduce Reasoning-state Analysis via Dynamic Attention Responses (RADAR), which identifies the current reasoning state in real time and characterizes how effective reflection can develop into uncontrolled generation. Guided by RADAR's analysis, we further realign abnormal attention distributions toward patterns observed in normal requests and examine how this correction affects excessive reflection and persistent looping. Temporal analyses show that uncontrolled reasoning is characterized by attention distributions that deviate from normal generation, with abnormal trends becoming detectable before repetition begins. Correcting these deviations through Attention Realignment consistently reduces looping while largely preserving benign performance. Together, RADAR provide a mechanistic account of how reasoning becomes uncontrolled, offering actionable guidance for identifying critical failure stages and designing targeted runtime interventions.
• Abstract（参考訳）: 大きな推論モデル(LRM)は、拡張された推論によって複雑なタスクのパフォーマンスを改善するが、同じプロセスは冗長な検証と永続的な生成ループへと退化できる。 このような制御されていない推論は推論コストを増大させ、資源の枯渇やサービス劣化のリスクを生じさせる。 しかし、既存の緩和は、主に長い出力を減らしたり、表面の繰り返しに反応するので、制御されていない推論と通常の思考を区別したり、良心的な推論が有害な振る舞いにどのように退化するかを説明するのに失敗する。 本稿では,LRM生成を4つの状態として運用し,動的注意応答による推論状態解析(RADAR)を導入する。 RADARの分析により、通常の要求で観測されたパターンに対する異常な注意分布がさらに認識され、この補正が過度な反射と持続ループに与える影響について検討する。 時間的分析により、制御されていない推論は、通常発生から逸脱する注意分布によって特徴づけられ、異常な傾向は繰り返し開始前に検出可能であることが示された。 Attention Realignmentによるこれらの逸脱の修正は、ループを一貫して減らし、良質なパフォーマンスを保ちます。 RADARは、重要な障害ステージを特定し、ターゲットとするランタイム介入を設計するための実用的なガイダンスを提供する。

関連論文リスト

• Uncovering Uncontrolled Repetition through Residual Stream Dynamics [21.463950896957257]
  制御不能な繰り返しは、大きな言語モデルにおける自己回帰生成を長引かせる可能性がある。 本稿では, 残留力学から繰り返し発生する異常を同定し, 局所化する手法を提案する。 実験により、Tokenwise Residual Comparisonは、制御されていない繰り返しを効果的に軽減し、ループレートを平均57%減少させることが示された。
  論文  参考訳（メタデータ） (2026-09-30T02:33:50Z)
• Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models [7.0678190739047375]
  潜在推論モデルは、明示的な思考の連鎖を連続的な思考に置き換える。 最近の研究は、内部推論機構の証拠として、BFSのようなフロンティアや復調可能な算術のような観測可能な潜在状態パターンを扱う。 因果的介入は、潜在思想的利用は二分法ではなく、段階的に行われ、思考がモデル行動に因果的影響を持つことを示している。
  論文  参考訳（メタデータ） (2026-06-10T21:23:22Z)
• When Is Thinking Enough? Early Exit via Sufficiency Assessment for Efficient Reasoning [52.21239821135325]
  本稿では、効率的な推論のための新しいフレームワークDTSR(Dynamic Thought Sufficiency in Reasoning)を紹介する。 人間のメタ認知にインスパイアされたDTSRは、リフレクションシグナルモニタリングとThought Sufficiency Checkという2つの段階で動作する。 DTSRは推論長を28.9%から34.9%削減し、性能損失を最小限に抑えている。
  論文  参考訳（メタデータ） (2026-04-08T07:56:28Z)
• Does Your Reasoning Model Implicitly Know When to Stop Thinking? [45.954548163594204]
  LRMは思考を止めるための適切な時間を暗黙的に知っているが、この能力は現在のサンプリングパラダイムによって隠蔽されている。 そこで我々は,この効率的な推論可能性を解き放つ新しいサンプリングパラダイムであるSAGEを紹介した。
  論文  参考訳（メタデータ） (2026-02-09T07:38:22Z)
• APR: Penalizing Structural Redundancy in Large Reasoning Models via Anchor-based Process Rewards [61.52322047892064]
  テスト時間スケーリング(TTS)は、Large Reasoning Models(LRM)の機能を大幅に強化した。 我々は, LRM が推論過程において最終回答を得た後も, 再検討なしに反復的自己検証を頻繁に行うことを観察した。 本稿では,Anchor-based Process Reward (APR)を提案する。
  論文  参考訳（メタデータ） (2026-01-31T14:53:20Z)
• Mitigating Cognitive Inertia in Large Reasoning Models via Latent Spike Steering [12.332146893333949]
  大規模推論モデル(LRM)は、テスト時間計算をスケールすることで、優れた性能を実現している。 LRMは、しばしば認知的慣性(動作慣性)または剛性(方向慣性)のどちらかを過度に考える失敗パターンである認知的慣性(Cognitive Inertia)に悩まされる。
  論文  参考訳（メタデータ） (2026-01-30T02:47:12Z)
• Circular Reasoning: Understanding Self-Reinforcing Loops in Large Reasoning Models [66.11277323593475]
  Circular Reasoningは、生成されたコンテンツが自身の再発の論理的前提として機能する自己強化トラップである。 機械学的には、円の推論は異なる境界を示す状態崩壊として特徴付けられる。 自己強化型V字型アテンション機構によって駆動される不自由なサイクルとして継続するループ開始を誘導する推論が阻害されることを明らかにする。
  論文  参考訳（メタデータ） (2026-01-09T10:23:55Z)
• From "Aha Moments" to Controllable Thinking: Toward Meta-Cognitive Reasoning in Large Reasoning Models via Decoupled Reasoning and Control [11.321315058502215]
  大規模推論モデル(LRM)は、ステップバイステップの推論、リフレクション、バックトラッキングなどの認知行動を自発的に示すことで、複雑な推論の潜在能力を示した。 しかし、そのような創発的行動は規制されず、制御されていないままであり、しばしば過度に考え直され、モデルが信頼できる結論に達した後も冗長な推論内容を生成し続ける。 現在のモデルは、いつ継続するか、バックトラックするか、終了するかを決定するために、彼らの推論プロセスを監視し、適応的に管理できない。 我々はメタ認知推論フレームワーク(MERA)を提案する。
  論文  参考訳（メタデータ） (2025-08-06T13:59:17Z)
• Lost at the Beginning of Reasoning [85.17612793300238]
  第1の推論ステップが最終予測に不当に大きな影響を与えることを示す。 本稿では、報酬モデルを利用して高品質な第1推論ステップを特定し、維持する効率的なサンプリング戦略を提案する。
  論文  参考訳（メタデータ） (2025-06-27T09:53:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。