論文の概要: Think Shallow, Solve Deep: Controlling Recurrent Dynamics for Reliable Test-Time Depth

• arxiv url: http://arxiv.org/abs/2608.18222v1
• Date: Tue, 18 Aug 2026 18:05:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.180028
• Title: Think Shallow, Solve Deep: Controlling Recurrent Dynamics for Reliable Test-Time Depth
• Title（参考訳）: 深く考える: 信頼性の高いテスト時間深さに対するリカレントダイナミクスの制御
• Abstract要約: 訓練された作用素の有限時間力学系は、どれが生じるかを示す。 演算子のステップ毎の変位がデコーダのマージンに対して小さいと、デコーダの解答はそれ以上の繰り返しで変化しない。
• 参考スコア（独自算出の注目度）: 3.484418956836434
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recurrent-depth reasoners aim to solve harder problems by iterating their update longer at test time, but additional iterations can improve, preserve, or degrade an answer. We show that a measurable property of the trained operator, its finite-time dynamical regime (estimated as settling, marginal, or drifting), indicates which of these occurs. We give a sufficient condition for depth-safety: once an operator's per-step displacement is small relative to the decoder margin, the decoded answer cannot change under further iterations. Empirically, on algorithmic tasks trained from $800$ unaugmented examples per difficulty tier, settling operators do not degrade with added depth, and on some tasks convert it into higher accuracy on harder unseen instances (Sudoku, $0.19$ to $0.34$ past the training horizon). A single terminal fixed-point objective moves the regime and the depth behavior together: removing it induces drift and removes the gains, and adding it to a generic recurrence yields depth-safe extrapolation on carry propagation. We give four operational criteria for useful test-time depth, use them to catalogue failure modes, and, as a consistency check, apply the same measurements to Huginn-3.5B, which falls in the non-settling family.
• Abstract（参考訳）: 頻繁な推論者は、テスト時に更新を長く繰り返すことで、難しい問題を解決することを目指しているが、追加のイテレーションは、回答を改善し、保存し、あるいは分解することができる。 訓練された作用素の可測性、有限時間力学系(沈降, 縁, 漂流と推定される)は、どれが起こるかを示す。 演算子のステップ毎の変位がデコーダのマージンに対して小さいと、デコーダの解答はそれ以上の繰り返しで変化しない。 経験的に、難易度毎の800ドルの未定例からトレーニングされたアルゴリズムタスクでは、沈降演算子は追加の深さで劣化せず、いくつかのタスクでは、より難しい未確認のインスタンス(Sudoku, $0.19$から$0.34$)でより高精度に変換される。 単一の端末固定点目的物は、レジームと深さの挙動を一緒に移動させ、それを除去することでドリフトを誘導し、ゲインを除去し、ジェネリックリカレンスに追加すると、キャリー伝搬における深さセーフな外挿が得られる。 テスト時間深度に関する4つの運用基準を提示し、障害モードのカタログ化に使用し、整合性チェックとして、非セッティングファミリーに属するHuginn-3.5Bに同じ測定を適用した。

関連論文リスト

• ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
  大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。 SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。 モデル自身の失敗から両方を得るReDraftを紹介します。
  論文  参考訳（メタデータ） (2026-09-15T04:59:03Z)
• Beneath the Diff: Diagnosing and Mitigating Algorithmic Mode Collapse in Code-Level Autonomous Research Loops [11.99667127177886]
  我々は、反復的なメトリック駆動のコード編集が、ループを超えて一般化する真の改善をもたらすことを示す。 本稿では,カテゴリ被覆再重み付け,永続的な編集メモリ,検証ゲートを組み合わせた軽量化を提案する。
  論文  参考訳（メタデータ） (2026-08-31T08:11:19Z)
• Training Crossroads for Recurrent Vision Transformers: Recurrence, Neural ODEs, and Deep Supervision [2.1465474237525113]
  シングルブロックリカレントViT (bViT) は、1つの共有ブロックを繰り返し適用することで、この成長を除去する。 FLOPが主制約である場合、標準のVTは引き続き好ましいが、繰り返しのVTはメモリ制約下でのパラメータのトレードオフよりも精度がよい。
  論文  参考訳（メタデータ） (2026-08-05T14:06:50Z)
• DeepLoop: Depth Scaling for Looped Transformers [91.7922038545625]
  ループ変換器は、複数のラウンドにコンパクトな物理ブロックのスタックを適用することで、シーケンシャルな計算をスケールする。 我々は、この密着した深さ効果を、訪問配向係数によって制御された一階の摂動によって定式化する。 結果のメソッド textbfDeepLoop は Post-LN DeepNorm アーキテクチャを保持し、非ロール深度に対して $= (2N)1/2$ と $=(8N)-1/2$ をセットする。
  論文  参考訳（メタデータ） (2026-07-15T06:37:05Z)
• Dynamic Mode Decomposition along Depth in Vision Transformers [2.899294572150795]
  我々は,ViTの深さがほぼ自明な線形力学を実装しているかどうかを問う。 我々は、動的モード分解(DMD)を用いてこれをテストし、選択された連続した隠れ状態ペアからK$に適合する。 予め訓練した4種類のDINO ViTについて, 安定適合に必要な正則化, ランク, 校正予算について検討した。
  論文  参考訳（メタデータ） (2026-05-08T10:33:03Z)
• TACT: Mitigating Overthinking and Overacting in Coding Agents via Activation Steering [70.99933391739154]
  我々は、エージェントが既に持っている情報に対して繰り返し理由付けを行う2つの障害モードと、最近の観察を統合したり、新たな証拠を取得することなくツールコールを発行する2つの障害モードに焦点を当てる。 本稿では,活性化ステアリングによるTACT (Think-Act via activation Steering) を導入し,動作不良として現れる前に残留流中のエージェントの漂流を検知・緩和する。 具体的には、軌道のステップを過度に考え、過剰に実行し、あるいは校正し、隠れた状態が2つの *drift 軸* に沿って線形に分離できることを発見し、それぞれの障害モードに向かって校正された振る舞いを指示する。
  論文  参考訳（メタデータ） (2026-05-07T10:24:27Z)
• From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
  以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。 実現可能な最小二乗の設定において、新しい最上界を創出する。 我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
  論文  参考訳（メタデータ） (2025-04-06T18:39:45Z)
• Deep Equilibrium Object Detection [24.69829309391189]
  本稿では,ディープ平衡デコーダを設計し,新しいクエリベースのオブジェクト検出器(DEQDet)を提案する。 我々の実験では、DECDtはより早く収束し、メモリ消費を減らし、ベースラインよりも優れた結果が得られることを示した。
  論文  参考訳（メタデータ） (2023-08-18T13:56:03Z)
• Robust Depth Completion with Uncertainty-Driven Loss Functions [60.9237639890582]
  本研究では,不確実性による損失関数を導入し,深度補修の堅牢性を改善し,深度補修の不確実性に対処する。 提案手法は,KITTI深度評価ベンチマークでテストされ,MAE, IMAE, IRMSEの計測値を用いて最先端のロバスト性性能を達成した。
  論文  参考訳（メタデータ） (2021-12-15T05:22:34Z)
• Direct Depth Learning Network for Stereo Matching [79.3665881702387]
  ステレオマッチングのための新しいダイレクトディープス学習ネットワーク(DDL-Net)が設計されている。 DDL-Netは、粗度推定段階と適応勾配深度補正段階の2段階からなる。 我々は,DDL-NetがSceneFlowデータセットで25%,DrivingStereoデータセットで12%の平均的な改善を実現していることを示す。
  論文  参考訳（メタデータ） (2020-12-10T10:33:57Z)
• WD3: Taming the Estimation Bias in Deep Reinforcement Learning [7.29018671106362]
  我々はTD3アルゴリズムが軽度の仮定で過小評価バイアスをもたらすことを示す。 本稿では, 推定バイアスを除去できる, アンダーライン重み付きアンダーライン重み付きアンダーラインDeepアンダーライン決定性ポリシー勾配 (WD3) を提案する。
  論文  参考訳（メタデータ） (2020-06-18T01:28:07Z)
• Faster Depth-Adaptive Transformers [71.20237659479703]
  深さ適応型ニューラルネットワークは入力単語の硬さに応じて動的に深さを調整することができる。 従来の作業は一般的に、計算が各レイヤで続行するか停止するかを決定するために停止ユニットを構築する。 本稿では,停止ユニットを除去し,必要な深さを事前に推定し,より高速な深度適応モデルを生成する。
  論文  参考訳（メタデータ） (2020-04-27T15:08:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。