論文の概要: When Recursive Models Finish Computing

• arxiv url: http://arxiv.org/abs/2609.26487v1
• Date: Tue, 22 Sep 2026 14:24:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.695009
• Title: When Recursive Models Finish Computing
• Title（参考訳）: 再帰的モデルが計算を終了する時
• Abstract要約: 本研究は,1000の数独パズルにおける注意及びTiny Recursive Modelの完成のダイナミクスについて考察する。 完備状態は、同じ局所ヤコビアンが強い拡大方向を維持しているにもかかわらず、典型的には軌道方向に沿って収縮する。
• 参考スコア（独自算出の注目度）: 4.129405161435602
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recursive models can continue updating their latent states beyond their nominal inference budget, so an incorrect output at that budget does not show whether computation is unfinished or has entered a persistently unsuccessful regime. We study the dynamics of completion in attention- and MLP-based Tiny Recursive Models (TRMs) on 1,000 hard Sudoku puzzles. Extending recurrence from the nominal 16 steps to 512 steps increases cumulative exact-solve accuracy from 59.2% to 87.5% for the attention model and from 74.4% to 91.9% for the MLP model, solving more than two-thirds of the puzzles unsolved in the nominal budget. Across both architectures, latent-state motion drops sharply after the first exact solution. Completed states are typically locally contractive along the trajectory direction, even though the same local Jacobian retains strongly expanding directions. We characterize this phenomenon as trajectory-conditioned anisotropic stability. Perturbation experiments confirm this directional stability across both models. The multi-step fate of the maximally expanding direction differs: it is absorbed within 16 steps in the attention model but persists longer in the MLP model. The anisotropic-stability pattern also holds for a second attention checkpoint. Together, these results distinguish nominal-budget failure from completed computation and identify a common dynamical signature of completion across two recurrent architectures.
• Abstract（参考訳）: 再帰的モデルは、名目上の推論予算を超えて、潜伏状態の更新を続けることができるので、その予算での誤った出力は、計算が未完成であるか、または持続的に失敗した状態に入ったかを示さない。 我々は,1000個のハード・スドゥークパズルに対して,注目度とMLPに基づくTiny Recursive Models (TRMs) の完成度を動的に検討した。 名目16段から512段までの繰り返しは、注意モデルでは59.2%から87.5%に、MLPモデルでは74.4%から91.9%に増加し、名目予算では未解決のパズルの3分の2以上を解いた。 両方のアーキテクチャ全体において、潜在状態の運動は、最初の正確な解の後に急激に低下する。 完備状態は典型的には軌道方向に沿って局所的に収縮するが、同じ局所ヤコビアンが強い拡大方向を維持している。 我々はこの現象を軌道条件による異方性安定性として特徴づける。 摂動実験は、この方向安定性を両モデルで確認する。 最大拡大方向の多段階的な運命は、注意モデルでは16段階以内に吸収されるが、MLPモデルでは長く持続する。 異方性安定パターンはまた、第2の注意チェックポイントを保持する。 これらの結果と合わせて、名目予算の失敗と完了計算を区別し、2つの繰り返しアーキテクチャにおける完了の一般的な動的シグネチャを同定する。

関連論文リスト

• A*-Thought-V2: Efficient Latent Reasoning via Geometric Dynamics of LLM [40.07171947823021]
  CoT(Chain-of-Thought)は、LLM(Large Language Models)の推論能力を改善するが、かなりの計算とコンテキストコストを発生させる。 A*-Thought-V2 は LLM ガイドフレームワークの幾何学的ダイナミクスであり,COT を隠れ状態軌道としてモデル化し,ハード削除を明示的かつ単純でインターリーブな潜在アーキテクチャに置き換える。
  論文  参考訳（メタデータ） (2026-09-07T17:56:20Z)
• Physics Guided Generative Optimization for Trotter Suzuki Decomposition [2.0305676256390934]
  本稿では, トロッター鈴木シミュレーションにおける製品公式の生成と評価のループについて述べる。 条件拡散モデルは戦略を提案し、物理情報ニューラルネットワークは微分フィデリティフィードバックを提供し、グラフニューラルネットワークは通勤者構造を符号化する。 この結果から, NISQ 指向コンパイルにおいて, 「生成モデルと物理監督」 が実現可能な角度であることが示唆された。
  論文  参考訳（メタデータ） (2026-05-13T09:48:33Z)
• Solve the Loop: Attractor Models for Language and Reasoning [4.8720589853137435]
  Looped Transformerは、純粋にフィードフォワード計算に代わる有望な代替手段を提供する。 本稿では、まず、バックボーンモジュールが出力の埋め込みを提案し、次にアトラクターモジュールが固定点を解くことでそれらを洗練するAttractor Modelsを紹介する。 本研究では,Attractor Modelsが,大規模言語モデル事前学習と推論という2つのレシエーションにおいて,既存モデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2026-05-12T17:51:26Z)
• Mamba-3: Improved Sequence Modeling using State Space Principles [74.41028882099846]
  線形モデルの状態空間モデル(SSM)の視点に触発された3つの中核的方法論的改善を紹介する。 アーキテクチャの改良とともに、Mamba-3モデルは、検索、状態追跡、下流言語モデリングタスク間で大きな進歩を遂げます。
  論文  参考訳（メタデータ） (2026-03-16T17:30:08Z)
• Non-Asymptotic Convergence of Discrete Diffusion Models: Masked and Random Walk dynamics [13.202844408027412]
  我々は3つの一般的な離散拡散モデルに対する新しい鋭い収束保証を開発する。 各手法の計算複雑性は, 対数的因子まで, 次元で線形にスケールすることを示した。 この研究は、これらのノイズ発生過程に対する最初の非漸近収束保証を提供する。
  論文  参考訳（メタデータ） (2025-11-29T18:24:43Z)
• Alpamayo-R1: Bridging Reasoning and Action Prediction for Generalizable Autonomous Driving in the Long Tail [85.47497935739936]
  Alpamayo-R1 (AR1) は、因果推論の連鎖と軌道計画を統合する視覚言語モデルである。 また,AR1は,軌道のみのベースラインに比べて,難問の計画精度が12%向上することを示した。 今後のアップデートで、AR1モデルとCoCのサブセットをリリースする予定です。
  論文  参考訳（メタデータ） (2025-10-30T01:25:34Z)
• Every Step Evolves: Scaling Reinforcement Learning for Trillion-Scale Thinking Model [100.86587937568832]
  Ring-1Tは、数兆のパラメータを持つ最初のオープンソースの最先端の思考モデルである。 総パラメータは1兆で、1トークンあたり約500億を活性化する。
  論文  参考訳（メタデータ） (2025-10-21T17:46:14Z)
• Transition Models: Rethinking the Generative Learning Objective [68.16330673177207]
  有限時間間隔で状態遷移を解析的に定義する連続時間力学方程式を導入する。 これは、任意のステップ遷移に適応する新しい生成パラダイムである遷移モデル(TiM)をもたらす。 TiMは最先端のパフォーマンスを達成し、SD3.5 (8Bパラメータ)やFLUX.1 (12Bパラメータ)といった主要なモデルを超える。
  論文  参考訳（メタデータ） (2025-09-04T17:05:59Z)
• Goedel-Prover-V2: Scaling Formal Theorem Proving with Scaffolded Data Synthesis and Self-Correction [95.91743732150233]
  一連のオープンソースの言語モデルであるGoedel-Prover-V2は、自動定理の新たな最先端を証明した。 我々は、より複雑な定理をマスターするためにモデルを訓練することの困難さを増す合成タスクを生成する。 Goedel-Prover-V2-32Bは、標準モードのpass@32でMiniF2Fの88.1%、自己補正モードの90.4%を達成する。
  論文  参考訳（メタデータ） (2025-08-05T16:28:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。