論文の概要: Fractal basins trap latent reasoning
- arxiv url: http://arxiv.org/abs/2609.04963v1
- Date: Fri, 04 Sep 2026 10:11:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.000052
- Title: Fractal basins trap latent reasoning
- Title(参考訳): フラクタル盆地は遅延推論をトラップする
- Abstract要約: 推論モデルは、困難タスクの計算複雑性の物理的結果である過渡的カオスを示すことを示す。
本研究は, サドル点付近の長期にわたって, 推論が妨げられ, 過渡的カオスが出現することを示す。
この結果から,現代の人工知能モデルにおいて,推論の減速は問題難しさの必然的な結果であることが明らかとなった。
- 参考スコア(独自算出の注目度): 3.8551402560229806
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reasoning allows artificial intelligence models to revisit and correct their mistakes, enabling recent frontier advances in mathematical theorem solving, software engineering, and autonomous task planning. Reasoning models are widely observed to reason for longer on harder tasks, but the general mechanism responsible for these slowdowns is unknown. Here, we show that reasoning models exhibit transient chaos, a physical consequence of the computational complexity of difficult tasks. As a consequence, we show that diverse leading reasoning models are dynamical systems with fractal basins, with fractality increasing with task difficulty across diverse tasks like Sudoku and maze solving, visual puzzles, and mathematical logic. We show that transient chaos emerges due to reasoning becoming trapped for extended durations near saddle points, which we show correspond to nearly-correct attempted solutions of the underlying problem. Our results show that reasoning slowdowns are an inevitable consequence of problem hardness in modern artificial intelligence models, and establish reasoning traces as a rich new class of dynamical system.
- Abstract(参考訳): 推論により、人工知能モデルはその誤りを再検討し修正し、数学の定理解決、ソフトウェア工学、自律的なタスク計画における最近のフロンティアの進歩を可能にする。
推論モデルは、より難しいタスクに長引く理由として広く観測されているが、これらのスローダウンの原因となる一般的なメカニズムは不明である。
ここでは、推論モデルが、困難タスクの計算複雑性の物理的結果である過渡的カオスを示すことを示す。
その結果,様々な先行推論モデルがフラクタル盆地を持つ力学系であり,スドクや迷路解,視覚パズル,数理論理といったタスクの難易度によってフラクタル性は増大することがわかった。
本研究は, サドル点付近の長期にわたって推論が妨げられ, 過渡的カオスが出現することを示し, 根底にある問題のほぼ正しい解法に対応することを示す。
この結果から,現代の人工知能モデルにおいて,推論の減速は問題難易度による必然的な結果であり,推論トレースをリッチな新しい力学系として確立することが示唆された。
関連論文リスト
- Frontier LLMs Still Struggle with Simple Reasoning Tasks [53.497499123166804]
この研究は、フロンティア言語モデルの性能を、幅広い「容易」推論問題に対して研究する。
計算,一階述語論理,証明木,旅行計画など,手続き的に生成された単純な推論タスクのスイートを作成します。
最先端の思考モデルでさえ、このような問題や同様の理由で一貫して失敗することを示します。
論文 参考訳(メタデータ) (2025-07-09T22:22:49Z) - The Mirage of Multimodality: Where Truth is Tested and Honesty Unravels [22.497467057872377]
本研究は,マルチモーダル文脈におけるシステムIおよびシステムII推論に伴う歪みに関する最初の系統的研究である。
遅い推論モデルは、不完全あるいは誤解を招く視覚的入力を提示すると、欠陥のある推論をサポートするために、妥当で誤った詳細をつくり出す傾向にあることを実証する。
論文 参考訳(メタデータ) (2025-05-26T16:55:38Z) - Understanding Aha Moments: from External Observations to Internal Mechanisms [26.822776924651404]
大規模推論モデル(LRM)は複雑な問題を推論することができる。
言語パターン,不確実性の記述,「推論崩壊」から潜在空間の解析まで,LRMにおける「アハモーメント」について検討した。
この「アハモーメント」は、モデルが問題の難しさに対する認識を変えることで、複雑な問題を解決するのに役立ちます。
論文 参考訳(メタデータ) (2025-04-03T18:22:20Z) - Reasoning Effort and Problem Complexity: A Scaling Analysis in LLMs [26.494798719138526]
大規模言語モデルの推論の取り組みは,問題複雑性とともにどのようにスケールするかを検討する。
この結果から, 推理作業は問題の大きさに応じて規模が大きくなるが, 重大な問題にのみ対処できることが示唆された。
論文 参考訳(メタデータ) (2025-03-19T11:13:51Z) - Faith and Fate: Limits of Transformers on Compositionality [109.79516190693415]
3つの代表的構成課題にまたがる変圧器大言語モデルの限界について検討する。
これらのタスクは、問題をサブステップに分割し、これらのステップを正確な答えに合成する必要があります。
実験結果から,多段階合成推論を線形化部分グラフマッチングに還元することにより,トランスフォーマーLLMが構成課題を解くことが示唆された。
論文 参考訳(メタデータ) (2023-05-29T23:24:14Z) - Learning to Reason With Relational Abstractions [65.89553417442049]
関係抽象化の考え方を用いて,言語モデルにおいてより強力な推論能力を構築する方法について検討する。
このようなシーケンスをプロンプトとして提供したモデルでは,タスクの精度が大幅に向上することがわかった。
論文 参考訳(メタデータ) (2022-10-06T00:27:50Z) - End-to-end Algorithm Synthesis with Recurrent Networks: Logical
Extrapolation Without Overthinking [52.05847268235338]
機械学習システムが問題を過度に考えずに論理的外挿を行う方法を示す。
本稿では,問題インスタンスの明示的なコピーをメモリに保持して,それを忘れないようにするリコールアーキテクチャを提案する。
また、モデルが数に固有の行動を学ぶのを防ぎ、無期限に繰り返される行動を学ぶためにモデルをプッシュするプログレッシブトレーニングルーチンも採用しています。
論文 参考訳(メタデータ) (2022-02-11T18:43:28Z) - Causal Navigation by Continuous-time Neural Networks [108.84958284162857]
本研究では,連続時間ニューラルネットワークを用いた因果表現学習のための理論的,実験的枠組みを提案する。
本手法は,ドローンの視覚制御学習の文脈において,一連の複雑なタスクにおいて評価する。
論文 参考訳(メタデータ) (2021-06-15T17:45:32Z) - Thinking Deeply with Recurrence: Generalizing from Easy to Hard
Sequential Reasoning Problems [51.132938969015825]
我々は、リカレントネットワークは、非リカレントディープモデルの振る舞いを詳細にエミュレートする能力を有することを観察する。
再帰ステップの少ない単純な迷路を解くように訓練された再帰ネットワークは、推論中に追加の繰り返しを実行するだけで、より複雑な問題を解決することができる。
論文 参考訳(メタデータ) (2021-02-22T14:09:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。