論文の概要: A Thermodynamic Theory of Learning Part II: Critical Period Closure and Continual Learning Failure

• arxiv url: http://arxiv.org/abs/2602.07950v1
• Date: Sun, 08 Feb 2026 12:47:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-10 20:26:24.886433
• Title: A Thermodynamic Theory of Learning Part II: Critical Period Closure and Continual Learning Failure
• Title（参考訳）: 学習の熱力学理論 その2: 臨界周期閉鎖と連続学習失敗
• Authors: Daisuke Okanohara,
• Abstract要約: 有限時間にわたる学習は必然的に不可逆である。 有限散逸制約はどの解が到達可能かだけでなく、どの学習経路が動的にアクセス可能であるかを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning performed over finite time is necessarily irreversible. In Part~I of this series, we modeled learning as a transport process in the space of parameter distributions and derived the Epistemic Speed Limit, which lower-bounds entropy production under finite-time learning. In this work (Part~II), we study the consequences of this irreversibility for continual learning from a trajectory-level perspective. We show that finite dissipation constrains not only which solutions are reachable, but which learning paths remain dynamically accessible. Although a continuum of task-equivalent realizations can achieve identical task performance, finite-time learning irreversibly selects among these realizations. This selection occurs through the progressive elimination of degrees of freedom that would otherwise enable structural reconfiguration. We refer to this phenomenon as \emph{critical period closure}: beyond a certain stage of learning, transitions between compatible representations become dynamically inaccessible under any finite dissipation budget. As a result, continual learning failure arises not from the absence of solutions satisfying multiple tasks, but from an irreversible loss of representational freedom induced by prior learning. This reframes catastrophic forgetting as a dynamical constraint imposed by finite-time dissipation, rather than direct task interference.
• Abstract（参考訳）: 有限時間にわたる学習は必然的に不可逆である。 本シリーズのパート~Iでは,パラメータ分布の空間における伝達過程として学習をモデル化し,有限時間学習下でのエントロピー生成を低く抑えるエピステミック速度限界を導出した。 本研究 (Part~II) では, 連続学習におけるこの不可逆性の結果について, 軌跡レベルの観点から検討する。 有限散逸制約は,どの解が到達可能かだけでなく,どの学習経路が動的にアクセス可能であるかを示す。 タスク等価な実現の連続体は同一のタスク性能を達成することができるが、有限時間学習はこれらの実現の中から不可逆的に選択する。 この選択は、構造的再構成を可能にする自由度を段階的に除去することで起こる。 この現象を 'emph{ critical period closure} と呼び、学習の一定の段階を超えて、互換表現間の遷移は、任意の有限散逸予算の下で動的に到達不能となる。 結果として、連続的な学習失敗は、複数のタスクを満たす解がないことではなく、事前学習によって引き起こされる表現の自由の不可逆的な損失から生じる。 このことは、直接的なタスクの干渉ではなく、有限時間散逸によって課される動的制約として破滅的な忘れを起こさせる。

関連論文リスト

• A Thermodynamic Theory of Learning I: Irreversible Ensemble Transport and Epistemic Costs [0.0]
  学習は本質的に有限時間で行うと不可逆なプロセスであると主張する。 任意の学習プロセスが与えられた分布変換を実現するために必要な最小エントロピー生成を下限に制限する有限時間不等式を導出する。
  論文  参考訳（メタデータ） (2026-01-24T21:57:54Z)
• DeepLTL: Learning to Efficiently Satisfy Complex LTL Specifications for Multi-Task RL [59.01527054553122]
  線形時間論理(LTL)は、最近、複雑で時間的に拡張されたタスクを特定するための強力なフォーマリズムとして採用されている。 既存のアプローチにはいくつかの欠点がある。 これらの問題に対処するための新しい学習手法を提案する。
  論文  参考訳（メタデータ） (2024-10-06T21:30:38Z)
• DySLIM: Dynamics Stable Learning by Invariant Measure for Chaotic Systems [22.62539147446799]
  散逸的なカオスシステムからダイナミクスを学ぶことは、その固有の不安定性のため、非常に難しい。 不変測度と力学の学習を対象とする新しいフレームワークを提案する。 スケーラブルな正規化項で分布をターゲットとすることで、このアプローチをより複雑なシステムに拡張できることを期待する。
  論文  参考訳（メタデータ） (2024-02-06T23:26:12Z)
• On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
  我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。 アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
  論文  参考訳（メタデータ） (2023-12-13T02:11:07Z)
• Resilient Constrained Learning [94.27081585149836]
  本稿では,学習課題を同時に解決しながら,要求に適応する制約付き学習手法を提案する。 我々はこの手法を、その操作を変更することで破壊に適応する生態システムを記述する用語に因んで、レジリエントな制約付き学習と呼ぶ。
  論文  参考訳（メタデータ） (2023-06-04T18:14:18Z)
• Temporal Logic Imitation: Learning Plan-Satisficing Motion Policies from Demonstrations [15.762916270583698]
  実演法(LfD)から学ぶことで,多段階課題の解決が期待できる。 本研究では,このような課題のルーツを,実証において暗黙的な個別計画を満たすための学習された継続的政策の失敗とみなす。 我々は,線形時間論理(LTL)式で規定される任意の離散計画について,学習された連続ポリシーがシミュレート可能であることを証明した。
  論文  参考訳（メタデータ） (2022-06-09T17:25:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。