論文の概要: The Stable Recovery Manifold: Geometric Principles Governing Recoverability in Continual Learning

• arxiv url: http://arxiv.org/abs/2606.13637v1
• Date: Thu, 11 Jun 2026 17:45:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.962548
• Title: The Stable Recovery Manifold: Geometric Principles Governing Recoverability in Continual Learning
• Title（参考訳）: 安定回復マニフォールド:連続学習における回復可能性を支配する幾何学的原理
• Authors: Ayushman Trivedi, Bhavika Melwani,
• Abstract要約: 破滅的な忘れ物はしばしば、シーケンシャルラーニング中に学習した知識の破壊と見なされる。 連続学習における回復可能性の幾何学的構造について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Catastrophic forgetting is often viewed as the destruction of previously learned knowledge during sequential learning. Building on the Accessibility Collapse framework, we investigate the geometric structure of recoverability in continual learning. Using Split CIFAR-100 and a sequentially trained ResNet-18, we analyze recoverability, representational drift, and recovery complexity across ten tasks. We introduce Recovery Subspace Dimensionality (k_t), a measure of the minimum number of singular directions required to preserve 90 percent of full probe performance. Contrary to our Recoverability Diffusion hypothesis, recovery dimensionality remains stable throughout training (mean k_t = 8.0) despite substantial representational drift. Principal-angle drift strongly predicts recoverability (r = -0.862), and a simple geometric model explains 82.2 percent of recoverability variance. These findings support the Stable Recovery Manifold hypothesis, suggesting that forgotten knowledge remains compactly decodable despite representational reorganization. The results indicate that catastrophic forgetting is primarily an accessibility and manifold-alignment problem rather than information destruction.
• Abstract（参考訳）: 破滅的な忘れ物はしばしば、シーケンシャルラーニング中に学習した知識の破壊と見なされる。 アクセシビリティ・コラプス(Accessibility Collapse)フレームワークに基づいて,連続学習における回復可能性の幾何学的構造について検討する。 Split CIFAR-100と逐次訓練されたResNet-18を用いて,10タスクにわたる回復可能性,表現的ドリフト,回復複雑性を分析した。 完全プローブ性能の90%を維持するのに必要な特異方向の最小値の尺度であるリカバリ部分空間次元(k_t)を導入する。 Recoverability Diffusion仮説とは対照的に、リカバリ次元は相当な表現的ドリフトにもかかわらずトレーニングを通して安定である(平均k_t = 8.0)。 主角ドリフトはリカバリ可能性(r = -0.862)を強く予測し、単純な幾何学モデルではリカバリ可能性の82.2%を説明できる。 これらの結果は安定回復マニフォールド仮説を支持し、表現的再構成にもかかわらず忘れられた知識はコンパクトに復調可能であることを示唆している。 その結果,大惨な忘れは情報破壊よりもアクセシビリティと多様体配向の問題であることが示唆された。

関連論文リスト

• Catastrophic Forgetting as Accessibility Collapse: A Three-Level Framework for Knowledge Persistence in Continual Learning [0.0]
  破滅的な忘れは、シーケンシャルラーニング中に獲得した知識の不可逆的消去と一般的に解釈される。 本研究では,タスク表現の完全破壊ではなく,情報保存へのアクセシビリティの欠如から,忘れることが生じる,という別の視点を考察する。
  論文  参考訳（メタデータ） (2026-06-04T11:25:33Z)
• How Neural Losses Shape VAE Latents [15.636976191219448]
  再建損失の選択は, 破壊率自体の問題に反することを示す。 知覚的目的や敵対的目的といった神経用語によるポイントワイドな再構築が、潜在表現に格納される情報の量を減らすことを証明し、検証する。
  論文  参考訳（メタデータ） (2026-05-30T09:20:56Z)
• Next-Acceleration-Scale Prediction for Autoregressive MRI Reconstruction [52.32112533846212]
  MRI再建は本質的に不完全な逆問題である。 この制限は、再構成を離散的なマルチスケールの潜在空間に移動させ、自己回帰的次加速スケールの予測として機能させることによって解決する。 提案手法は,過度のアンサンプ下での多種多様なサンプリングパターンの再構成性能の向上を図っている。
  論文  参考訳（メタデータ） (2026-05-19T04:40:50Z)
• Attribution-Based Neuron Utility for Plasticity Restoration in Deep Networks [0.0]
  継続的な学習研究は、新しい知識獲得と以前に獲得した知識の保存という2つの基本的な能力を保存しようとする。 近年の研究では、ニューロン飽和、ノルム成長、有用な曲率方向の喪失など、この現象の根底にある複数のメカニズムが特定されている。 適応的リセットに基づく介入は、訓練性を取り戻すための実践的な解決策として現れてきた。
  論文  参考訳（メタデータ） (2026-05-07T18:42:22Z)
• ARES: Scalable and Practical Gradient Inversion Attack in Federated Learning through Activation Recovery [73.8181449261685]
  Federated Learning(FL)は、モデルの更新を生データではなく共有することで、ユーザのプライバシ保護を目的としたコラボレーションモデルトレーニングを可能にする。 最近の研究によると、これらの共有更新は、勾配反転攻撃(GIA)を通じて、不注意にセンシティブなトレーニングデータを漏洩する可能性がある。
  論文  参考訳（メタデータ） (2026-03-18T11:40:44Z)
• Embedding Classical Balance Control Principles in Reinforcement Learning for Humanoid Recovery [1.0883174135300417]
  人間は転倒や回復不能な障害状態に対して脆弱であり、非構造化環境での実用性を制限する。 古典的バランス指標を埋め込むことにより、この制限に対処する統一的なRLポリシーを提案する。 このポリシーは、ランダム化された初期ポーズと記述されていないフォール設定で93.4%のリカバリ率を達成する。
  論文  参考訳（メタデータ） (2026-03-09T17:02:30Z)
• Beyond Progress Measures: Theoretical Insights into the Mechanism of Grokking [50.465604300990904]
  グロキング(Grokking)とは、オーバーフィッティングの拡張後のテスト精度の急激な改善を指す。 本研究では、素数演算のタスクにおいて、Transformerの基盤となるグルーキング機構について検討する。
  論文  参考訳（メタデータ） (2025-04-04T04:42:38Z)
• Zero-Shot Self-Consistency Learning for Seismic Irregular Spatial Sampling Reconstruction [6.313946204460284]
  本稿では,ゼロショットの自己整合性学習戦略を提案し,地震データ再構成に極めて軽量なネットワークを用いる。 提案手法は追加のデータセットを必要とせず,データの各部分間の相関を利用して自己整合学習損失関数を設計する。
  論文  参考訳（メタデータ） (2024-11-01T11:59:28Z)
• On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
  我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。 アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
  論文  参考訳（メタデータ） (2023-12-13T02:11:07Z)
• Understanding Reconstruction Attacks with the Neural Tangent Kernel and Dataset Distillation [110.61853418925219]
  我々は、データセット再構築攻撃のより強力なバージョンを構築し、無限の幅で設定されたエンペントリアルトレーニングを確実に回復する方法を示す。 理論的にも経験的にも再構成された画像は、データセットの「外部」に傾向を示す。 これらのリコンストラクション攻撃は, テクストデータセット蒸留において, 再構成画像上で再トレーニングを行い, 高い予測精度を得ることができる。
  論文  参考訳（メタデータ） (2023-02-02T21:41:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。