論文の概要: Interference and Retention in Continual Learning
- arxiv url: http://arxiv.org/abs/2607.09202v1
- Date: Fri, 10 Jul 2026 08:48:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 14:47:12.81235
- Title: Interference and Retention in Continual Learning
- Title（参考訳）: 継続的な学習における干渉と保持
- Abstract要約: 新しいタスクの学習を忘れることは、まさに古いタスクに誘導される干渉エネルギーであることを示す。
IGFAはリプレイフリーでフィッシャーフリーな手法で、タスクが整列したときに方向を共有し、衝突時にそれらを保護する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual learning commonly relies on post-hoc mechanisms such as replay, elastic regularization, or distillation. This work argues that forgetting should instead be modeled directly as interference between tasks. In the frozen-feature regime, forgetting from learning a new task is exactly the interference energy induced on the old task. In deep networks, the same quantity is recovered through path-averaged curvature with minimal additional forward passes. When task supports are disjoint, forgetting can be eliminated structurally and when task supports overlap in conflicting directions, a non-zero distortion floor is unavoidable. The same geometry optimally merges models through task-aware orthogonalization. From this analysis we derive Interference-Gated Functional Allocation (IGFA), a replay-free, Fisher-free method that shares directions when tasks align and protects them when they conflict. Across benchmarks, IGFA achieves lossless retention when tasks are structurally separable and moves unavoidable cost from irreversible forgetting into deferred but recoverable plasticity when they are not. It matches the strongest replay-free structural baselines on dissimilar-task streams and improves on unconditional projection when similarity makes transfer worth preserving.
- Abstract（参考訳）: 継続的な学習は通常、リプレイ、弾性正則化、蒸留のようなポストホックなメカニズムに依存している。
この研究は、忘れることはタスク間の干渉として直接モデル化されるべきであると主張している。
凍結機能体制では、新しいタスクの学習を忘れることは、まさに古いタスクで引き起こされた干渉エネルギーである。
ディープネットワークでは、パス平均曲率によって同じ量が復元される。
タスクサポートが切り離された場合、構造的に忘れることができ、タスクサポートが相反する方向で重複する場合、非ゼロ歪みフロアは避けられない。
同じ幾何学はタスク対応の直交化を通じてモデルを最適にマージする。
この分析からInterference-Gated Functional Allocation (IGFA)を導出する。
ベンチマーク全体で、IGFAは、タスクが構造的に分離可能で、避けられないコストが遅延しても回復不可能な可塑性に移行するときに、損失のない保持を達成する。
これは、異なるタスクストリーム上の最も強いリプレイのない構造ベースラインと一致し、類似性によって転送の保存価値が保たれる場合、無条件のプロジェクションを改善する。
関連論文リスト
- ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - SPECTRA: Context-Conditioned Spectral Movement Primitives for Robot Skill Generalization [13.880300186965469]
本稿では,タスク空間のスキル生成と共同実行規則を結合した周波数領域模倣学習フレームワークを提案する。
実験では, タスクバンド再構築, 複合実証汚損に対する堅牢性, 分配外一般化, 共同空間動的許容性, エンドエフェクタ経路保存, フランカパンダロボットへの展開を評価した。
論文 参考訳（メタデータ） (2026-07-08T04:02:19Z) - OrthoTryOn: Geometric Orthogonalization for Conflict-Free Unified Fashion Generation [43.40052085990979]
統一ファッション生成は、仮想試着や衣服の再構築のようなタスクを単一のモデルに統合し、タスク固有の適応コストを削減する。
我々は、共有Low-AdaptationRank(LoRA)モジュール内でこの干渉を緩和する統合フレームワークOrthoTryOnを提案する。
論文 参考訳（メタデータ） (2026-06-26T09:23:25Z) - Task-Restricted Symmetries in Recurrent Weight Space [0.0]
リカレントネットワークは、重量空間におけるかなりの機能的冗長性を含むことができる。
順序付き実シュア座標を用いた一層タンタンRNNにおけるこの冗長性について検討する。
論文 参考訳（メタデータ） (2026-06-16T20:04:07Z) - Sequential Learning and Catastrophic Forgetting in Differentiable Resistor Networks [0.0]
キルヒホフの法則に支配される微分可能な抵抗ネットワークにおける逐次学習について検討する。
タスクの衝突や新しいタスクへの適応の度合いによって,忘れることが制御されていることを示す。
これらの結果は、可変物質における連続的な学習を研究するための、コンパクトで物理的に解釈可能なテストベッドとして、微分可能な抵抗ネットワークを位置づけている。
論文 参考訳（メタデータ） (2026-05-02T11:15:57Z) - Task Switching Without Forgetting via Proximal Decoupling [43.88767637201092]
継続的な学習において、最大の課題は、古い知識を忘れずに新しい情報を学ぶことである。
一般的な解決策は、このトレードオフを正規化を通じて解決し、以前のタスクに不可欠なパラメータの変更を罰する。
本稿では,作業者の分割によるタスク学習と安定性の強化を分離するアプローチを提案する。
論文 参考訳（メタデータ） (2026-04-20T21:28:13Z) - Referring-Aware Visuomotor Policy Learning for Closed-Loop Manipulation [91.20850436220267]
Referring-Aware Visuomotor Policy(ReV)について紹介する。
ReVは、人間または高レベルの推論プランナーによって提供されるスパース参照ポイントを組み込む。
これは、専門家のデモンストレーションにターゲットの摂動を適用することでのみ訓練される。
論文 参考訳（メタデータ） (2026-04-07T07:41:11Z) - TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。
TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。
TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
論文 参考訳（メタデータ） (2026-03-02T10:38:54Z) - Geometric-Disentangelment Unlearning [106.99160454669902]
忘れたサンプルへの勾配は しばしば 保持された知識を傷つける
本稿では,GU(Geometric-disment Unlearning)を提案する。
本手法はプラグ・アンド・プレイであり,既存の勾配に基づくアンラーニング手法と併用することで副作用を軽減できる。
論文 参考訳（メタデータ） (2025-11-21T09:58:25Z) - Rotation Control Unlearning: Quantifying and Controlling Continuous Unlearning for LLM with The Cognitive Rotation Space [66.51378598755933]
本研究では,学習継続過程における学習度を定量化し,制御する,回転制御アンラーニング(RCU)と呼ばれる新しい手法を提案する。
歪対称損失は、回転角の変化が連続的未学習過程をシミュレートできる認知回転空間の存在を構築するように設計されている。
複数のデータセットに対する実験により、保持されたデータセットを持たないメソッドがSOTA性能を達成することを確認した。
論文 参考訳（メタデータ） (2025-09-30T03:59:29Z) - REBAR: Retrieval-Based Reconstruction for Time-series Contrastive Learning [64.08293076551601]
正の対を識別する学習尺度を新たに提案する。
検索ベースレコンストラクションは2つのシーケンス間の類似度を測定する。
本稿では,REBAR誤差が相互クラスメンバシップの予測因子であることを示す。
論文 参考訳（メタデータ） (2023-11-01T13:44:45Z) - Compressing Deep ODE-Nets using Basis Function Expansions [105.05435207079759]
重みの定式化を基底関数の線形結合を用いた連続深度関数とみなす。
この観点では、ほぼ最先端の性能を維持しながら、再トレーニングすることなく、ベースの変化によって重みを圧縮することができる。
これにより、推論時間とメモリフットプリントの両方が削減され、計算環境間の高速で厳密な適応が可能となる。
論文 参考訳（メタデータ） (2021-06-21T03:04:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。