論文の概要: Online Task Adaptation via Self-Organisation

• arxiv url: http://arxiv.org/abs/2609.29281v1
• Date: Thu, 24 Sep 2026 09:17:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.809336
• Title: Online Task Adaptation via Self-Organisation
• Title（参考訳）: 自己組織化によるオンラインタスク適応
• Abstract要約: 本研究では,メタ学習型自己組織化プロセスにおいて,適応時に勾配を必要としないタスク固有適応が出現するかどうかを検討する。 我々はこのアイデアを、局所的に相互作用するリカレントセルがリカレント状態と高速な連想メモリの両方を保持するニューラルセルオートマトンでインスタンス化する。 タスク固有の適応は、遅いモデルパラメータを固定しながら、明示的な高速メモリ更新によって達成できることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural networks are typically adapted by computing gradients and updating model parameters. We investigate whether task-specific adaptation can instead emerge from a meta-learned self-organising process that requires no gradients at adaptation time. We instantiate this idea with a Neural Cellular Automaton in which locally interacting recurrent cells maintain both a recurrent state and a fast associative memory. During meta-training, backpropagation is used to learn the recurrent dynamics together with how the memory is read and written. Once training is complete, the slow model parameters remain fixed, and online adaptation occurs only through cellwise memory updates driven by local prediction errors and a delta rule. We evaluate whether the learned mechanism can adapt to semantically distinct held-out classification tasks. A single pass over the support data produces substantial improvements in held-out performance without gradient computation or parameter updates during adaptation, and the mechanism remains effective across large changes in the number of examples processed jointly. These results show that task-specific adaptation can be achieved through explicit fast-memory updates while keeping the slow model parameters fixed.
• Abstract（参考訳）: ニューラルネットワークは通常、計算勾配とモデルパラメータの更新に適応する。 タスク固有の適応が、適応時に勾配を必要としないメタ学習型自己組織化プロセスから生まれるかどうかを検討する。 我々はこのアイデアを、局所的に相互作用するリカレントセルがリカレント状態と高速な連想メモリの両方を保持するニューラルセルオートマトンでインスタンス化する。 メタトレーニング中、バックプロパゲーションは、メモリの読み書きとともに、リカレントダイナミクスを学ぶために使用される。 トレーニングが完了すると、遅いモデルパラメータが固定され、ローカルな予測エラーとデルタルールによって駆動されるセルワイズメモリ更新によってのみオンライン適応が実行される。 学習したメカニズムが意味的に異なる保持型分類タスクに適応できるかどうかを評価する。 サポートデータの単一パスは、勾配計算や適応中のパラメータ更新を伴わずに、ホールドアウト性能を大幅に向上させ、このメカニズムは、共同処理されたサンプル数の大規模な変更に対して有効である。 これらの結果は、遅いモデルパラメータを固定しながら、明示的な高速メモリ更新によってタスク固有の適応が達成できることを示している。

関連論文リスト

• StateLinFormer: Stateful Training Enhancing Long-term Memory in Navigation [14.66409147430344]
  我々はステートフルメモリ機構でトレーニングされた線形アテンションナビゲーションモデルであるStateLinFormerを紹介する。 この訓練パラダイムは、無限に長いシーケンスでの学習を効果的に近似し、モデルが長期記憶保持を達成することを可能にする。
  論文  参考訳（メタデータ） (2026-03-24T11:04:50Z)
• HY-WU (Part I): An Extensible Functional Neural Memory Framework and An Instantiation in Text-Guided Image Editing [0.0]
  メモリファースト適応フレームワークHY-WU(Weight Unleashing)を提案する。 適応圧力を1つの共有パラメータポイントの上書きから逸脱させる。 HY-WUは神経モジュールとして機能的(操作レベル)メモリを実装している。
  論文  参考訳（メタデータ） (2026-03-07T14:40:05Z)
• Time-Scale Coupling Between States and Parameters in Recurrent Neural Networks [3.924071936547547]
  ゲーテッドニューラルネットワーク(RNN)は、適応的な学習速度の振る舞いを暗黙的に誘発する。 効果は状態空間の時間スケールとパラメータ空間のダイナミクスの結合から生じる。 経験的シミュレーションはこれらの主張を裏付ける。
  論文  参考訳（メタデータ） (2025-08-16T18:19:34Z)
• Allostatic Control of Persistent States in Spiking Neural Networks for perception and computation [79.16635054977068]
  本稿では,アロスタシスの概念を内部表現の制御に拡張することにより,環境に対する知覚的信念を更新するための新しいモデルを提案する。 本稿では,アトラクタネットワークにおける活動の急増を空間的数値表現として利用する数値認識の応用に焦点を当てる。
  論文  参考訳（メタデータ） (2025-03-20T12:28:08Z)
• Adaptive Retention & Correction: Test-Time Training for Continual Learning [114.5656325514408]
  連続学習における一般的な問題は、最新のタスクに対する分類層のバイアスである。 アダプティブ・リテンション・アンド・コレクション (ARC) のアプローチを例に挙げる。 ARCはCIFAR-100とImagenet-Rのデータセットで平均2.7%と2.6%のパフォーマンス向上を達成した。
  論文  参考訳（メタデータ） (2024-05-23T08:43:09Z)
• Revisiting Dynamic Evaluation: Online Adaptation for Large Language Models [88.47454470043552]
  我々は、動的評価(動的評価)としても知られる、テスト時の言語モデルのパラメータをオンラインで微調整する問題を考察する。 オンライン適応はパラメータを時間的に変化する状態に変換し、メモリを重み付けしたコンテキスト長拡張の形式を提供する。
  論文  参考訳（メタデータ） (2024-03-03T14:03:48Z)
• Time-, Memory- and Parameter-Efficient Visual Adaptation [75.28557015773217]
  バックボーンを介して勾配をバックプロパゲートしない適応法を提案する。 凍結した、事前訓練されたバックボーンの機能を利用する軽量ネットワークを並列に設計することで、これを実現する。
  論文  参考訳（メタデータ） (2024-02-05T10:55:47Z)
• Reducing Catastrophic Forgetting in Self Organizing Maps with Internally-Induced Generative Replay [67.50637511633212]
  生涯学習エージェントは、パターン知覚データの無限のストリームから継続的に学習することができる。 適応するエージェントを構築する上での歴史的難しさの1つは、ニューラルネットワークが新しいサンプルから学ぶ際に、以前取得した知識を維持するのに苦労していることである。 この問題は破滅的な忘れ(干渉)と呼ばれ、今日の機械学習の領域では未解決の問題のままである。
  論文  参考訳（メタデータ） (2021-12-09T07:11:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。