論文の概要: Non-Stationary Learning of Neural Networks with Automatic Soft Parameter Reset

• arxiv url: http://arxiv.org/abs/2411.04034v1
• Date: Wed, 06 Nov 2024 16:32:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-07 19:24:14.391347
• Title: Non-Stationary Learning of Neural Networks with Automatic Soft Parameter Reset
• Title（参考訳）: 自動ソフトパラメータリセットによるニューラルネットワークの非定常学習
• Authors: Alexandre Galashov, Michalis K. Titsias, András György, Clare Lyle, Razvan Pascanu, Yee Whye Teh, Maneesh Sahani,
• Abstract要約: 非定常性を自動的にモデル化し適応する新しい学習手法を導入する。 非定常的・非政治的強化学習環境において,本手法が有効であることを示す。
• 参考スコア（独自算出の注目度）: 98.52916361979503
• License:
• Abstract: Neural networks are traditionally trained under the assumption that data come from a stationary distribution. However, settings which violate this assumption are becoming more popular; examples include supervised learning under distributional shifts, reinforcement learning, continual learning and non-stationary contextual bandits. In this work we introduce a novel learning approach that automatically models and adapts to non-stationarity, via an Ornstein-Uhlenbeck process with an adaptive drift parameter. The adaptive drift tends to draw the parameters towards the initialisation distribution, so the approach can be understood as a form of soft parameter reset. We show empirically that our approach performs well in non-stationary supervised and off-policy reinforcement learning settings.
• Abstract（参考訳）: ニューラルネットワークは、データが定常分布から来ると仮定して、伝統的に訓練されている。 しかし、この仮定に反する設定は、例えば、分布シフトによる教師あり学習、強化学習、連続学習、非定常的文脈帯域幅など、より一般的になりつつある。 本研究では,適応ドリフトパラメータを持つOrnstein-Uhlenbeckプロセスを通じて,非定常性を自動的にモデル化し適応する新しい学習手法を提案する。 適応的ドリフトは初期化分布に向けてパラメータを引き出す傾向があるため、アプローチはソフトパラメータリセットの一形態として理解することができる。 非定常的・非政治的強化学習環境において,本手法が有効であることを示す。

関連論文リスト

• Dreaming Learning [41.94295877935867]
  機械学習システムに新しい情報を導入することは、以前に格納されたデータに干渉する可能性がある。 スチュアート・カウフマンの随伴可能性の概念に着想を得た学習アルゴリズムを提案する。 ニューラルネットワークは、予想と異なる統計特性を持つデータシーケンスを円滑に受け入れ、統合することを前提としている。
  論文  参考訳（メタデータ） (2024-10-23T09:17:31Z)
• Liquid Neural Network-based Adaptive Learning vs. Incremental Learning for Link Load Prediction amid Concept Drift due to Network Failures [37.66676003679306]
  概念の漂流に適応することは、機械学習において難しい課題である。 通信ネットワークでは、障害イベントの後に交通予報を行う際にこのような問題が生じる。 本稿では,適応学習アルゴリズム,すなわち,データパターンの急激な変化を,再学習を必要とせずに自己適応できる手法を提案する。
  論文  参考訳（メタデータ） (2024-04-08T08:47:46Z)
• Federated Learning with Projected Trajectory Regularization [65.6266768678291]
  フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。 連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。 本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-22T02:12:08Z)
• Kalman Filter for Online Classification of Non-Stationary Data [101.26838049872651]
  オンライン連続学習(OCL)では、学習システムはデータのストリームを受け取り、予測とトレーニングの手順を順次実行する。 本稿では,線形予測量に対するニューラル表現と状態空間モデルを用いた確率ベイズオンライン学習モデルを提案する。 多クラス分類の実験では、モデルの予測能力と非定常性を捉える柔軟性を示す。
  論文  参考訳（メタデータ） (2023-06-14T11:41:42Z)
• Unsupervised Unlearning of Concept Drift with Autoencoders [5.41354952642957]
  コンセプトドリフトは、将来のサンプルのデータストリームに影響を与えるデータ分散の変化を指す。 本稿では,世界レベルでの教師なしおよびモデルに依存しないドリフト適応手法を提案する。
  論文  参考訳（メタデータ） (2022-11-23T14:52:49Z)
• On the Forward Invariance of Neural ODEs [92.07281135902922]
  本稿では,ニューラル常微分方程式(ODE)が出力仕様を満たすことを保証するための新しい手法を提案する。 提案手法では,出力仕様を学習システムのパラメータや入力の制約に変換するために,制御障壁関数のクラスを用いる。
  論文  参考訳（メタデータ） (2022-10-10T15:18:28Z)
• Learning to Learn with Generative Models of Neural Network Checkpoints [71.06722933442956]
  ニューラルネットワークのチェックポイントのデータセットを構築し,パラメータの生成モデルをトレーニングする。 提案手法は,幅広い損失プロンプトに対するパラメータの生成に成功している。 我々は、教師付きおよび強化学習における異なるニューラルネットワークアーキテクチャとタスクに本手法を適用した。
  論文  参考訳（メタデータ） (2022-09-26T17:59:58Z)
• Recurrent Neural Network Training with Convex Loss and Regularization Functions by Extended Kalman Filtering [0.20305676256390928]
  本研究では,非線形システム同定ベンチマークにおいて,学習手法が勾配勾配よりも優れていることを示す。 また、データ駆動非線形モデル予測制御におけるアルゴリズムの利用と、オフセットフリートラッキングにおける外乱モデルとの関係についても検討する。
  論文  参考訳（メタデータ） (2021-11-04T07:49:15Z)
• Automatic Recall Machines: Internal Replay, Continual Learning and the Brain [104.38824285741248]
  ニューラルネットワークのリプレイには、記憶されたサンプルを使ってシーケンシャルなデータのトレーニングが含まれる。 本研究では,これらの補助サンプルをフライ時に生成する手法を提案する。 代わりに、評価されたモデル自体内の学習したサンプルの暗黙の記憶が利用されます。
  論文  参考訳（メタデータ） (2020-06-22T15:07:06Z)
• Technical Report: Adaptive Control for Linearizable Systems Using On-Policy Reinforcement Learning [41.24484153212002]
  本稿では,未知システムに対するフィードバック線形化に基づくトラッキング制御系を適応的に学習するフレームワークを提案する。 学習した逆モデルがすべての時点において可逆である必要はない。 二重振り子の模擬例は、提案された理論の有用性を示している。
  論文  参考訳（メタデータ） (2020-04-06T15:50:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。