論文の概要: Federated Adaptation of Reservoirs via Intrinsic Plasticity
- arxiv url: http://arxiv.org/abs/2206.11087v1
- Date: Wed, 25 May 2022 17:58:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-26 08:20:10.187309
- Title: Federated Adaptation of Reservoirs via Intrinsic Plasticity
- Title(参考訳): 内生可塑性による貯留層適応
- Authors: Valerio De Caro, Claudio Gallicchio and Davide Bacciu
- Abstract要約: 本稿では,クライアントサーバのシナリオにおいて,Echo State Networks (ESN) を用いてフェデレート学習を行うための新しいアルゴリズムを提案する。
特に, 本提案では, 内生プラスチックとフェデレート平均化を組み合わせることで, 貯水池の適応に重点を置いている。
- 参考スコア(独自算出の注目度): 12.71306369339218
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel algorithm for performing federated learning with Echo
State Networks (ESNs) in a client-server scenario. In particular, our proposal
focuses on the adaptation of reservoirs by combining Intrinsic Plasticity with
Federated Averaging. The former is a gradient-based method for adapting the
reservoir's non-linearity in a local and unsupervised manner, while the latter
provides the framework for learning in the federated scenario. We evaluate our
approach on real-world datasets from human monitoring, in comparison with the
previous approach for federated ESNs existing in literature. Results show that
adapting the reservoir with our algorithm provides a significant improvement on
the performance of the global model.
- Abstract(参考訳): 本稿では,クライアントサーバシナリオにおいて,Echo State Networks (ESN) を用いたフェデレーション学習を行うための新しいアルゴリズムを提案する。
特に,本提案では,内生プラスチックとフェデレート平均化を組み合わせた貯水池の適応に着目した。
前者は局所的かつ教師なしの方法で貯水池の非線形性を適応するための勾配に基づく手法であり、後者は連合シナリオにおける学習の枠組みを提供する。
文献に存在する連合ESNに対する従来のアプローチと比較して,人間の監視から実世界のデータセットに対するアプローチを評価する。
その結果, 貯留層にアルゴリズムを適用することで, グローバルモデルの性能が大幅に向上することがわかった。
関連論文リスト
- Domain Generalization Guided by Gradient Signal to Noise Ratio of
Parameters [69.24377241408851]
ソースドメインへのオーバーフィッティングは、ディープニューラルネットワークの勾配に基づくトレーニングにおいて一般的な問題である。
本稿では,ネットワークパラメータの勾配-信号-雑音比(GSNR)を選択することを提案する。
論文 参考訳(メタデータ) (2023-10-11T10:21:34Z) - Equivariant Data Augmentation for Generalization in Offline
Reinforcement Learning [10.00979536266327]
オフライン強化学習(RL)における一般化の課題に対処する新しいアプローチを提案する。
具体的には,エージェントのアウト・オブ・ディストリビューション目標への一般化能力の向上を目指す。
我々は、オフラインのオフラインRLアルゴリズムを用いて、拡張データセットに基づいて新しいポリシーをオフラインで学習する。
論文 参考訳(メタデータ) (2023-09-14T10:22:33Z) - Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。
提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
論文 参考訳(メタデータ) (2023-07-12T16:28:21Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳(メタデータ) (2023-05-24T17:26:22Z) - IDA: Informed Domain Adaptive Semantic Segmentation [51.12107564372869]
クラスレベルのセグメンテーション性能に基づいてデータを混合する自己学習フレームワークであるDomain Informed Adaptation (IDA) モデルを提案する。
IDAモデルでは、クラスレベルの性能を期待信頼スコア(ECS)によって追跡し、動的スケジュールを用いて異なる領域のデータに対する混合比を決定する。
提案手法は,GTA-Vの都市景観への適応において1.1 mIoU,SynTHIAの都市への適応において0.9 mIoUのマージンで,最先端のUDA-SS法よりも優れる。
論文 参考訳(メタデータ) (2023-03-05T18:16:34Z) - Federated Learning as Variational Inference: A Scalable Expectation
Propagation Approach [66.9033666087719]
本稿では,推論の視点を拡張し,フェデレート学習の変分推論の定式化について述べる。
我々は、FedEPを標準フェデレーション学習ベンチマークに適用し、収束速度と精度の両方において、強いベースラインを上回ります。
論文 参考訳(メタデータ) (2023-02-08T17:58:11Z) - FedLAP-DP: Federated Learning by Sharing Differentially Private Loss
Approximations [58.192338472631405]
FedLAP-DPは、フェデレーション学習のための新しいプライバシー保護アプローチである。
我々の定式化は、クライアントから受信した合成サンプルを活用することで、グローバルな最適化を可能にします。
プライバシーの懸念が高まりつつある中で、私たちのアプローチがレコードレベルの差分プライバシーとシームレスに機能することを実証しています。
論文 参考訳(メタデータ) (2023-02-02T12:56:46Z) - Bayesian Federated Neural Matching that Completes Full Information [2.6566593102111473]
フェデレートラーニング(Federated Learning)は、局所的に訓練されたモデルをグローバルモデルに蒸留する機械学習パラダイムである。
そこで本研究では,各イテレーションでKulback-Leibler分散ペナルティを導入することで,この欠陥を克服する新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-15T09:47:56Z) - Boosting the Generalization Capability in Cross-Domain Few-shot Learning
via Noise-enhanced Supervised Autoencoder [23.860842627883187]
我々は、新しいノイズ強調型教師付きオートエンコーダ(NSAE)を用いて、特徴分布のより広範なバリエーションを捉えるようモデルに教える。
NSAEは入力を共同で再構築し、入力のラベルと再構成されたペアを予測することによってモデルを訓練する。
また、NSAE構造を利用して、より適応性を高め、対象領域の分類性能を向上させる2段階の微調整手順を提案する。
論文 参考訳(メタデータ) (2021-08-11T04:45:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。