論文の概要: Exploration-Driven Personalized Federated Reinforcement Learning via Intrinsic Motivation
- arxiv url: http://arxiv.org/abs/2608.10499v1
- Date: Tue, 11 Aug 2026 05:18:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.915122
- Title: Exploration-Driven Personalized Federated Reinforcement Learning via Intrinsic Motivation
- Title(参考訳): 内在的動機づけによる探索駆動型個人化フェデレーション強化学習
- Abstract要約: 探索駆動型個人化フェデレーション強化学習(EDPFRL-IM)を導入する。
EDPFRL-IMは、各クライアントで固有の好奇心による探索を活用して、ローカルな探索を促進し、クライアントのプライバシを保護する。
本フレームワークは,政策パーソナライゼーションとサンプル効率において,平均的なPFRLベンチマークを上回っている。
- 参考スコア(独自算出の注目度): 2.479074862022315
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalized Federated Reinforcement Learning (PFRL) takes a decentralized approach to storing and accessing information based on past experiences while keeping each client's data private during the learning of each client's policy. Many current methods for PFRL rely heavily on exploiting existing reinforcement learning reward signals to derive an optimal policy for each client, thereby neglecting exploration in non-stationary or sparse-reward environments. In this work, we introduce a new exploration-driven framework, Exploration-Driven Personalized Federated Reinforcement Learning via Intrinsic Motivation (EDPFRL-IM), that leverages an inherent curiosity-driven exploration at each client to promote local exploration and protect client privacy. Furthermore, to facilitate policy discovery via exploration in previously unexplored state spaces, clients add an intrinsic random network distillation (RND) signal to their extrinsic reward. Additionally, the server does not have access to clients' raw experiences or local gradient estimates; instead, the server sends global exploration priors and collects minimal novelty summaries from each client to enable both diverse and coordinated exploration among clients. Experiments in benchmark environments show that our framework outperforms average PFRL benchmarks in policy personalization and sample efficiency, primarily in delayed and sparse reward systems. Overall, EDPFRL-IM enables the integration of a flexible exploratory learning structure into federated reinforcement learning systems while preserving client privacy.
- Abstract(参考訳): パーソナライズド・フェデレーション・強化学習(PFRL)は、各クライアントのポリシーの学習中に各クライアントのデータをプライベートに保ちながら、過去の経験に基づいて情報を保存およびアクセスするための分散アプローチを取る。
PFRLの現在の多くの方法は、クライアントごとに最適なポリシーを導出するために既存の強化学習報酬信号を利用することに大きく依存しているため、非定常環境やスパースリワード環境での探索は無視される。
本研究では,探索駆動型個人化フェデレーション強化学習(EDPFRL-IM)という,探索駆動型フレームワークを導入する。
さらに、未探索の状態空間での探索によるポリシー発見を容易にするために、クライアントは固有のランダムネットワーク蒸留(RND)シグナルを、固有の報酬に付加する。
さらに、サーバはクライアントの生の体験や局所的な勾配推定にアクセスすることができず、代わりにサーバはグローバルな探索先を送信し、各クライアントから最小限の新規サマリーを収集し、クライアント間の多様性と協調的な探索を可能にする。
ベンチマーク環境での実験により、我々のフレームワークは政策パーソナライゼーションとサンプル効率において平均的なPFRLベンチマークよりも優れており、主に遅延とスパース報酬システムにおいて。
全体として、EDPFRL-IMはクライアントのプライバシーを維持しつつ、フレキシブルな探索学習構造を連邦強化学習システムに統合することを可能にする。
関連論文リスト
- FedCCA: Client-Centric Adaptation against Data Heterogeneity in Federated Learning on IoT Devices [16.902104043318975]
クライアント中心適応学習(Client-Centric Adaptation Federated Learning, FedCCA)は、クライアント固有の知識を最適に活用し、各クライアントのユニークなモデルを学ぶアルゴリズムである。
我々は,FedCCAの有効性を評価するために,多様なデータセットに関する広範な実験を行った。
論文 参考訳(メタデータ) (2026-01-25T06:01:19Z) - Approximated Behavioral Metric-based State Projection for Federated Reinforcement Learning [0.0]
フェデレート強化学習(FRL)法は通常、暗号化されたローカル状態またはポリシー情報を共有する。
本稿では, 動作距離に基づく状態予測関数の共有がFRLの性能向上の有望な方法であることを示す。
我々はFRLフレームワークであるFedRAGを導入し、各クライアントの状態の実用的なプロジェクション関数を計算的に学習する。
論文 参考訳(メタデータ) (2025-05-15T04:41:21Z) - Hierarchical Knowledge Structuring for Effective Federated Learning in Heterogeneous Environments [0.6144680854063939]
フェデレーション学習は、個々のデータのプライバシを維持しながら、分散エンティティ間の協調的なモデルトレーニングを可能にする。
近年の取り組みは、これらの問題を克服するために、ロジットに基づく知識集約と蒸留を活用している。
サンプルログを多粒度コードブックに定式化する階層的知識構造化(HKS)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-04-04T15:06:02Z) - Federated Class-Incremental Learning: A Hybrid Approach Using Latent Exemplars and Data-Free Techniques to Address Local and Global Forgetting [10.061328213032088]
FCIL(Federated Class-Incremental Learning)とは、動的に変化するクライアントの数が、継続的に増加するタスク数を共同で学習するシナリオを指す。
我々は,局所的およびグローバルな忘れを定式化するFCILの数学的枠組みを開発する。
局所的, グローバルな忘れを解消するために, 潜在例とデータフリー手法を利用したHybrid Rehearsalという手法を提案する。
論文 参考訳(メタデータ) (2025-01-26T01:08:01Z) - Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。
近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。
本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
論文 参考訳(メタデータ) (2023-09-14T03:48:27Z) - FedSampling: A Better Sampling Strategy for Federated Learning [81.85411484302952]
フェデレートラーニング(FL)は、プライバシを保存する方法で分散化されたデータからモデルを学習するための重要なテクニックである。
既存のFLメソッドは通常、各ラウンドでローカルモデル学習のために一様にクライアントをサンプリングする。
フェデレート学習のための新しいデータ一様サンプリング戦略(FedSampling)を提案する。
論文 参考訳(メタデータ) (2023-06-25T13:38:51Z) - Knowledge-Aware Federated Active Learning with Non-IID Data [75.98707107158175]
本稿では,アノテーション予算に制限のあるグローバルモデルを効率的に学習するための,連合型アクティブラーニングパラダイムを提案する。
フェデレートされたアクティブラーニングが直面する主な課題は、サーバ上のグローバルモデルのアクティブサンプリング目標と、ローカルクライアントのアクティブサンプリング目標とのミスマッチである。
本稿では,KSAS (Knowledge-Aware Federated Active Learning) とKCFU (Knowledge-Compensatory Federated Update) を組み合わせた,知識対応型アクティブ・ラーニング(KAFAL)を提案する。
論文 参考訳(メタデータ) (2022-11-24T13:08:43Z) - Spatial-Temporal Federated Learning for Lifelong Person Re-identification on Distributed Edges [8.15821314623415]
FedSTILは、異なるエッジクライアントから学んだ知識間の空間的時間的相関を抽出することを目的としている。
5つの実世界のデータセットの混合実験により、我々の手法はRan-1精度で4%近く向上していることが示された。
論文 参考訳(メタデータ) (2022-07-24T15:13:45Z) - Straggler-Resilient Personalized Federated Learning [55.54344312542944]
フェデレーション学習は、プライバシと通信の制限を尊重しながら、クライアントの大規模なネットワークに分散されたサンプルからのトレーニングモデルを可能にする。
これら2つのハードルを同時に処理する理論的なスピードアップを保証する新しいアルゴリズム手法を開発した。
提案手法は,すべてのクライアントのデータを用いてグローバルな共通表現を見つけ,各クライアントに対してパーソナライズされたソリューションにつながるパラメータの集合を学習するために,表現学習理論からのアイデアに依存している。
論文 参考訳(メタデータ) (2022-06-05T01:14:46Z) - Addressing Client Drift in Federated Continual Learning with Adaptive
Optimization [10.303676184878896]
本稿では,NetTailorを連続学習候補として活用することにより,FCL(Federated Continual Learning)を実現するための枠組みを概説する。
適応型フェデレーション最適化は,クライアントドリフトの悪影響を低減し,CIFAR100,MiniImagenet,Deathlonベンチマーク上での有効性を示す。
論文 参考訳(メタデータ) (2022-03-24T20:00:03Z) - Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。
提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。
この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
論文 参考訳(メタデータ) (2021-02-14T05:36:25Z) - Decentralised Learning from Independent Multi-Domain Labels for Person
Re-Identification [69.29602103582782]
ディープラーニングは多くのコンピュータビジョンタスクで成功している。
しかし、プライバシー問題に対する意識の高まりは、特に人物の再識別(Re-ID)において、ディープラーニングに新たな課題をもたらす。
我々は,複数のプライバシ保護されたローカルモデル(ローカルクライアント)を同時に学習することにより,汎用的なグローバルモデル(中央サーバ)を構築するための,フェデレート・パーソナライゼーション(FedReID)と呼ばれる新しいパラダイムを提案する。
このクライアントサーバ共同学習プロセスは、プライバシコントロールの下で反復的に実行されるため、分散データを共有したり、収集したりすることなく、分散学習を実現することができる。
論文 参考訳(メタデータ) (2020-06-07T13:32:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。