論文の概要: Nothing Wasted: Full Contribution Enforcement in Federated Edge Learning
- arxiv url: http://arxiv.org/abs/2110.08330v1
- Date: Fri, 15 Oct 2021 19:32:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-19 17:14:36.197969
- Title: Nothing Wasted: Full Contribution Enforcement in Federated Edge Learning
- Title(参考訳): nothing wasted:federated edge learningにおけるフルコントリビューションの実施
- Authors: Qin Hu, Shengling Wang, Zeihui Xiong, Xiuzhen Cheng
- Abstract要約: 本稿では,不完全情報型マルチプレイヤーFELゲームにおける集合的ゆがみ(CE)戦略を提案する。
提案したCE戦略は,従来のゆがみ戦略を拡張して,一人の相手に対して期待されるユーティリティの比例的シェアを制御している。
理論的解析と実験的評価の両方が提案手法の有効性と妥当性を検証した。
- 参考スコア(独自算出の注目度): 11.904704686663473
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The explosive amount of data generated at the network edge makes mobile edge
computing an essential technology to support real-time applications, calling
for powerful data processing and analysis provided by machine learning (ML)
techniques. In particular, federated edge learning (FEL) becomes prominent in
securing the privacy of data owners by keeping the data locally used to train
ML models. Existing studies on FEL either utilize in-process optimization or
remove unqualified participants in advance. In this paper, we enhance the
collaboration from all edge devices in FEL to guarantee that the ML model is
trained using all available local data to accelerate the learning process. To
that aim, we propose a collective extortion (CE) strategy under the
imperfect-information multi-player FEL game, which is proved to be effective in
helping the server efficiently elicit the full contribution of all devices
without worrying about suffering from any economic loss. Technically, our
proposed CE strategy extends the classical extortion strategy in controlling
the proportionate share of expected utilities for a single opponent to the
swiftly homogeneous control over a group of players, which further presents an
attractive trait of being impartial for all participants. Moreover, the CE
strategy enriches the game theory hierarchy, facilitating a wider application
scope of the extortion strategy. Both theoretical analysis and experimental
evaluations validate the effectiveness and fairness of our proposed scheme.
- Abstract(参考訳): ネットワークエッジで生成される爆発的なデータ量によって、モバイルエッジコンピューティングはリアルタイムアプリケーションをサポートする上で不可欠な技術となり、機械学習(ml)技術によって提供される強力なデータ処理と分析を要求する。
特にfederated edge learning(fel)は、mlモデルのトレーニングにローカルにデータを保管することで、データ所有者のプライバシの確保に重点を置いている。
FELに関する既存の研究は、プロセス内最適化を利用するか、事前に資格のない参加者を排除している。
本稿では,FELにおけるすべてのエッジデバイスとのコラボレーションを強化し,MLモデルが学習プロセスの高速化のために利用可能なすべてのローカルデータを用いてトレーニングされていることを保証する。
そこで,本研究では,サーバが経済的損失を心配することなく,全機器の貢献を効果的に導出する上で有効であることを証明した,不完全情報多人間felゲームに基づく集団的強要戦略を提案する。
技術的には,提案するce戦略は,一対一の対戦相手が期待するユーティリティの比率を制御し,一対一のプレイヤ群を迅速に均質に制御することにおいて,古典的強要戦略を拡張する。
さらに、CE戦略はゲーム理論階層を豊かにし、ゆがみ戦略のより広い適用範囲を容易にする。
理論解析および実験評価は,提案手法の有効性と公平性を検証した。
関連論文リスト
- eFedLLM: Efficient LLM Inference Based on Federated Learning [1.6179784294541053]
大言語モデル(LLMs)は人工知能(AI)の転換期を告げる
本稿では, LLM推論の運用効率と費用対効果を高める効果的な手法を提案する。
論文 参考訳(メタデータ) (2024-11-24T22:50:02Z) - Heterogeneity-Aware Resource Allocation and Topology Design for Hierarchical Federated Edge Learning [9.900317349372383]
Federated Learning (FL)は、モバイルデバイス上で機械学習モデルをトレーニングするためのプライバシー保護フレームワークを提供する。
従来のFLアルゴリズム、例えばFedAvgはこれらのデバイスに重い通信負荷を課す。
エッジデバイスをエッジサーバに接続し,エッジサーバをピアツーピア(P2P)エッジバックホールを介して相互接続する2層HFELシステムを提案する。
我々の目標は、戦略的資源配分とトポロジ設計により、HFELシステムの訓練効率を向上させることである。
論文 参考訳(メタデータ) (2024-09-29T01:48:04Z) - FactorLLM: Factorizing Knowledge via Mixture of Experts for Large Language Models [50.331708897857574]
本稿では,高度に訓練された高密度FFNを余分なサブネットワークに分解する新しいアプローチであるFacterLLMを紹介する。
FactorLLMは、最大85%のモデル性能を確保しながら、推論速度を30%以上増加させながら、ソースモデルに匹敵するパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-08-15T16:45:16Z) - Guaranteeing Data Privacy in Federated Unlearning with Dynamic User Participation [21.07328631033828]
フェデレート・アンラーニング(FU)は、訓練されたグローバルなFLモデルから、フェデレート・ラーニング(FL)ユーザーのデータの影響を排除できる。
単純なFUメソッドでは、未学習のユーザを削除し、その後、残りのすべてのユーザとスクラッチから新しいグローバルFLモデルを再トレーニングする。
本稿では、動的ユーザ参加を効果的に管理しつつ、プライバシを確保することを目的とした、プライバシ保護のためのFUフレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-03T03:39:07Z) - Filling the Missing: Exploring Generative AI for Enhanced Federated
Learning over Heterogeneous Mobile Edge Devices [72.61177465035031]
ローカルデータのFIMI(FIlling the MIssing)部分を活用することにより,これらの課題に対処する,AIを活用した創発的なフェデレーション学習を提案する。
実験の結果,FIMIはデバイス側エネルギーの最大50%を節約し,目標とするグローバルテスト精度を達成できることがわかった。
論文 参考訳(メタデータ) (2023-10-21T12:07:04Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Personalizing Federated Learning with Over-the-Air Computations [84.8089761800994]
フェデレートされたエッジ学習は、プライバシー保護の方法で無線ネットワークのエッジにインテリジェンスをデプロイする、有望な技術である。
このような設定の下で、複数のクライアントは、エッジサーバの調整の下でグローバルジェネリックモデルを協調的にトレーニングする。
本稿では,アナログオーバー・ザ・エア計算を用いて通信ボトルネックに対処する分散トレーニングパラダイムを提案する。
論文 参考訳(メタデータ) (2023-02-24T08:41:19Z) - Energy-Aware Edge Association for Cluster-based Personalized Federated
Learning [2.3262774900834606]
無線ネットワーク上のフェデレートラーニングは、プライバシ保存モデルトレーニングのために、ネットワークエッジにおけるユビキタスインテリジェンスを活用することによって、データ意識のサービスを可能にする。
我々は、類似した好みのユーザデバイスをグループ化するクラスタ化フェデレーション学習を提案し、各クラスタにパーソナライズされたモデルを提供する。
モデル精度、通信資源割り当て、エネルギー消費を共同で考慮し、精度-コストトレードオフ最適化問題を定式化する。
論文 参考訳(メタデータ) (2022-02-06T07:58:41Z) - Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。
また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文 参考訳(メタデータ) (2020-12-01T11:46:03Z) - Incentive Mechanism Design for Resource Sharing in Collaborative Edge
Learning [106.51930957941433]
5GとBeyondネットワークでは、人工知能のアプリケーションがますます普及すると予想されている。
これは、現在のクラウド中心のモデルトレーニングアプローチから、エッジラーニングとして知られるエッジコンピューティングベースの協調学習スキームへのパラダイムシフトを必要とする。
論文 参考訳(メタデータ) (2020-05-31T12:45:06Z) - FMore: An Incentive Scheme of Multi-dimensional Auction for Federated
Learning in MEC [17.370238999812685]
本稿では,K当選者の多次元調達オークションを用いたインセンティブメカニズムFMoreを提案する。
我々の提案するFMoreは軽量でインセンティブに適合するだけでなく、学習に参加するために低コストで高品質なエッジノードを奨励します。
論文 参考訳(メタデータ) (2020-02-22T13:43:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。