論文の概要: Robust softmax aggregation on blockchain based federated learning with convergence guarantee
- arxiv url: http://arxiv.org/abs/2311.07027v2
- Date: Fri, 29 Dec 2023 02:19:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-18 23:32:03.946737
- Title: Robust softmax aggregation on blockchain based federated learning with convergence guarantee
- Title(参考訳): 収束保証付きブロックチェーンに基づくフェデレーション学習におけるロバストソフトマックスアグリゲーション
- Authors: Huiyu Wu, Diego Klabjan,
- Abstract要約: 本稿では,ブロックチェーンに基づくフェデレーション学習フレームワークを提案する。
まず、よくテストされた実証・オブ・ステークコンセンサス機構を利用するブロックチェーンベースの新しいフェデレーション学習アーキテクチャを提案する。
第2に,アグリゲーションプロセスの堅牢性を確保するために,新しいソフトマックスアグリゲーション法を設計する。
- 参考スコア(独自算出の注目度): 11.955062839855334
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Blockchain based federated learning is a distributed learning scheme that allows model training without participants sharing their local data sets, where the blockchain components eliminate the need for a trusted central server compared to traditional Federated Learning algorithms. In this paper we propose a softmax aggregation blockchain based federated learning framework. First, we propose a new blockchain based federated learning architecture that utilizes the well-tested proof-of-stake consensus mechanism on an existing blockchain network to select validators and miners to aggregate the participants' updates and compute the blocks. Second, to ensure the robustness of the aggregation process, we design a novel softmax aggregation method based on approximated population loss values that relies on our specific blockchain architecture. Additionally, we show our softmax aggregation technique converges to the global minimum in the convex setting with non-restricting assumptions. Our comprehensive experiments show that our framework outperforms existing robust aggregation algorithms in various settings by large margins.
- Abstract(参考訳): ブロックチェーンベースのフェデレーション学習は、参加者がローカルデータセットを共有することなくモデルトレーニングを可能にする分散学習スキームである。
本稿では,ブロックチェーンに基づくフェデレーション学習フレームワークについて述べる。
まず、既存のブロックチェーンネットワーク上でテスト済みの証明・オブ・テイクコンセンサス機構を利用して、バリデータとマイナを選択し、参加者の更新を集約し、ブロックを計算する、ブロックチェーンベースの新しいフェデレーション学習アーキテクチャを提案する。
第2に、アグリゲーションプロセスの堅牢性を確保するために、特定のブロックチェーンアーキテクチャに依存した、近似された人口損失値に基づく、新しいソフトマックスアグリゲーション手法を設計する。
さらに,我々のソフトマックス集約手法は,非制限仮定の凸設定において,大域最小値に収束することを示す。
包括的実験により、我々のフレームワークは、様々な設定において、既存のロバストな集約アルゴリズムよりも大きなマージンで優れていることが示された。
関連論文リスト
- BlockFound: Customized blockchain foundation model for anomaly detection [47.04595143348698]
BlockFoundは、異常なブロックチェーントランザクション検出のためのカスタマイズされた基盤モデルである。
ブロックチェーントランザクションのユニークなデータ構造をモデル化するための、一連のカスタマイズデザインを紹介します。
BlockFoundは、Solana上の異常なトランザクションを高精度に検出する唯一の方法である。
論文 参考訳(メタデータ) (2024-10-05T05:11:34Z) - Voltran: Unlocking Trust and Confidentiality in Decentralized Federated Learning Aggregation [12.446757264387564]
我々は、フェデレートラーニング(FL)のための信頼、機密性、堅牢性を達成するために設計された革新的なハイブリッドプラットフォームであるVoltranを紹介する。
FLアグリゲーションをTEEにオフロードして、分離され、信頼され、カスタマイズ可能なオフチェーン実行を提供します。
マルチSGX並列実行戦略を導入することで、複数のFLシナリオに強力なスケーラビリティを提供する。
論文 参考訳(メタデータ) (2024-08-13T13:33:35Z) - Enhancing Trust and Privacy in Distributed Networks: A Comprehensive Survey on Blockchain-based Federated Learning [51.13534069758711]
ブロックチェーンのような分散型アプローチは、複数のエンティティ間でコンセンサスメカニズムを実装することで、魅力的なソリューションを提供する。
フェデレートラーニング(FL)は、参加者がデータのプライバシを保護しながら、協力的にモデルをトレーニングすることを可能にする。
本稿では,ブロックチェーンのセキュリティ機能とFLのプライバシ保護モデルトレーニング機能の相乗効果について検討する。
論文 参考訳(メタデータ) (2024-03-28T07:08:26Z) - Communication Efficient ConFederated Learning: An Event-Triggered SAGA
Approach [67.27031215756121]
Federated Learning(FL)は、さまざまなデータソース上のローカルデータを収集することなく、モデルトレーニングをターゲットとする機械学習パラダイムである。
単一のサーバを使用するStandard FLは、限られた数のユーザしかサポートできないため、学習能力の低下につながる。
本研究では,多数のユーザに対応するために,emphConfederated Learning(CFL)と呼ばれるマルチサーバFLフレームワークを検討する。
論文 参考訳(メタデータ) (2024-02-28T03:27:10Z) - A Blockchain-empowered Multi-Aggregator Federated Learning Architecture
in Edge Computing with Deep Reinforcement Learning Optimization [8.082460100928358]
フェデレーテッド・ラーニング(FL)は、機械学習アーキテクチャの追求の結果として登場した。
ネットワークインフラの進歩により、FLはエッジコンピューティングにシームレスに統合された。
ブロックチェーン技術はセキュリティを強化することを約束するが、リソース制約のあるエッジデバイスへの実践的なデプロイは依然として課題だ。
論文 参考訳(メタデータ) (2023-10-14T20:47:30Z) - Multi-dimensional Data Quick Query for Blockchain-based Federated Learning [6.499393722730449]
本稿では,MerkleRB-Tree と呼ばれる各ブロック内のクエリ効率を改善するための新しいデータ構造を提案する。
詳細は,多次元連続値属性と離散値属性の問合せプロセスにおいて,最小境界矩形(MBR)とブルームフィルタを利用する。
論文 参考訳(メタデータ) (2023-09-27T01:35:11Z) - FedChain: An Efficient and Secure Consensus Protocol based on Proof of Useful Federated Learning for Blockchain [0.3480973072524161]
ブロックチェーンの中核はコンセンサスプロトコルであり、すべての参加者の間でコンセンサスを確立する。
ブロックチェーン(FedChain)のための有用なフェデレーション学習の証明に基づく,効率的かつセキュアなコンセンサスプロトコルを提案する。
当社のアプローチは広範な実験を通じて検証され,その性能を実証している。
論文 参考訳(メタデータ) (2023-08-29T08:04:07Z) - Blockchain-based Federated Learning with Secure Aggregation in Trusted
Execution Environment for Internet-of-Things [20.797220195954065]
本稿では,Intel Software Guard Extension (SGX) ベースのTrusted Execution Environment (TEE) を用いたブロックチェーンベースのフェデレートラーニング(FL)フレームワークを提案する。
FLでは、ローカルモデルを攻撃者によって改ざんすることができる。従って、改ざんされたローカルモデルから生成されたグローバルモデルが誤用される可能性があるため、提案フレームワークはブロックチェーンネットワークを利用してモデルアグリゲーションをセキュアにする。
ノードは集約されたモデルの信頼性を検証し、モデルの整合性を保証するためにブロックチェーンコンセンサスメカニズムを実行し、タンパ保護ストレージのために分散台帳に追加することができる。
論文 参考訳(メタデータ) (2023-04-25T15:00:39Z) - An Expectation-Maximization Perspective on Federated Learning [75.67515842938299]
フェデレーション学習は、データをデバイス上でプライベートにしながら、複数のクライアントにわたるモデルの分散トレーニングを記述する。
本稿では,サーバがクライアント固有のモデルパラメータに対して事前分布のパラメータを提供する階層的潜在変数モデルとして,サーバが設定したフェデレーション学習プロセスについて考察する。
我々は,単純なガウス先行とよく知られた期待最大化(EM)アルゴリズムのハードバージョンを用いて,そのようなモデルの学習は,フェデレーション学習環境における最も一般的なアルゴリズムであるFedAvgに対応することを示す。
論文 参考訳(メタデータ) (2021-11-19T12:58:59Z) - Blockchain Assisted Decentralized Federated Learning (BLADE-FL):
Performance Analysis and Resource Allocation [119.19061102064497]
ブロックチェーンをFL、すなわちブロックチェーン支援分散学習(BLADE-FL)に統合することで、分散FLフレームワークを提案する。
提案されたBLADE-FLのラウンドでは、各クライアントはトレーニング済みモデルを他のクライアントにブロードキャストし、受信したモデルに基づいてブロックを生成し、次のラウンドのローカルトレーニングの前に生成されたブロックからモデルを集約します。
遅延クライアントがblade-flの学習性能に与える影響を調査し,最適なk,学習パラメータ,遅延クライアントの割合の関係を特徴付ける。
論文 参考訳(メタデータ) (2021-01-18T07:19:08Z) - Blockchain Assisted Decentralized Federated Learning (BLADE-FL) with
Lazy Clients [124.48732110742623]
フェデレートラーニング(FL)にブロックチェーンを統合する新しいフレームワークを提案する。
BLADE-FLは、プライバシー保護、改ざん抵抗、学習の効果的な協力の点で優れたパフォーマンスを持っている。
遅延クライアントは、他人のトレーニングされたモデルを盗聴し、不正行為を隠すために人工的なノイズを加える。
論文 参考訳(メタデータ) (2020-12-02T12:18:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。