論文の概要: Secure and Efficient Federated Learning Through Layering and Sharding
Blockchain
- arxiv url: http://arxiv.org/abs/2104.13130v1
- Date: Tue, 27 Apr 2021 12:19:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-28 13:21:45.221098
- Title: Secure and Efficient Federated Learning Through Layering and Sharding
Blockchain
- Title(参考訳): 階層化とシャーディングによるセキュアで効率的な連合学習
- Authors: Shuo Yuan, Bin Cao, Yao Sun, Mugen Peng
- Abstract要約: Federated Learning(FL)は、クラウド中心の機械学習手法によって生じるシステム的なプライバシーリスクと通信コストを軽減する、有望なマスター/スレーブラーニングパラダイムとして登場した。
近年、ブロックチェーンがflシステムに導入され、パラダイムを分散化することで、システムのセキュリティと学習の信頼性がさらに向上している。
本稿では、複数のサブチェーンネットワーク(サブチェーン層)とDAGベースのメインチェーン(メインチェーン層)で構成される2層ブロックチェーン駆動FLフレームワークChainsFLを提案する。
実験結果から,ChainsFLは適度かつ時にはトレーニング効率が向上することが示された。
- 参考スコア(独自算出の注目度): 22.238997356799757
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) has emerged as a promising master/slave learning
paradigm to alleviate systemic privacy risks and communication costs incurred
by cloud-centric machine learning methods. However, it is very challenging to
resist the single point of failure of the master aggregator and attacks from
malicious participants while guaranteeing model convergence speed and accuracy.
Recently, blockchain has been brought into FL systems transforming the paradigm
to a decentralized manner thus further improve the system security and learning
reliability. Unfortunately, the traditional consensus mechanism and
architecture of blockchain systems can hardly handle the large-scale FL task
due to the huge resource consumption, limited transaction throughput, and high
communication complexity. To address these issues, this paper proposes a
two-layer blockchaindriven FL framework, called as ChainsFL, which is composed
of multiple subchain networks (subchain layer) and a direct acyclic graph
(DAG)-based mainchain (mainchain layer). In ChainsFL, the subchain layer limits
the scale of each shard for a small range of information exchange, and the
mainchain layer allows each shard to share and validate the learning model in
parallel and asynchronously to improve the efficiency of cross-shard
validation. Furthermore, the FL procedure is customized to deeply integrate
with blockchain technology, and the modified DAG consensus mechanism is
proposed to mitigate the distortion caused by abnormal models. In order to
provide a proof-ofconcept implementation and evaluation, multiple subchains
base on Hyperledger Fabric are deployed as the subchain layer, and the
self-developed DAG-based mainchain is deployed as the mainchain layer. The
experimental results show that ChainsFL provides acceptable and sometimes
better training efficiency and stronger robustness compared with the typical
existing FL systems.
- Abstract(参考訳): 連合学習(federated learning, ffl)は、クラウド中心の機械学習手法によって引き起こされるシステム的プライバシリスクと通信コストを軽減するための、有望なマスタ/スレーブ学習パラダイムとして浮上した。
しかし、モデル収束速度と精度を保証しながら、マスターアグリゲータの単一障害点と悪意のある参加者からの攻撃に抵抗することは極めて困難である。
近年、ブロックチェーンはFLシステムに導入され、パラダイムを分散化してシステムのセキュリティと学習信頼性をさらに向上させている。
残念ながら、ブロックチェーンシステムの従来のコンセンサスメカニズムとアーキテクチャは、巨大なリソース消費、トランザクションスループットの制限、通信の複雑さのために、大規模なFLタスクをほとんど処理できません。
そこで本稿では,複数のサブチェーンネットワーク(サブチェーン層)と,dag(direct acyclic graph)ベースのメインチェーン(mainchain layer)で構成される,chainsflと呼ばれる2層ブロックチェーン駆動のflフレームワークを提案する。
chainsflでは、サブチェーン層は、少ない範囲の情報交換のために各シャードのスケールを制限し、メインチェーン層は、各シャードが並列かつ非同期に学習モデルを共有および検証し、クロスシャード検証の効率を向上させることができる。
さらに、FLプロシージャをブロックチェーン技術と深く統合するようにカスタマイズし、異常モデルによる歪みを軽減するために改良されたDAGコンセンサス機構を提案する。
概念実証の実装と評価を提供するため、Hyperledger Fabric上の複数のサブチェーンベースがサブチェーン層としてデプロイされ、自己開発型のDAGベースのメインチェーンがメインチェーン層としてデプロイされる。
実験結果から,ChainsFLは既存のFLシステムと比較してトレーニング効率が良好であり,強靭性も優れていることがわかった。
関連論文リスト
- Decentralized Federated Unlearning on Blockchain [27.614497435862766]
FLプロセスの完全性とトレーサビリティを保証するために、フェデレートドラーニング(FL)が注目を集めている。
本稿では,Chameleon Hash(CH)技術を用いてブロックチェーン構造を再設計する汎用フレームワークであるBlockFULを提案する。
我々は、勾配上昇と再学習という2つの典型的なアンラーニング手法の総合的研究を行い、効率的なアンラーニングワークフローを実証した。
論文 参考訳(メタデータ) (2024-02-26T04:31:53Z) - Generative AI-enabled Blockchain Networks: Fundamentals, Applications,
and Case Study [73.87110604150315]
Generative Artificial Intelligence(GAI)は、ブロックチェーン技術の課題に対処するための有望なソリューションとして登場した。
本稿では、まずGAI技術を紹介し、そのアプリケーションの概要を説明し、GAIをブロックチェーンに統合するための既存のソリューションについて議論する。
論文 参考訳(メタデータ) (2024-01-28T10:46:17Z) - A Blockchain Solution for Collaborative Machine Learning over IoT [0.31410859223862103]
フェデレートラーニング(FL)とブロックチェーン技術は、これらの課題に対処するための有望なアプローチとして現れています。
我々は、漸進学習ベクトル量子化アルゴリズム(XuILVQ)とブロックチェーン技術を組み合わせた、新しいIoTソリューションを提案する。
提案アーキテクチャは,データプライバシとセキュリティを維持しながら,計算オーバーヘッドと通信オーバーヘッドを削減することにより,既存のブロックチェーンベースのFLソリューションの欠点に対処する。
論文 参考訳(メタデータ) (2023-11-23T18:06:05Z) - The Implications of Decentralization in Blockchained Federated Learning:
Evaluating the Impact of Model Staleness and Inconsistencies [2.883123270573492]
ブロックチェーンのような民主的なネットワークにフェデレートされた学習のオーケストレーションをアウトソーシングすることの実践的意義について検討する。
シミュレーションを用いて、よく知られたCIFAR-10データセット上でのブロックチェーンFL操作を評価し、ソリューションの正確性とタイムラインに焦点を当てた。
論文 参考訳(メタデータ) (2023-10-11T13:18:23Z) - On the Decentralization of Blockchain-enabled Asynchronous Federated
Learning [3.3701306798873305]
フェデレートラーニング(FL)は実運用環境における真のリアルタイムアプリケーションを可能にすることが期待されている。
ブロックチェーン(FLchainとも呼ばれる)によるFLの権限付与は、台帳の不整合と情報の年齢(AoI)に関していくつかの意味を持つ。
本稿では,FLチェーン設定の影響について光を当て,AoIと台帳の不整合がFL性能に与える影響について検討する。
論文 参考訳(メタデータ) (2022-05-20T14:20:47Z) - Federated Learning over Wireless IoT Networks with Optimized
Communication and Resources [98.18365881575805]
協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。
無線システム上での高速応答および高精度FLスキームの検証が重要である。
提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
論文 参考訳(メタデータ) (2021-10-22T13:25:57Z) - Towards On-Device Federated Learning: A Direct Acyclic Graph-based
Blockchain Approach [2.9202274421296943]
本稿では,DAG(Direct Acyclic Graph)ベースのブロックチェーンシステム(DAG-FL)を用いたフェデレートラーニングを支援するフレームワークを提案する。
2つのアルゴリズムDAG-FL ControllingとDAG-FL Updatingは、DAG-FLコンセンサスメカニズムの操作を精巧にするために異なるノードで動作するように設計されています。
論文 参考訳(メタデータ) (2021-04-27T10:29:38Z) - Deep Multi-Task Learning for Cooperative NOMA: System Design and
Principles [52.79089414630366]
我々は,近年のディープラーニング(DL)の進歩を反映した,新しいディープ・コラボレーティブなNOMAスキームを開発する。
我々は,システム全体を包括的に最適化できるように,新しいハイブリッドカスケードディープニューラルネットワーク(DNN)アーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-07-27T12:38:37Z) - Wireless Communications for Collaborative Federated Learning [160.82696473996566]
IoT(Internet of Things)デバイスは、収集したデータを中央のコントローラに送信することができず、機械学習モデルをトレーニングすることができる。
GoogleのセミナルFLアルゴリズムでは、すべてのデバイスを中央コントローラに直接接続する必要がある。
本稿では,コラボレーティブFL(CFL)と呼ばれる新しいFLフレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-03T20:00:02Z) - Resource Management for Blockchain-enabled Federated Learning: A Deep
Reinforcement Learning Approach [54.29213445674221]
Federated Learning (BFL)は、機械学習モデル所有者(MLMO)が必要とするニューラルネットワークモデルを、モバイルデバイスが協調的にトレーニングすることを可能にする。
BFLの問題は、モバイルデバイスがシステムの寿命とトレーニング効率を低下させるエネルギーとCPUの制約を持っていることである。
我々は,Deep Reinforcement Learning (DRL) を用いて最適決定を導出することを提案する。
論文 参考訳(メタデータ) (2020-04-08T16:29:19Z) - Multilinear Compressive Learning with Prior Knowledge [106.12874293597754]
マルチリニア圧縮学習(MCL)フレームワークは、マルチリニア圧縮センシングと機械学習をエンドツーエンドシステムに統合する。
MCLの背後にある主要なアイデアは、下流学習タスクの信号から重要な特徴を捉えることのできるテンソル部分空間の存在を仮定することである。
本稿では、上記の要件、すなわち、関心の信号が分離可能なテンソル部分空間をどうやって見つけるかという、2つの要件に対処する新しい解決策を提案する。
論文 参考訳(メタデータ) (2020-02-17T19:06:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。