Fugu-MT 論文翻訳(概要): Byzantine-Resilient Federated PCA and Low Rank Matrix Recovery

論文の概要: Byzantine-Resilient Federated PCA and Low Rank Matrix Recovery

arxiv url: http://arxiv.org/abs/2309.14512v1
Date: Mon, 25 Sep 2023 20:21:11 GMT
ステータス: 処理完了
システム内更新日: 2023-09-27 15:57:50.812658
Title: Byzantine-Resilient Federated PCA and Low Rank Matrix Recovery
Title（参考訳）: ビザンチン系耐食性PCAと低ランクマトリックス回収
Authors: Ankit Pratap Singh and Namrata Vaswani
Abstract要約: 本稿では, ビザンチン耐性, 通信効率, プライベートなアルゴリズムSubspace-Medianを提案する。弾力的な部分空間推定メタプロブレムの2つの特別な事例を考察する。
参考スコア（独自算出の注目度）: 20.370944501500762
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this work we consider the problem of estimating the principal subspace (span of the top r singular vectors) of a symmetric matrix in a federated setting, when each node has access to estimates of this matrix. We study how to make this problem Byzantine resilient. We introduce a novel provably Byzantine-resilient, communication-efficient, and private algorithm, called Subspace-Median, to solve it. We also study the most natural solution for this problem, a geometric median based modification of the federated power method, and explain why it is not useful. We consider two special cases of the resilient subspace estimation meta-problem - federated principal components analysis (PCA) and the spectral initialization step of horizontally federated low rank column-wise sensing (LRCCS) in this work. For both these problems we show how Subspace Median provides a resilient solution that is also communication-efficient. Median of Means extensions are developed for both problems. Extensive simulation experiments are used to corroborate our theoretical guarantees. Our second contribution is a complete AltGDmin based algorithm for Byzantine-resilient horizontally federated LRCCS and guarantees for it. We do this by developing a geometric median of means estimator for aggregating the partial gradients computed at each node, and using Subspace Median for initialization.
Abstract（参考訳）: 本研究では、各ノードがこの行列の推定にアクセスできるとき、対称行列の主部分空間(トップ r 特異ベクトルのスパン)をフェデレートした設定で推定する問題を考察する。我々はこの問題をビザンツのレジリエントにする方法を研究する。本稿では,バイザンチン耐性,通信効率,プライベートなアルゴリズムであるSubspace-Medianを提案する。また, この問題に対する最も自然な解, 幾何的中央値に基づくフェデレーションパワー法の修正について検討し, 有用でない理由を説明する。本研究では, 弾力的部分空間推定メタプロブレム結合主成分分析(PCA)と, 水平結合型ローランクカラムワイズセンシング(LRCCS)のスペクトル初期化ステップの2つの特殊事例について考察する。これら2つの問題に対して、Subspace Medianは、通信効率も高いレジリエントなソリューションを提供しています。両方の問題に対してMeansの拡張が開発された。大規模なシミュレーション実験は、我々の理論的保証を裏付けるために用いられる。第2の貢献は、ビザンチン系弾力性並列化RCCSのための完全なAltGDminベースのアルゴリズムであり、その保証である。我々は,各ノードで計算された偏勾配を集約する平均推定器の幾何学的中央値を開発し,初期化にSubspace Medianを使用する。

関連論文リスト

Statistical Analysis of Policy Space Compression Problem [54.1754937830779]
政策探索手法は強化学習において重要であり、継続的な状態反応と部分的に観察可能な問題に対処するための枠組みを提供する。政策圧縮による政策空間の削減は、学習プロセスを加速するための強力で報酬のないアプローチとして現れます。この手法は方針空間をより小さく代表的な集合に凝縮し、元の効果のほとんどを維持している。
論文参考訳（メタデータ） (2024-11-15T02:46:55Z)
Efficient Federated Low Rank Matrix Completion [18.471262688125645]
低階行列完備化(LRMC)問題を解くために,AltGDと最小化(AltGDmin)と呼ばれるソリューションを開発し,解析する。我々の理論的保証は、AltGDminがフェデレートされた環境で最も通信効率の良いソリューションであることを示唆している。私たちは、AltMinのサンプル複雑性の保証を改善するために、我々の補題をどのように利用できるかを示します。
論文参考訳（メタデータ） (2024-05-10T16:12:35Z)
Decentralized Federated Policy Gradient with Byzantine Fault-Tolerance and Provably Fast Convergence [21.935405256685307]
Federated Reinforcement Learning (FRL)では、エージェントは共通のタスクを協調的に学習することを目的としており、各エージェントは生の軌跡を交換することなく、そのローカル環境で行動している。我々はまず,非フォールトトレラントPGの仮定標準にのみ依存して既存の手法を改善する,新しい集中型ビザンチンフォールトトレラントポリシー(PG)アルゴリズムを提案する。
論文参考訳（メタデータ） (2024-01-07T14:06:06Z)
Small Object Detection via Coarse-to-fine Proposal Generation and Imitation Learning [52.06176253457522]
本稿では,粗粒度パイプラインと特徴模倣学習に基づく小型物体検出に適した2段階フレームワークを提案する。 CFINetは、大規模な小さなオブジェクト検出ベンチマークであるSODA-DとSODA-Aで最先端の性能を達成する。
論文参考訳（メタデータ） (2023-08-18T13:13:09Z)
PARL: A Unified Framework for Policy Alignment in Reinforcement Learning from Human Feedback [106.63518036538163]
我々は、強化学習におけるポリシーアライメントの最近強調された重要な問題に対処するために、新しい統合された二段階最適化ベースのフレームワーク、textsfPARLを提案する。本フレームワークは, 上向きの目標(逆設計)の分布を, 下向きの最適変数で明示的にパラメータ化することにより, これらの問題に対処する。その結果,提案したtextsfPARL が RL のアライメントの懸念に対処できる可能性が示唆された。
論文参考訳（メタデータ） (2023-08-03T18:03:44Z)
Resilient Output Consensus Control of Heterogeneous Multi-agent Systems against Byzantine Attacks: A Twin Layer Approach [23.824617731137877]
本研究では、ビザンチン攻撃に対する異種マルチエージェントシステム(MAS)の協調的制御の問題について検討する。仮想双対層(TL)を備えた新しい階層型プロトコルDigital Twinの概念に着想を得た。
論文参考訳（メタデータ） (2023-03-22T18:23:21Z)
A novel approach for Fair Principal Component Analysis based on eigendecomposition [10.203602318836444]
1次元探索からなる簡単な戦略を用いて,公平性問題に対処する新しいPCAアルゴリズムを提案する。私たちの発見は、いくつかの現実の状況と、バランスの取れていないデータセットとバランスの取れていないデータセットの両方のシナリオで一致しています。
論文参考訳（メタデータ） (2022-08-24T08:20:16Z)
Actor-Critic based Improper Reinforcement Learning [61.430513757337486]
我々は,未知のマルコフ決定プロセスに対して,学習者に100万ドルのベースコントローラを付与する不適切な強化学習環境を考える。本稿では,(1)ポリシーグラディエントに基づくアプローチ,(2)単純なアクター・クリティカル・スキームとNatural Actor-Criticスキームを切り替えるアルゴリズムを提案する。
論文参考訳（メタデータ） (2022-07-19T05:55:02Z)
Byzantine-Robust Federated Linear Bandits [27.77095339417368]
分散エージェントの集合が共通の線形帯域モデルを協調的に学習するフェデレート環境で線形帯域最適化問題を研究する。標準的な連邦学習アルゴリズムは、少数のエージェントに対するビザンチン攻撃に対して脆弱である。提案アルゴリズムは, エージェントの半数未満に対するビザンチン攻撃に対して堅牢であり, サブ線形$tildemathcalO(T3/4)$ regret with $mathcalO(sqrtT)$ steps of communicationを実現している。
論文参考訳（メタデータ） (2022-04-03T20:22:26Z)
SUNRISE: A Simple Unified Framework for Ensemble Learning in Deep Reinforcement Learning [102.78958681141577]
SUNRISEは単純な統一アンサンブル法であり、様々な非政治的な深層強化学習アルゴリズムと互換性がある。 SUNRISEは, (a) アンサンブルに基づく重み付きベルマンバックアップと, (b) 最上位の自信境界を用いて行動を選択する推論手法を統合し, 効率的な探索を行う。
論文参考訳（メタデータ） (2020-07-09T17:08:44Z)
The Simulator: Understanding Adaptive Sampling in the Moderate-Confidence Regime [52.38455827779212]
エミュレータと呼ばれる適応サンプリングを解析するための新しい手法を提案する。適切なログファクタを組み込んだトップk問題の最初のインスタンスベースの下位境界を証明します。我々の新しい分析は、後者の問題に対するこの種の最初のエミュレータであるベストアームとトップkの識別に、シンプルでほぼ最適であることを示した。
論文参考訳（メタデータ） (2017-02-16T23:42:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。