論文の概要: Communication-efficient distributed eigenspace estimation with arbitrary
node failures
- arxiv url: http://arxiv.org/abs/2206.00127v1
- Date: Tue, 31 May 2022 22:01:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-02 16:39:31.966129
- Title: Communication-efficient distributed eigenspace estimation with arbitrary
node failures
- Title(参考訳): 任意のノード故障を伴う通信効率のよい分散固有空間推定
- Authors: Vasileios Charisopoulos, Anil Damle
- Abstract要約: 任意のノード障害のある分散環境を対象とした固有空間推定アルゴリズムを開発した。
この設定は、分散コンピューティングやデータ収集環境で発生するいくつかの重要なシナリオを含んでいる。
我々の推定器は、最近提案された非ロバスト推定器の性能に基づいて、$tildeO(sigma sqrtalpha)$エラーを加算する。
- 参考スコア(独自算出の注目度): 5.279475826661644
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop an eigenspace estimation algorithm for distributed environments
with arbitrary node failures, where a subset of computing nodes can return
structurally valid but otherwise arbitrarily chosen responses. Notably, this
setting encompasses several important scenarios that arise in distributed
computing and data-collection environments such as silent/soft errors, outliers
or corrupted data at certain nodes, and adversarial responses. Our estimator
builds upon and matches the performance of a recently proposed non-robust
estimator up to an additive $\tilde{O}(\sigma \sqrt{\alpha})$ error, where
$\sigma^2$ is the variance of the existing estimator and $\alpha$ is the
fraction of corrupted nodes.
- Abstract(参考訳): 計算機ノードのサブセットが構造的に有効だが任意に選択された応答を返すことができる分散環境のための固有空間推定アルゴリズムを開発した。
特に、この設定は、分散コンピューティングや、サイレント/ソフトエラー、特定のノードにおける外れ値や破損データ、敵の応答など、データ収集環境において発生するいくつかの重要なシナリオを含んでいる。
我々の推定器は、最近提案された非ロバスト推定器の性能を、追加の$\tilde{O}(\sigma \sqrt{\alpha})$ error(ここで、$\sigma^2$は既存の推定器の分散であり、$\alpha$は破損したノードの分数である。
関連論文リスト
- Identifying General Mechanism Shifts in Linear Causal Representations [58.6238439611389]
我々は,未知の潜在因子の線形混合を観測する線形因果表現学習環境について考察する。
近年の研究では、潜伏要因の復元や、それに基づく構造因果モデルの構築が可能であることが示されている。
非常に穏やかな標準仮定の下では、シフトしたノードの集合を識別することが可能である。
論文 参考訳(メタデータ) (2024-10-31T15:56:50Z) - Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳(メタデータ) (2024-05-29T01:32:17Z) - Distributed Bayesian Estimation in Sensor Networks: Consensus on
Marginal Densities [15.038649101409804]
連続変数上の確率分布の関数空間において、確率的確率的アルゴリズムを導出する。
これらの結果を利用して、個々のエージェントが観測する変数のサブセットに制限された新しい分散推定器を得る。
これは、協調的なローカライゼーションやフェデレートドラーニングのような応用に関係しており、任意のエージェントで収集されたデータは、関心のあるすべての変数のサブセットに依存する。
論文 参考訳(メタデータ) (2023-12-02T21:10:06Z) - Sample Complexity of Nonparametric Off-Policy Evaluation on
Low-Dimensional Manifolds using Deep Networks [71.95722100511627]
深層ニューラルネットワークを用いた強化学習における非政治的評価問題について考察する。
ネットワークサイズを適切に選択することにより、マルコフ決定過程において低次元多様体構造を利用することができることを示す。
論文 参考訳(メタデータ) (2022-06-06T20:25:20Z) - Improved Information Theoretic Generalization Bounds for Distributed and
Federated Learning [12.939332394024415]
ネットワーク環境における学習問題に対する予測一般化誤差に対する情報理論的境界について考察する。
この設定では、K$ノードがあり、それぞれ独自の独立したデータセットを持ち、各ノードのモデルを最終集中モデルに集約する必要がある。
ブレグマン発散やリプシッツ連続損失のような様々な問題に対して期待される一般化誤差について上限を与える。
論文 参考訳(メタデータ) (2022-02-04T22:47:53Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Decentralized Multi-Task Stochastic Optimization With Compressed
Communications [22.31884634659446]
本稿では,ノードにおけるローカル情報可用性の2つのモデルに対して,アルゴリズムを開発し,性能バウンダリを求める。
グローバルな最小値からの逸脱と制約の違反は$mathcalO(T-frac12)$と$mathcalO(T-frac14)$によって上界されることを示す。
論文 参考訳(メタデータ) (2021-12-23T05:54:42Z) - Acceleration in Distributed Optimization Under Similarity [72.54787082152278]
集中ノードを持たないエージェントネットワーク上での分散(強い凸)最適化問題について検討する。
$varepsilon$-solutionは$tildemathcalrhoObig(sqrtfracbeta/mu (1-)log1/varepsilonbig)$通信ステップ数で達成される。
この速度は、関心のクラスに適用される分散ゴシップ-アルゴリズムの、初めて(ポリログ因子まで)より低い複雑性の通信境界と一致する。
論文 参考訳(メタデータ) (2021-10-24T04:03:00Z) - Distributionally Robust Local Non-parametric Conditional Estimation [22.423052432220235]
非パラメトリックな局所推定を生成する分布安定な新しい推定器を提案する。
一般には難解であるにもかかわらず、局所推定器は凸最適化によって効率的に見つけることができることを示す。
合成およびMNISTデータセットを用いた実験は、この新しいクラスの推定器の競合性能を示している。
論文 参考訳(メタデータ) (2020-10-12T00:11:17Z) - Robust Mean Estimation on Highly Incomplete Data with Arbitrary Outliers [7.224832132296238]
我々は,$N$の例として,$d$次元分布の平均を頑健に推定する問題について検討する。
ほぼ線形時間における情報理論的に最適な次元非依存誤差保証を用いて分布の平均を推定するアルゴリズムを示す。
論文 参考訳(メタデータ) (2020-08-18T17:53:34Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳(メタデータ) (2020-03-19T15:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。