論文の概要: Coded Consensus Monte Carlo: Robust One-Shot Distributed Bayesian Learning with Stragglers

• arxiv url: http://arxiv.org/abs/2112.09794v1
• Date: Fri, 17 Dec 2021 22:26:18 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-21 17:51:46.995189
• Title: Coded Consensus Monte Carlo: Robust One-Shot Distributed Bayesian Learning with Stragglers
• Title（参考訳）: Coded Consensus Monte Carlo: ストラグラーによるロバストなワンショット分散ベイズ学習
• Authors: Hari Hara Suthan Chittoor and Osvaldo Simeone
• Abstract要約: この手紙は、中央サーバーと複数の労働者を含む設定でベイズ学習を分散している。 グループ化と符号化に基づく2つのストラグラーレジリエントソリューションが提案されている。
• 参考スコア（独自算出の注目度）: 37.16319486349348
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This letter studies distributed Bayesian learning in a setting encompassing a central server and multiple workers by focusing on the problem of mitigating the impact of stragglers. The standard one-shot, or embarrassingly parallel, Bayesian learning protocol known as consensus Monte Carlo (CMC) is generalized by proposing two straggler-resilient solutions based on grouping and coding. The proposed methods, referred to as Group-based CMC (G-CMC) and Coded CMC (C-CMC), leverage redundant computing at the workers in order to enable the estimation of global posterior samples at the server based on partial outputs from the workers. Simulation results show that C-CMC may outperform G-GCMC for a small number of workers, while G-CMC is generally preferable for a larger number of workers.
• Abstract（参考訳）: 本論文は,集中型サーバと複数作業者を対象として,ストラグラーの影響軽減問題に着目し,ベイズ学習を分散した。 コンセンサスモンテカルロ (CMC) として知られるベイズ学習プロトコルは、グループ化とコーディングに基づく2つのストラグラーレジリエントな解を提案することで一般化される。 提案手法は,グループベースMCC (G-CMC) とコードドMCC (C-CMC) と呼ばれ,作業者の部分出力に基づいて,サーバのグローバルな後部サンプルを推定するために,作業者の冗長な計算を利用する。 シミュレーションの結果,C-CMCは少数の労働者に対してG-GCMCより優れており,G-CMCは多数の労働者に対して好適であることがわかった。

関連論文リスト

• Parallel Approaches to Accelerate Bayesian Decision Trees [1.9728521995447947]
  本稿では,MCMCにおける並列性を利用した2つの手法を提案する。 第一に、MCMCを別の数値ベイズ的アプローチで置き換える。 第2に、データのパーティショニングについて検討する。
  論文  参考訳（メタデータ） (2023-01-22T09:56:26Z)
• Continuous Monte Carlo Graph Search [61.11769232283621]
  連続モンテカルログラフサーチ(Continuous Monte Carlo Graph Search, CMCGS)は、モンテカルログラフサーチ(MCTS)のオンラインプランニングへの拡張である。 CMCGSは、計画中、複数の州で同じ行動方針を共有することで高いパフォーマンスが得られるという洞察を生かしている。 並列化によってスケールアップすることができ、学習力学モデルによる連続制御においてクロスエントロピー法(CEM)よりも優れている。
  論文  参考訳（メタデータ） (2022-10-04T07:34:06Z)
• Generalized Lagrange Coded Computing: A Flexible Computation-Communication Tradeoff for Resilient, Secure, and Private Computation [11.951700263976777]
  一般ラグランジュ符号計算(GLCC)符号は、時間内に結果を返さないストラグラーに対してレジリエンスを提供するために提案される。 LCCコードには、特殊なケースとして、最先端のラグランジュ・コードド・コンピューティング(LCC)コードが含まれる。
  論文  参考訳（メタデータ） (2022-04-24T02:48:07Z)
• Parallelized Reverse Curriculum Generation [62.25453821794469]
  強化学習では, エージェントが, まばらな報酬のために, 特定の一連の行動を必要とするタスクをマスターすることが困難である。 逆カリキュラム生成(RCG)は、エージェントが学習するカリキュラムを自動的に生成する逆拡張アプローチを提供する。 本稿では,複数のACペアを同時に訓練し,定期的に批判を交換する並列化手法を提案する。
  論文  参考訳（メタデータ） (2021-08-04T15:58:35Z)
• Compressed Monte Carlo with application in particle filtering [11.84836209560411]
  ランダムサンプルの集合に含まれる統計情報を圧縮するための圧縮MC(C-MC)スキームの理論と実践を紹介する。 C-MCは、この研究で導入された3つの新しいスキームで示されるように、粒子フィルタリングおよび適応ISアルゴリズムにおいて有用である。
  論文  参考訳（メタデータ） (2021-07-18T14:32:04Z)
• Variational Combinatorial Sequential Monte Carlo Methods for Bayesian Phylogenetic Inference [4.339931151475307]
  Vari Combinatorial Monte Carlo (VCSMC) は複雑な構造について学習するための変分探索を確立する強力なフレームワークである。 本稿では,VCSMC と CSMC が,従来のタスクよりも高い確率空間を探索できることを示す。
  論文  参考訳（メタデータ） (2021-05-31T19:44:24Z)
• Gradient Coding with Dynamic Clustering for Straggler-Tolerant Distributed Learning [55.052517095437]
  勾配降下(GD)は、複数の労働者にデータセットを分散することで学習タスクの並列化に広く用いられている。 分散同期gdにおけるイテレーション完了時間ごとの重要なパフォーマンスボトルネックは$straggling$ workersである。 コード化された分散技術は、最近ストラグラーを緩和し、労働者に冗長な計算を割り当てることでgdイテレーションを高速化するために導入された。 本稿では,従来のトラグリング動作に依存する可能性のあるコードの中から,冗長なデータを労働者に割り当てて選択する動的GC方式を提案する。
  論文  参考訳（メタデータ） (2021-03-01T18:51:29Z)
• Community Detection by Principal Components Clustering Methods [1.0965065178451106]
  主成分クラスタリング(PCC)と正規化主成分クラスタリング(NPCC)の2つの新しいアプローチを提案する。 PCCはPCCとRCC法の組み合わせに基づいて設計されている(Qin & Rohe 2013)。
  論文  参考訳（メタデータ） (2020-11-09T12:24:42Z)
• Kernel learning approaches for summarising and combining posterior similarity matrices [68.8204255655161]
  我々は,ベイズクラスタリングモデルに対するMCMCアルゴリズムの出力を要約するための新しいアプローチを提案するために,後部類似性行列(PSM)の概念を構築した。 我々の研究の重要な貢献は、PSMが正の半定値であり、したがって確率的に動機付けられたカーネル行列を定義するのに使用できることである。
  論文  参考訳（メタデータ） (2020-09-27T14:16:14Z)
• FACMAC: Factored Multi-Agent Centralised Policy Gradients [103.30380537282517]
  FACtored Multi-Agent Centralized Policy gradients (FACMAC)を提案する。 離散的および連続的な行動空間における協調的マルチエージェント強化学習のための新しい手法である。 我々は,マルチエージェント粒子環境の変動に対するFACMAC,新しいマルチエージェント MuJoCo ベンチマーク,およびStarCraft II マイクロマネジメントタスクの挑戦的セットについて評価した。
  論文  参考訳（メタデータ） (2020-03-14T21:29:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。