論文の概要: Generalized ADMM in Distributed Learning via Variational Inequality
- arxiv url: http://arxiv.org/abs/2104.12608v1
- Date: Mon, 26 Apr 2021 14:16:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-27 19:52:08.819867
- Title: Generalized ADMM in Distributed Learning via Variational Inequality
- Title(参考訳): 変分不等式による分散学習における一般化ADMM
- Authors: Saeedeh Parsaeefard and Alberto Leon Garcia
- Abstract要約: コンセンサス変数の概念による乗算器の交互方向法(ADMM)は実用的なアルゴリズムである。
本稿では,ADMMの分散学習におけるユーザのローカルデータセットの効果について検討する。
- 参考スコア(独自算出の注目度): 7.013072937051018
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Due to the explosion in size and complexity of modern data sets and privacy
concerns of data holders, it is increasingly important to be able to solve
machine learning problems in distributed manners. The Alternating Direction
Method of Multipliers (ADMM) through the concept of consensus variables is a
practical algorithm in this context where its diverse variations and its
performance have been studied in different application areas. In this paper, we
study the effect of the local data sets of users in the distributed learning of
ADMM. Our aim is to deploy variational inequality (VI) to attain an unified
view of ADMM variations. Through the simulation results, we demonstrate how
more general definitions of consensus parameters and introducing the uncertain
parameters in distribute approach can help to get the better results in
learning processes.
- Abstract(参考訳): 現代のデータセットのサイズと複雑さの急増とデータ保持者のプライバシー上の懸念により、機械学習の問題を分散的に解決できることがますます重要になっている。
コンセンサス変数の概念による乗算器の交互方向法(ADMM)は,異なる応用領域において,その多様さと性能が研究されているこの文脈において,実用的なアルゴリズムである。
本稿では,ADMMの分散学習におけるユーザのローカルデータセットの効果について検討する。
我々の目標は、ADMM変動の統一的なビューを達成するために変動不等式(VI)をデプロイすることである。
シミュレーションの結果から,より一般的なコンセンサスパラメータの定義や,分散手法における不確実なパラメータの導入が,学習過程におけるより良い結果を得る上で有効であることを示す。
関連論文リスト
- Chain-of-Thought Prompting for Demographic Inference with Large Multimodal Models [58.58594658683919]
大規模マルチモーダルモデル (LMM) は、様々な研究課題において変換可能性を示している。
以上の結果から,LMMはゼロショット学習,解釈可能性,未修正入力の処理に長所があることが示唆された。
本稿では,目標外予測問題を効果的に緩和するChain-of-Thought拡張プロンプト手法を提案する。
論文 参考訳(メタデータ) (2024-05-24T16:26:56Z) - MDDD: Manifold-based Domain Adaptation with Dynamic Distribution for Non-Deep Transfer Learning in Cross-subject and Cross-session EEG-based Emotion Recognition [11.252832459891566]
動的分布を用いたマニフォールド型ドメイン適応法(MDDD)を提案する。
実験の結果,MDDDは従来の非深層学習法よりも優れ,平均3.54%の改善が達成された。
これは、MDDDが現実のシナリオにおけるABCIの有用性と適用性を高めるための有望な方法である可能性を示唆している。
論文 参考訳(メタデータ) (2024-04-24T03:08:25Z) - A robust assessment for invariant representations [10.949263264442349]
IRMに基づく手法に特化して,不変性能を評価する新しい手法を提案する。
我々は、確率比を用いて、異なる環境にわたる不変予測器の条件予測の間の橋渡しを確立する。
提案する基準は、不変性能を評価するための堅牢な基盤を提供する。
論文 参考訳(メタデータ) (2024-04-07T20:05:49Z) - Counterfactual Fairness through Transforming Data Orthogonal to Bias [7.109458605736819]
我々は新しいデータ前処理アルゴリズムOrthogonal to Bias (OB)を提案する。
OBは、連続的な敏感な変数群の影響を排除し、機械学習アプリケーションにおける反ファクトフェアネスを促進するように設計されている。
OBはモデルに依存しないため、幅広い機械学習モデルやタスクに適用できる。
論文 参考訳(メタデータ) (2024-03-26T16:40:08Z) - MLNet: Mutual Learning Network with Neighborhood Invariance for
Universal Domain Adaptation [70.62860473259444]
ユニバーサルドメイン適応(UniDA)は実用的だが難しい問題である。
既存のUniDAメソッドは、ターゲットドメイン内のドメイン内バリエーションを見落としている問題に悩まされる可能性がある。
そこで我々は,UniDA の近傍不変性を考慮した新しい相互学習ネットワーク (MLNet) を提案する。
論文 参考訳(メタデータ) (2023-12-13T03:17:34Z) - Meta-Causal Feature Learning for Out-of-Distribution Generalization [71.38239243414091]
本稿では,協調タスク生成モジュール (BTG) とメタ因果特徴学習モジュール (MCFL) を含む,バランス付きメタ因果学習器 (BMCL) を提案する。
BMCLは、分類のためのクラス不変の視覚領域を効果的に識別し、最先端の手法の性能を向上させるための一般的なフレームワークとして機能する。
論文 参考訳(メタデータ) (2022-08-22T09:07:02Z) - Provable Generalization of Overparameterized Meta-learning Trained with
SGD [62.892930625034374]
我々は、広く使われているメタラーニング手法、モデル非依存メタラーニング(MAML)の一般化について研究する。
我々は、MAMLの過大なリスクに対して、上界と下界の両方を提供し、SGDダイナミクスがこれらの一般化境界にどのように影響するかをキャプチャする。
理論的知見は実験によってさらに検証される。
論文 参考訳(メタデータ) (2022-06-18T07:22:57Z) - Expert-Guided Symmetry Detection in Markov Decision Processes [0.0]
MDP力学が不変である状態-作用空間の変換の存在を検出することを目的としたパラダイムを提案する。
その結果, 検出した対称性を用いて得られたデータを用いてデータセットを拡張した場合, モデル分布シフトが小さくなることがわかった。
論文 参考訳(メタデータ) (2021-11-19T16:12:30Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Understanding and Exploiting Dependent Variables with Deep Metric
Learning [0.5025737475817937]
Deep Metric Learning (DML)アプローチは、低次元の潜在空間への入力を表現するために学習する。
本稿では,任意の分類問題における有意な特徴が時間とともに変化する状況において,DMLのマッピング要素をどのように活用するかを検討する。
論文 参考訳(メタデータ) (2020-09-08T15:30:45Z) - Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。
堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。
異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
論文 参考訳(メタデータ) (2020-07-21T08:18:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。