論文の概要: Delegating Data Collection in Decentralized Machine Learning

• arxiv url: http://arxiv.org/abs/2309.01837v1
• Date: Mon, 4 Sep 2023 22:16:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-06 17:00:42.803298
• Title: Delegating Data Collection in Decentralized Machine Learning
• Title（参考訳）: 分散機械学習におけるデータ収集の委譲
• Authors: Nivasini Ananthakrishnan, Stephen Bates, Michael I. Jordan, and Nika Haghtalab
• Abstract要約: 我々は、モデル品質の評価における確実性の欠如と、任意のモデルの最適性能に関する知識の欠如という、2つの基本的な機械学習課題に対して、最適かつほぼ最適の契約を設計する。 主元が小さいテスト集合であっても、第一次効用のうち 1-1/e 個を達成できるような単純な線形契約によって、確実性の欠如に対処できることが示される。 最適性能に関する事前知識の欠如に対処するため,最適契約を適応的かつ効率的に計算できる凸プログラムを提案する。
• 参考スコア（独自算出の注目度）: 67.0537668772372
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Motivated by the emergence of decentralized machine learning ecosystems, we study the delegation of data collection. Taking the field of contract theory as our starting point, we design optimal and near-optimal contracts that deal with two fundamental machine learning challenges: lack of certainty in the assessment of model quality and lack of knowledge regarding the optimal performance of any model. We show that lack of certainty can be dealt with via simple linear contracts that achieve 1-1/e fraction of the first-best utility, even if the principal has a small test set. Furthermore, we give sufficient conditions on the size of the principal's test set that achieves a vanishing additive approximation to the optimal utility. To address the lack of a priori knowledge regarding the optimal performance, we give a convex program that can adaptively and efficiently compute the optimal contract.
• Abstract（参考訳）: 分散機械学習エコシステムの出現に動機づけられ,データ収集の委譲について検討した。 契約理論の分野を出発点として、モデル品質の評価における確実性の欠如と、任意のモデルの最適性能に関する知識の欠如という、2つの基本的な機械学習課題に対処する最適かつほぼ最適の契約を設計する。 主成分が小さいテスト集合を持つ場合でも,第一級ユーティリティの1-1/e分数を達成する単純な線形契約によって,確実性の欠如を処理できることを示す。 さらに, 最適効用に対する消滅する加法近似を達成する主検定集合のサイズについて十分条件を与える。 最適性能に関する事前知識の欠如に対処するために,最適契約を適応的かつ効率的に計算できる凸プログラムを提案する。

関連論文リスト

• Adam with model exponential moving average is effective for nonconvex optimization [45.242009309234305]
  本稿では,Adamのような適応最適化アルゴリズムと(II)指数移動平均(EMA)モデルという,大規模かつ複雑なモデルのトレーニングのための2つの現代的な最適化手法に関する理論的解析を行う。
  論文  参考訳（メタデータ） (2024-05-28T14:08:04Z)
• Big Learning Expectation Maximization [13.709094150105566]
  本稿では,共同,辺縁,直交の辺縁マッチングを同時に行うEMアップグレードであるBig Learning EM(BigLearn-EM)を提案する。 実験により,BigLearn-EMは高い確率で最適な結果を得ることができることを示す。
  論文  参考訳（メタデータ） (2023-12-19T08:07:41Z)
• Delegated Classification [21.384062337682185]
  機械学習タスクのインセンティブ対応デリゲーションに関する理論的枠組みを提案する。 予算最適契約を定義し、合理的な仮定の下で単純なしきい値を取ることを証明します。 実証的に、我々は予算最適契約を小規模データを用いて構築できることを実証した。
  論文  参考訳（メタデータ） (2023-06-20T11:59:03Z)
• Exploiting Temporal Structures of Cyclostationary Signals for Data-Driven Single-Channel Source Separation [98.95383921866096]
  単一チャネルソース分離(SCSS)の問題点について検討する。 我々は、様々なアプリケーション領域に特に適するサイクロ定常信号に焦点を当てる。 本稿では,最小MSE推定器と競合するU-Netアーキテクチャを用いたディープラーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-08-22T14:04:56Z)
• Sequential Information Design: Markov Persuasion Process and Its Efficient Reinforcement Learning [156.5667417159582]
  本稿では,逐次情報設計の新たなモデル,すなわちマルコフ説得過程(MPP)を提案する。 MPPのプランニングは、ミオピックレシーバーに同時に説得されるシグナルポリシーを見つけ、送信者の最適な長期累積ユーティリティを誘導する、というユニークな課題に直面している。 我々は,楽観主義と悲観主義の両原理の新たな組み合わせを特徴とする,実証可能な効率のよい非回帰学習アルゴリズム,Optimism-Pessimism Principle for Persuasion Process (OP4) を設計する。
  論文  参考訳（メタデータ） (2022-02-22T05:41:43Z)
• Adaptive Stochastic ADMM for Decentralized Reinforcement Learning in Edge Industrial IoT [106.83952081124195]
  強化学習 (Reinforcement Learning, RL) は, 意思決定および最適制御プロセスのための有望な解法として広く研究されている。 本稿では,Adaptive ADMM (asI-ADMM)アルゴリズムを提案する。 実験の結果,提案アルゴリズムは通信コストやスケーラビリティの観点から技術状況よりも優れており,複雑なIoT環境に適応できることがわかった。
  論文  参考訳（メタデータ） (2021-06-30T16:49:07Z)
• Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
  変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。 GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。 本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
  論文  参考訳（メタデータ） (2021-01-06T17:36:26Z)
• Efficient Robust Optimal Transport with Application to Multi-Label Classification [12.521494095948068]
  OTコスト関数における対称正の半定値マハラノビス計量を用いて特徴-特徴関係をモデル化する。 結果の最適化問題を非線形OT問題とみなし,Frank-Wolfeアルゴリズムを用いて解く。 タグ予測や多クラス分類などの識別学習環境における実証的な結果から,本手法の有効性が示唆された。
  論文  参考訳（メタデータ） (2020-10-22T16:43:52Z)
• Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
  我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。 提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。 シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
  論文  参考訳（メタデータ） (2020-10-06T16:51:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。