論文の概要: Adaptive Sampling for Minimax Fair Classification
- arxiv url: http://arxiv.org/abs/2103.00755v1
- Date: Mon, 1 Mar 2021 04:58:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-04 14:40:04.573079
- Title: Adaptive Sampling for Minimax Fair Classification
- Title(参考訳): ミニマックスフェア分類のための適応サンプリング
- Authors: Shubhanshu Shekhar, Mohammad Ghavamzadeh and Tara Javidi
- Abstract要約: 最適化の原理に基づく適応型サンプリングアルゴリズムを提案し,その性能に関する理論的境界を導出する。
特定の問題のクラスに対してアルゴリズム独立なローバウンドを導出することにより,適応スキームによる性能は一般に改善できないことを示した。
- 参考スコア(独自算出の注目度): 40.936345085421955
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning models trained on imbalanced datasets can often end up
adversely affecting inputs belonging to the underrepresented groups. To address
this issue, we consider the problem of adaptively constructing training sets
which allow us to learn classifiers that are fair in a minimax sense. We first
propose an adaptive sampling algorithm based on the principle of optimism, and
derive theoretical bounds on its performance. We then suitably adapt the
techniques developed for the analysis of our proposed algorithm to derive
bounds on the performance of a related $\epsilon$-greedy strategy recently
proposed in the literature. Next, by deriving algorithm independent
lower-bounds for a specific class of problems, we show that the performance
achieved by our adaptive scheme cannot be improved in general. We then validate
the benefits of adaptively constructing training sets via experiments on
synthetic tasks with logistic regression classifiers, as well as on several
real-world tasks using convolutional neural networks.
- Abstract(参考訳): 不均衡なデータセットでトレーニングされた機械学習モデルは、しばしば、不均衡なグループに属する入力に悪影響を及ぼす。
この問題に対処するために,ミニマックス感で公平な分類器を学習できる学習セットを適応的に構築する問題を考察する。
まず,オプティミズムの原理に基づく適応サンプリングアルゴリズムを提案し,その性能に関する理論的境界を導出する。
次に,提案するアルゴリズムの解析手法を適切に適用し,最近文献に提案されている関連する$\epsilon$-greedy戦略の性能限界を導出する。
次に、特定の問題のクラスに対してアルゴリズム独立な下限を導出することにより、適応スキームによって達成される性能が一般に改善されないことを示す。
次に、ロジスティック回帰分類器を用いた合成タスクや畳み込みニューラルネットワークを用いた実世界のタスクの実験を通じて、学習セットを適応的に構築する利点を検証する。
関連論文リスト
- Boosting Fair Classifier Generalization through Adaptive Priority Reweighing [59.801444556074394]
より優れた一般化性を持つ性能向上フェアアルゴリズムが必要である。
本稿では,トレーニングデータとテストデータ間の分散シフトがモデル一般化性に与える影響を解消する適応的リライジング手法を提案する。
論文 参考訳(メタデータ) (2023-09-15T13:04:55Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳(メタデータ) (2023-05-24T17:26:22Z) - Adaptive Experimentation at Scale: A Computational Framework for
Flexible Batches [7.390918770007728]
結果がバッチで測定される少数の実測を含む実例によって動機付けられ,適応駆動型実験フレームワークを開発した。
我々の主な観察は、統計的推論において普遍的な正規近似は適応アルゴリズムの設計を導くことができることである。
論文 参考訳(メタデータ) (2023-03-21T04:17:03Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳(メタデータ) (2022-12-02T05:07:50Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Adaptive Cost-Sensitive Learning in Neural Networks for
Misclassification Cost Problems [2.8935588665357077]
誤分類コスト問題に対する適応学習アルゴリズムを設計する。
我々のアルゴリズムは、トレーニングにおけるサンプルのサブグループと、同様の予測された確率を持つテストデータセットのクラス分布の違いを橋渡しする。
本稿では,提案アルゴリズムを用いたディープニューラルネットワークが,クラス不均衡分布とクラス不均衡分布を持つ複数のバイナリ分類データセットに対して,他のアプローチと比較して,より良いコスト結果をもたらすことを示す。
論文 参考訳(メタデータ) (2021-11-14T16:19:11Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Adapting by Pruning: A Case Study on BERT [9.963251767416967]
対象タスクの性能を最適化するために,事前学習したモデルの神経接続をpruneするプラニングにより適応する新しいモデル適応パラダイムを提案する。
本稿では, 最適化問題として適応分割法を定式化し, モデル作成のための効率的なアルゴリズムを提案する。
以上の結果から,提案手法は細調整フルモデルと同等の性能を示しながら,BERTの最大50%の重み付けが可能であることが示唆された。
論文 参考訳(メタデータ) (2021-05-07T15:51:08Z) - Meta-Regularization: An Approach to Adaptive Choice of the Learning Rate
in Gradient Descent [20.47598828422897]
第一次下降法における学習率の適応的選択のための新しいアプローチであるtextit-Meta-Regularizationを提案する。
本手法は,正規化項を追加して目的関数を修正し,共同処理パラメータをキャストする。
論文 参考訳(メタデータ) (2021-04-12T13:13:34Z) - Adaptive Sampling of Pareto Frontiers with Binary Constraints Using
Regression and Classification [0.0]
本稿では,二項制約を持つブラックボックス多目的最適化問題に対する適応最適化アルゴリズムを提案する。
本手法は確率的回帰モデルと分類モデルに基づいており,最適化目標のサロゲートとして機能する。
また,予想される超体積計算を高速化するために,新しい楕円形トランケーション法を提案する。
論文 参考訳(メタデータ) (2020-08-27T09:15:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。