論文の概要: Dropout-Based Rashomon Set Exploration for Efficient Predictive
Multiplicity Estimation
- arxiv url: http://arxiv.org/abs/2402.00728v1
- Date: Thu, 1 Feb 2024 16:25:00 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-02 14:37:39.697863
- Title: Dropout-Based Rashomon Set Exploration for Efficient Predictive
Multiplicity Estimation
- Title(参考訳): ドロップアウトに基づく効率的な予測多重度推定のためのラショーモン集合探索
- Authors: Hsiang Hsu, Guihong Li, Shaohan Hu, Chun-Fu (Richard) Chen
- Abstract要約: 予測多重性(英: Predictive multiplicity)とは、ほぼ等しい最適性能を達成する複数の競合モデルを含む分類タスクを指す。
本稿では,Rashomon 集合のモデル探索にドロップアウト手法を利用する新しいフレームワークを提案する。
本手法は, 予測多重度推定の有効性の観点から, ベースラインを一貫して上回ることを示す。
- 参考スコア(独自算出の注目度): 15.556756363296543
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Predictive multiplicity refers to the phenomenon in which classification
tasks may admit multiple competing models that achieve almost-equally-optimal
performance, yet generate conflicting outputs for individual samples. This
presents significant concerns, as it can potentially result in systemic
exclusion, inexplicable discrimination, and unfairness in practical
applications. Measuring and mitigating predictive multiplicity, however, is
computationally challenging due to the need to explore all such
almost-equally-optimal models, known as the Rashomon set, in potentially huge
hypothesis spaces. To address this challenge, we propose a novel framework that
utilizes dropout techniques for exploring models in the Rashomon set. We
provide rigorous theoretical derivations to connect the dropout parameters to
properties of the Rashomon set, and empirically evaluate our framework through
extensive experimentation. Numerical results show that our technique
consistently outperforms baselines in terms of the effectiveness of predictive
multiplicity metric estimation, with runtime speedup up to $20\times \sim
5000\times$. With efficient Rashomon set exploration and metric estimation,
mitigation of predictive multiplicity is then achieved through dropout ensemble
and model selection.
- Abstract(参考訳): 予測多重性(predictive multiplicity)とは、分類タスクが、ほぼ同等の最適性能を達成するが、個々のサンプルに対して相反する出力を生成する複数の競合モデルを認める現象を指す。
これは、システム的な排除、不可解な差別、実用上の不公平をもたらす可能性があるため、重大な懸念をもたらす。
しかし、予測的多重度の測定と緩和は、潜在的に巨大な仮説空間において、ラショーモン集合として知られるようなほぼ等しい最適モデルをすべて探索する必要があるため、計算的に困難である。
そこで本研究では,rashomon セットにおけるモデル探索にdropout 手法を応用した新しいフレームワークを提案する。
レイショモン集合の性質とドロップアウトパラメータを結びつけるための厳密な理論的導出を提供し、広範囲な実験を通じて我々の枠組みを実証的に評価する。
数値的な結果から,本手法は予測多重度メトリック推定の有効性でベースラインを一貫して上回っており,実行時速度は最大20\times \sim 5000\times$。
効率的なラショモン集合探索とメトリック推定により、予測多重性の緩和はドロップアウトアンサンブルとモデル選択によって達成される。
関連論文リスト
- Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。
ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。
当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - On Least Squares Estimation in Softmax Gating Mixture of Experts [85.61224527426624]
決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。
我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。
本研究は,専門家の選択に重要な意味を持つ。
論文 参考訳(メタデータ) (2024-02-05T12:31:18Z) - Maximum Likelihood Estimation of Flexible Survival Densities with
Importance Sampling [3.4082496470541312]
生存分析(Survival analysis)は、検閲の有無で時間から時間までのデータを分析するための広く使われている手法である。
本稿では,ハイパーパラメータをチューニングする必要のないサバイバル分析手法を提案する。
提案手法は,複数の実世界のデータセットのベースラインに一致するか,あるいは優れることを示す。
論文 参考訳(メタデータ) (2023-11-03T01:46:48Z) - Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。
マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。
提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
論文 参考訳(メタデータ) (2023-08-28T18:48:34Z) - Arbitrariness Lies Beyond the Fairness-Accuracy Frontier [3.383670923637875]
我々は,最先端のフェアネス介入が,グループフェアネスと精度の指標よりも高い予測倍率を隠蔽できることを示した。
より一貫した予測を確実に保証するフェアネス介入に適用可能なアンサンブルアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-06-15T18:15:46Z) - Rashomon Capacity: A Metric for Predictive Multiplicity in Probabilistic
Classification [4.492630871726495]
予測多重性は、分類モデルが個々のサンプルに矛盾する予測を割り当てたときに発生する。
ラショモン容量と呼ばれる確率的分類における予測多重度の新しい尺度を導入する。
ラショモン・キャパシティは利害関係者に矛盾するモデルを開示するための原則的戦略をもたらすことを示す。
論文 参考訳(メタデータ) (2022-06-02T20:44:19Z) - Holistic Approach to Measure Sample-level Adversarial Vulnerability and
its Utility in Building Trustworthy Systems [17.707594255626216]
敵対的攻撃は、知覚不能な雑音を伴うイメージを摂動させ、誤ったモデル予測をもたらす。
本稿では,異なる視点を組み合わせることで,サンプルの敵対的脆弱性を定量化するための総合的アプローチを提案する。
サンプルレベルで確実に敵の脆弱性を推定することにより、信頼できるシステムを開発できることを実証する。
論文 参考訳(メタデータ) (2022-05-05T12:36:17Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Learning Diverse Representations for Fast Adaptation to Distribution
Shift [78.83747601814669]
本稿では,複数のモデルを学習する手法を提案する。
分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
論文 参考訳(メタデータ) (2020-06-12T12:23:50Z) - Ambiguity in Sequential Data: Predicting Uncertain Futures with
Recurrent Models [110.82452096672182]
逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。
また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
論文 参考訳(メタデータ) (2020-03-10T09:15:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。