論文の概要: Dropout-Based Rashomon Set Exploration for Efficient Predictive Multiplicity Estimation

• arxiv url: http://arxiv.org/abs/2402.00728v1
• Date: Thu, 1 Feb 2024 16:25:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-02 14:37:39.697863
• Title: Dropout-Based Rashomon Set Exploration for Efficient Predictive Multiplicity Estimation
• Title（参考訳）: ドロップアウトに基づく効率的な予測多重度推定のためのラショーモン集合探索
• Authors: Hsiang Hsu, Guihong Li, Shaohan Hu, Chun-Fu (Richard) Chen
• Abstract要約: 予測多重性(英: Predictive multiplicity)とは、ほぼ等しい最適性能を達成する複数の競合モデルを含む分類タスクを指す。 本稿では,Rashomon 集合のモデル探索にドロップアウト手法を利用する新しいフレームワークを提案する。 本手法は, 予測多重度推定の有効性の観点から, ベースラインを一貫して上回ることを示す。
• 参考スコア（独自算出の注目度）: 15.556756363296543
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Predictive multiplicity refers to the phenomenon in which classification tasks may admit multiple competing models that achieve almost-equally-optimal performance, yet generate conflicting outputs for individual samples. This presents significant concerns, as it can potentially result in systemic exclusion, inexplicable discrimination, and unfairness in practical applications. Measuring and mitigating predictive multiplicity, however, is computationally challenging due to the need to explore all such almost-equally-optimal models, known as the Rashomon set, in potentially huge hypothesis spaces. To address this challenge, we propose a novel framework that utilizes dropout techniques for exploring models in the Rashomon set. We provide rigorous theoretical derivations to connect the dropout parameters to properties of the Rashomon set, and empirically evaluate our framework through extensive experimentation. Numerical results show that our technique consistently outperforms baselines in terms of the effectiveness of predictive multiplicity metric estimation, with runtime speedup up to $20\times \sim 5000\times$. With efficient Rashomon set exploration and metric estimation, mitigation of predictive multiplicity is then achieved through dropout ensemble and model selection.
• Abstract（参考訳）: 予測多重性(predictive multiplicity)とは、分類タスクが、ほぼ同等の最適性能を達成するが、個々のサンプルに対して相反する出力を生成する複数の競合モデルを認める現象を指す。 これは、システム的な排除、不可解な差別、実用上の不公平をもたらす可能性があるため、重大な懸念をもたらす。 しかし、予測的多重度の測定と緩和は、潜在的に巨大な仮説空間において、ラショーモン集合として知られるようなほぼ等しい最適モデルをすべて探索する必要があるため、計算的に困難である。 そこで本研究では,rashomon セットにおけるモデル探索にdropout 手法を応用した新しいフレームワークを提案する。 レイショモン集合の性質とドロップアウトパラメータを結びつけるための厳密な理論的導出を提供し、広範囲な実験を通じて我々の枠組みを実証的に評価する。 数値的な結果から,本手法は予測多重度メトリック推定の有効性でベースラインを一貫して上回っており,実行時速度は最大20\times \sim 5000\times$。 効率的なラショモン集合探索とメトリック推定により、予測多重性の緩和はドロップアウトアンサンブルとモデル選択によって達成される。

関連論文リスト

• Mixture of Efficient Diffusion Experts Through Automatic Interval and Sub-Network Selection [63.96018203905272]
  本稿では, 事前学習した拡散モデルを用いて, 効率の良い専門家の混入を図り, サンプリングコストを削減することを提案する。 提案手法であるDiffPruningの有効性を,複数のデータセットで示す。
  論文  参考訳（メタデータ） (2024-09-23T21:27:26Z)
• Batch Ensemble for Variance Dependent Regret in Stochastic Bandits [41.95653110232677]
  オンライン強化学習(RL:Reinforcement Learning)において、探索と搾取を効果的に行うことが重要な課題の1つだ。 実践的なアンサンブル法に着想を得た本研究では,マルチアーマッド・バンディット(MAB)のほぼ最適後悔を実現する,単純かつ新しいバッチアンサンブル方式を提案する。 提案アルゴリズムは, バッチ数という1つのパラメータしか持たず, 損失のスケールや分散といった分布特性に依存しない。
  論文  参考訳（メタデータ） (2024-09-13T06:40:56Z)
• Efficient Exploration of the Rashomon Set of Rule Set Models [18.187800166484507]
  解釈可能な機械学習における新たなパラダイムは、ほぼ最適性能を示すすべてのモデルの羅生門集合を探索することを目的としている。 ラショモン集合探索に関する既存の研究は、特定のモデルのクラスに対するラショモン集合の徹底的な探索に焦点を当てている。 本稿では,Rashomonのルールセットの集合を網羅的探索の有無で探索する手法を初めて提案する。
  論文  参考訳（メタデータ） (2024-06-05T08:37:41Z)
• Predictive Churn with the Set of Good Models [64.05949860750235]
  近似機械学習モデルの集合に対する競合予測の効果について検討する。 ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。 当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
  論文  参考訳（メタデータ） (2024-02-12T16:15:25Z)
• On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
  決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。 我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。 本研究は,専門家の選択に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-02-05T12:31:18Z)
• Maximum Likelihood Estimation of Flexible Survival Densities with Importance Sampling [3.4082496470541312]
  生存分析(Survival analysis)は、検閲の有無で時間から時間までのデータを分析するための広く使われている手法である。 本稿では,ハイパーパラメータをチューニングする必要のないサバイバル分析手法を提案する。 提案手法は,複数の実世界のデータセットのベースラインに一致するか,あるいは優れることを示す。
  論文  参考訳（メタデータ） (2023-11-03T01:46:48Z)
• Arbitrariness Lies Beyond the Fairness-Accuracy Frontier [3.383670923637875]
  我々は,最先端のフェアネス介入が,グループフェアネスと精度の指標よりも高い予測倍率を隠蔽できることを示した。 より一貫した予測を確実に保証するフェアネス介入に適用可能なアンサンブルアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-06-15T18:15:46Z)
• Rashomon Capacity: A Metric for Predictive Multiplicity in Probabilistic Classification [4.492630871726495]
  予測多重性は、分類モデルが個々のサンプルに矛盾する予測を割り当てたときに発生する。 ラショモン容量と呼ばれる確率的分類における予測多重度の新しい尺度を導入する。 ラショモン・キャパシティは利害関係者に矛盾するモデルを開示するための原則的戦略をもたらすことを示す。
  論文  参考訳（メタデータ） (2022-06-02T20:44:19Z)
• Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
  3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。 パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
  論文  参考訳（メタデータ） (2022-04-13T12:43:12Z)
• Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
  本稿では,複数のモデルを学習する手法を提案する。 分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
  論文  参考訳（メタデータ） (2020-06-12T12:23:50Z)
• Ambiguity in Sequential Data: Predicting Uncertain Futures with Recurrent Models [110.82452096672182]
  逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。 また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
  論文  参考訳（メタデータ） (2020-03-10T09:15:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。