論文の概要: Counterfactual Explanations for Model Ensembles Using Entropic Risk Measures

• arxiv url: http://arxiv.org/abs/2503.07934v1
• Date: Tue, 11 Mar 2025 00:25:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-12 15:46:29.263324
• Title: Counterfactual Explanations for Model Ensembles Using Entropic Risk Measures
• Title（参考訳）: エントロピーリスク対策を用いたモデルアンサンブルの実態説明
• Authors: Erfaun Noorani, Pasan Dissanayake, Faisal Hamman, Sanghamitra Dutta,
• Abstract要約: 対実的な説明は、機械学習モデルで異なる結果に変換できる入力の最小限の変化を示している。 本稿では,エントロピー的リスク尺度の観点から,モデルアンサンブルの正当性を見出すための新しい戦略を提案する。 リスク回避の度合いによって, 対効果のコスト(努力)とアンサンブルの妥当性のトレードオフについて検討する。
• 参考スコア（独自算出の注目度）: 7.959080260803575
• License:
• Abstract: Counterfactual explanations indicate the smallest change in input that can translate to a different outcome for a machine learning model. Counterfactuals have generated immense interest in high-stakes applications such as finance, education, hiring, etc. In several use-cases, the decision-making process often relies on an ensemble of models rather than just one. Despite significant research on counterfactuals for one model, the problem of generating a single counterfactual explanation for an ensemble of models has received limited interest. Each individual model might lead to a different counterfactual, whereas trying to find a counterfactual accepted by all models might significantly increase cost (effort). We propose a novel strategy to find the counterfactual for an ensemble of models using the perspective of entropic risk measure. Entropic risk is a convex risk measure that satisfies several desirable properties. We incorporate our proposed risk measure into a novel constrained optimization to generate counterfactuals for ensembles that stay valid for several models. The main significance of our measure is that it provides a knob that allows for the generation of counterfactuals that stay valid under an adjustable fraction of the models. We also show that a limiting case of our entropic-risk-based strategy yields a counterfactual valid for all models in the ensemble (worst-case min-max approach). We study the trade-off between the cost (effort) for the counterfactual and its validity for an ensemble by varying degrees of risk aversion, as determined by our risk parameter knob. We validate our performance on real-world datasets.
• Abstract（参考訳）: 対実的な説明は、機械学習モデルで異なる結果に変換できる入力の最小限の変化を示している。 金融、教育、雇用などの高額な応用にカウンターファクトが大きな関心を集めている。 いくつかのユースケースでは、意思決定プロセスは単に1つのモデルではなく、モデルのアンサンブルに依存することが多い。 1つのモデルに対する反事実に関する重大な研究にもかかわらず、モデルのアンサンブルに対する単一の反事実的説明を生成するという問題は、限定的な関心を集めている。 それぞれのモデルが異なる反ファクトに繋がるかもしれないが、全てのモデルで受け入れられる反ファクトを見つけようとすると、コストが大幅に増加する可能性がある。 本稿では,エントロピー的リスク尺度の観点から,モデルアンサンブルの正当性を見出すための新しい戦略を提案する。 エントロピーリスク(Entropic risk)は、いくつかの望ましい性質を満たす凸リスク尺度である。 提案するリスク尺度を制約付き最適化に組み込んで,複数のモデルに有効であるアンサンブルに対する反事実を生成する。 我々の測度の主な意義は、モデルの調整可能な部分で有効である反事実の生成を可能にするノブを提供することである。 また、エントロピーリスクに基づく戦略の制限の場合、アンサンブル内の全てのモデル(Worst-case min-max アプローチ)に対して対実的有効であることを示す。 リスクパラメータノブによって決定されるリスク回避の度合いによって, 対効果コスト(努力)とアンサンブルの妥当性のトレードオフを検討する。 実世界のデータセット上での性能を検証する。

関連論文リスト

• Optimal Classification under Performative Distribution Shift [13.508249764979075]
  本稿では,動作効果をプッシュフォワード尺度としてモデル化した新しい視点を提案する。 我々は、新しい仮定のセットの下で、パフォーマンスリスクの凸性を証明する。 また, 性能リスクの最小化を min-max 変動問題として再定義することにより, 逆向きの頑健な分類との関係を確立する。
  論文  参考訳（メタデータ） (2024-11-04T12:20:13Z)
• Kullback-Leibler Barycentre of Stochastic Processes [0.0]
  エージェントが様々な専門家のモデルに対する見解と洞察を組み合わせることを目的とした問題を考える。 バリセントモデルの存在と特異性を示し、ラドン-ニコディム微分の明示的な表現を証明する。 合成モデルの最適ドリフトを求めるために,2つのディープラーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-07-05T20:45:27Z)
• On the Embedding Collapse when Scaling up Recommendation Models [53.66285358088788]
  埋め込み崩壊現象をスケーラビリティの阻害とみなし、埋め込み行列は低次元の部分空間を占有する傾向にある。 本稿では,組込み集合固有の相互作用モジュールを組み込んで,多様性を持つ組込み集合を学習する,単純かつ効果的な組込み設計を提案する。
  論文  参考訳（メタデータ） (2023-10-06T17:50:38Z)
• Endogenous Macrodynamics in Algorithmic Recourse [52.87956177581998]
  対実説明(CE)とアルゴリズム・リコース(AR)に関する既存の研究は、静的環境における個人に主に焦点を当ててきた。 既存の方法論の多くは、一般化されたフレームワークによってまとめて記述できることを示す。 次に、既存のフレームワークは、グループレベルでの言論の内在的ダイナミクスを研究する際にのみ明らかとなるような、隠された対外的関係のコストを考慮に入れていないと論じる。
  論文  参考訳（メタデータ） (2023-08-16T07:36:58Z)
• Deciding What to Model: Value-Equivalent Sampling for Reinforcement Learning [21.931580762349096]
  本稿では,エージェントが真のモデルの代わりにターゲットにできるような,ほぼ等価でロッキーな環境圧縮を計算するアルゴリズムを提案する。 有限水平, エピソディックな逐次決定問題を解くアルゴリズムに対して, 情報理論的, ベイズ的後悔を証明した。
  論文  参考訳（メタデータ） (2022-06-04T23:36:38Z)
• Mitigating multiple descents: A model-agnostic framework for risk monotonization [84.6382406922369]
  クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。 本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
  論文  参考訳（メタデータ） (2022-05-25T17:41:40Z)
• CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
  安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。 意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。 我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
  論文  参考訳（メタデータ） (2021-09-22T12:46:04Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• BODAME: Bilevel Optimization for Defense Against Model Extraction [10.877450596327407]
  私たちは、サービスプロバイダのアタッカーを最も推測する前提の下でモデル抽出を防ぐために、逆の設定を検討します。 真のモデルの予測を用いてサロゲートモデルを定式化する。 勾配降下に基づくアルゴリズムを用いて学習されるより複雑なモデルに対して,トラクタブル変換とアルゴリズムを与える。
  論文  参考訳（メタデータ） (2021-03-11T17:08:31Z)
• Characterizing Fairness Over the Set of Good Models Under Selective Labels [69.64662540443162]
  同様の性能を実現するモデルセットに対して,予測公正性を特徴付けるフレームワークを開発する。 到達可能なグループレベルの予測格差の範囲を計算するためのトラクタブルアルゴリズムを提供します。 選択ラベル付きデータの実証的な課題に対処するために、我々のフレームワークを拡張します。
  論文  参考訳（メタデータ） (2021-01-02T02:11:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。