論文の概要: Argumentative Ensembling for Robust Recourse under Model Multiplicity
- arxiv url: http://arxiv.org/abs/2506.20260v1
- Date: Wed, 25 Jun 2025 09:07:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-26 21:00:42.670781
- Title: Argumentative Ensembling for Robust Recourse under Model Multiplicity
- Title(参考訳): モデル多重度下でのロバストなリコースの調停的組立
- Authors: Junqi Jiang, Antonio Rago, Francesco Leofante, Francesca Toni,
- Abstract要約: 機械学習では、同じ予測タスクに対して、複数の等しく動作するモデルを得るのが一般的である。
モデル乗数(MM)は、競合するモデルが同じ入力に対する予測が異なるときに発生する。
Recourse-Aware ensembling (RAE) と名づけた MM 下でのrecourse の提供に関する問題を定式化する。
- 参考スコア(独自算出の注目度): 15.954944873701503
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In machine learning, it is common to obtain multiple equally performing models for the same prediction task, e.g., when training neural networks with different random seeds. Model multiplicity (MM) is the situation which arises when these competing models differ in their predictions for the same input, for which ensembling is often employed to determine an aggregation of the outputs. Providing recourse recommendations via counterfactual explanations (CEs) under MM thus becomes complex, since the CE may not be valid across all models, i.e., the CEs are not robust under MM. In this work, we formalise the problem of providing recourse under MM, which we name recourse-aware ensembling (RAE). We propose the idea that under MM, CEs for each individual model should be considered alongside their predictions so that the aggregated prediction and recourse are decided in tandem. Centred around this intuition, we introduce six desirable properties for solutions to this problem. For solving RAE, we propose a novel argumentative ensembling method which guarantees the robustness of CEs under MM. Specifically, our method leverages computational argumentation to explicitly represent the conflicts between models and counterfactuals regarding prediction results and CE validity. It then uses argumentation semantics to resolve the conflicts and obtain the final solution, in a manner which is parametric to the chosen semantics. Our method also allows for the specification of preferences over the models under MM, allowing further customisation of the ensemble. In a comprehensive theoretical analysis, we characterise the behaviour of argumentative ensembling with four different argumentation semantics. We then empirically demonstrate the effectiveness of our approach in satisfying desirable properties with eight instantiations of our method. (Abstract is shortened for arXiv.)
- Abstract(参考訳): 機械学習では、異なるランダムシードでニューラルネットワークをトレーニングする際、同じ予測タスクに対して複数の等しく実行するモデルを得るのが一般的である。
モデル乗数(MM)は、これらの競合するモデルが同じ入力に対する予測が異なるときに発生する状況であり、出力の集約を決定するためにしばしばアンサンブルが使用される。
したがって、MMの下での対実的説明(CE)によるリコースレコメンデーションの提供は、すべてのモデルでCEが有効ではない、すなわち、CEはMMの下では堅牢ではないため、複雑になる。
本研究は,リコース・アウェア・アンサンブル (RAE) と名づけたMMの下でのリコース提供の問題を定式化する。
MMでは,各モデル毎のCEをそれぞれの予測と共に考慮し,集約された予測とリコースをタンデムで決定する,という考え方を提案する。
この直観を中心に、この問題に対する解決策として、6つの望ましい性質を導入する。
RAE の解法として,MM 下での CE のロバスト性を保証する新しい議論的アンサンブル法を提案する。
具体的には,予測結果とCEの有効性に関するモデルと反事実の矛盾を明示的に表現するために,計算的議論を利用する。
その後、議論の意味論を用いて紛争を解決し、選択された意味論とパラメトリックな方法で最終解を得る。
また,MMに基づくモデルよりも好みの指定が可能となり,アンサンブルのさらなるカスタマイズが可能となった。
包括的理論的分析では,4つの異なる議論意味論による議論的アンサンブルの振る舞いを特徴付ける。
次に,提案手法の8つのインスタンス化により,望ましい特性を満たすためのアプローチの有効性を実証的に実証した。
(抽象はarXivと略す)
関連論文リスト
- Mallows-type model averaging: Non-asymptotic analysis and all-subset combination [0.0]
最適全サブセットMAリスクを達成するには,基本的限界が存在することを示す。
本稿では,次元適応型$C_p$基準に基づく新しいMallows型MAプロシージャを提案する。
論文 参考訳(メタデータ) (2025-05-05T13:30:17Z) - Reconciling Predictive Multiplicity in Practice [43.74883617124773]
Reconcileは、モデル乗法(MM)現象に対処するための和解手続きである。
本稿では,5つの広く利用されているフェアネスデータセットを用いて,Reconcileアルゴリズムを実証的に解析する。
我々はReconcileアルゴリズムを因果推論の設定にまで拡張し、異なる競合推定器が特定の因果平均処理効果(CATE)値に再び異同できることを考慮した。
論文 参考訳(メタデータ) (2025-01-27T22:48:20Z) - Revisiting SMoE Language Models by Evaluating Inefficiencies with Task Specific Expert Pruning [78.72226641279863]
SMOE(Sparse Mixture of Expert)モデルは、言語モデリングにおける高密度モデルに代わるスケーラブルな代替品として登場した。
本研究は,SMoEアーキテクチャの設計に関する意思決定を行うために,タスク固有のモデルプルーニングについて検討する。
適応型タスク対応プルーニング手法 UNCURL を導入し,MoE 層当たりの専門家数をオフラインで学習する手法を提案する。
論文 参考訳(メタデータ) (2024-09-02T22:35:03Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Variational Inference of Parameters in Opinion Dynamics Models [9.51311391391997]
この研究は、変数推論を用いて、意見力学 ABM のパラメータを推定する。
我々は推論プロセスを自動微分に適した最適化問題に変換する。
提案手法は, シミュレーションベース法とMCMC法より, マクロ的(有界信頼区間とバックファイア閾値)と微視的(200ドル, エージェントレベルの役割)の両方を正確に推定する。
論文 参考訳(メタデータ) (2024-03-08T14:45:18Z) - Source-Free Unsupervised Domain Adaptation with Hypothesis Consolidation
of Prediction Rationale [53.152460508207184]
Source-Free Unsupervised Domain Adaptation (SFUDA)は、モデルがターゲットのドメインラベルやソースドメインデータにアクセスせずに新しいドメインに適応する必要がある、という課題である。
本稿では,各サンプルについて複数の予測仮説を考察し,各仮説の背景にある理論的根拠について考察する。
最適性能を達成するために,モデル事前適応,仮説統合,半教師付き学習という3段階の適応プロセスを提案する。
論文 参考訳(メタデータ) (2024-02-02T05:53:22Z) - Recourse under Model Multiplicity via Argumentative Ensembling
(Technical Report) [17.429631079094186]
我々は、recourse-aware ensembling と命名し、その解決方法が満足すべきいくつかの望ましい性質を同定する。
理論的および実験的に、議論的アンサンブルは既存の手法に欠けている性質を満足し、トレードオフは最小のWrt精度であることを示す。
論文 参考訳(メタデータ) (2023-12-22T22:33:39Z) - Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。
これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。
おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
論文 参考訳(メタデータ) (2020-02-17T19:23:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。