論文の概要: Beyond Discriminant Patterns: On the Robustness of Decision Rule
Ensembles
- arxiv url: http://arxiv.org/abs/2109.10432v1
- Date: Tue, 21 Sep 2021 20:50:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-23 13:57:57.910170
- Title: Beyond Discriminant Patterns: On the Robustness of Decision Rule
Ensembles
- Title(参考訳): 判別パターンを超えて:決定規則アンサンブルのロバスト性について
- Authors: Xin Du, Subramanian Ramamoorthy, Wouter Duivesteijn, Jin Tian, Mykola
Pechenizkiy
- Abstract要約: 局所的な決定規則は、関連するパターンの局所的な性質のため、より説明しやすいと一般的に理解されている。
トレーニング環境とデプロイメント環境の両方において堅牢なローカルな意思決定ルールを学習し,アンサンブルするための新しい手法を提案する。
- 参考スコア(独自算出の注目度): 22.57678894050416
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Local decision rules are commonly understood to be more explainable, due to
the local nature of the patterns involved. With numerical optimization methods
such as gradient boosting, ensembles of local decision rules can gain good
predictive performance on data involving global structure. Meanwhile, machine
learning models are being increasingly used to solve problems in high-stake
domains including healthcare and finance. Here, there is an emerging consensus
regarding the need for practitioners to understand whether and how those models
could perform robustly in the deployment environments, in the presence of
distributional shifts. Past research on local decision rules has focused mainly
on maximizing discriminant patterns, without due consideration of robustness
against distributional shifts. In order to fill this gap, we propose a new
method to learn and ensemble local decision rules, that are robust both in the
training and deployment environments. Specifically, we propose to leverage
causal knowledge by regarding the distributional shifts in subpopulations and
deployment environments as the results of interventions on the underlying
system. We propose two regularization terms based on causal knowledge to search
for optimal and stable rules. Experiments on both synthetic and benchmark
datasets show that our method is effective and robust against distributional
shifts in multiple environments.
- Abstract(参考訳): 局所的な決定規則は、関連するパターンの局所的な性質から、より説明しやすいと一般的に理解されている。
勾配向上などの数値最適化手法により、局所的な決定規則のアンサンブルは、グローバル構造を含むデータに対して良好な予測性能を得ることができる。
一方、機械学習モデルは、医療や金融といった高度な分野の問題を解決するために、ますます使われてきている。
ここでは,分散シフトの存在下で,これらのモデルがデプロイメント環境において堅牢に動作できるか,どのように機能するかを,実践者が理解する必要があるという,新たなコンセンサスが存在する。
局所的な決定規則に関する過去の研究は、分散シフトに対する頑健さを考慮せずに、主に差別パターンの最大化に焦点を合わせてきた。
このギャップを埋めるために,我々は,トレーニング環境とデプロイメント環境の両方において堅牢な局所決定ルールを学習し,アサンブルする新しい手法を提案する。
具体的には,下位システムへの介入の結果として,サブポピュレーションと展開環境の分布変化を考慮し,因果知識を活用することを提案する。
最適規則と安定規則を探索するための因果知識に基づく2つの正規化項を提案する。
合成データセットとベンチマークデータセットの両方で実験した結果,本手法は複数環境における分布シフトに対して有効かつロバストであることが判明した。
関連論文リスト
- Decision-Focused Evaluation of Worst-Case Distribution Shift [18.98504221245623]
本稿では,予測資源割り当て設定における最悪の分散シフトを特定するための新しいフレームワークを提案する。
本稿では,この問題を部分モジュラー最適化問題として再定義し,最悪の場合の損失を効率的に近似できることを示す。
実データに私たちのフレームワークを適用すると、あるメトリクスによって識別される最悪のケースシフトが、他のメトリクスによって識別される最悪のケース分布と著しく異なるという経験的な証拠が得られます。
論文 参考訳(メタデータ) (2024-07-04T01:00:53Z) - Differentiable Distributionally Robust Optimization Layers [10.667165962654996]
パラメータ化二階円錐曖昧性集合を用いた混合整数DRO問題に対する微分可能なDRO層を開発する。
本稿では,決定の連続的な部分と離散的な部分を異なる原理で扱うことによって,新しい双対ビュー手法を提案する。
具体的には、双対ビュー手法を実装し、その勾配を推定するために重要サンプリングを利用するために、微分可能エネルギーベースサロゲートを構築した。
論文 参考訳(メタデータ) (2024-06-24T12:09:19Z) - Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳(メタデータ) (2024-03-12T09:32:41Z) - Adaptive Global-Local Representation Learning and Selection for
Cross-Domain Facial Expression Recognition [54.334773598942775]
ドメインシフトは、クロスドメイン顔表情認識(CD-FER)において重要な課題となる
適応的グローバルローカル表現学習・選択フレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-20T02:21:41Z) - Robust Networked Federated Learning for Localization [7.332862402432447]
本稿では,データを複数のデバイスに分散するフェデレーション環境での非滑らかな近似問題に対処する。
本稿では,分散サブグラディエントフレームワークにおけるロバストな定式化を,これらの障害に対処するために明示的に設計した,$L_$-normを採用する手法を提案する。
論文 参考訳(メタデータ) (2023-08-31T13:54:37Z) - Statistical Inference Under Constrained Selection Bias [20.862583584531322]
本稿では,選択バイアスが存在する場合の統計的推測を可能にする枠組みを提案する。
出力は、目標分布に対する推定値に対する高確率境界である。
我々はこれらの境界を推定するための手法の計算的および統計的特性を分析し、これらの手法が様々なシミュレートされた半合成的なタスクに対して情報的境界を生成可能であることを示す。
論文 参考訳(メタデータ) (2023-06-05T23:05:26Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳(メタデータ) (2021-06-15T17:45:51Z) - Robust Generalization despite Distribution Shift via Minimum
Discriminating Information [46.164498176119665]
我々は、トレーニングデータに加えて、シフトしたテスト分布に関する部分的な構造的知識を持つモデリングフレームワークを導入する。
我々は、利用可能な事前知識を埋め込むために、最小限の識別情報の原則を用いる。
未知のシフト分布に関する明示的な一般化境界を得る。
論文 参考訳(メタデータ) (2021-06-08T15:25:35Z) - Learning Calibrated Uncertainties for Domain Shift: A Distributionally
Robust Learning Approach [150.8920602230832]
ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。
特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。
提案手法は下流タスクに有利な校正不確実性を生成する。
論文 参考訳(メタデータ) (2020-10-08T02:10:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。