論文の概要: Towards Explaining Distribution Shifts
- arxiv url: http://arxiv.org/abs/2210.10275v1
- Date: Wed, 19 Oct 2022 03:38:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 13:25:01.256031
- Title: Towards Explaining Distribution Shifts
- Title（参考訳）: 配電シフトの解説に向けて
- Authors: Sean Kulinski, David I. Inouye
- Abstract要約: 分散シフトは、運用環境の変化を信号化したり、下流モデルの精度を著しく低下させるなど、根本的な結果をもたらす可能性がある。
これまでのほとんどの研究は、シフトが発生したかどうかを単に検出することだけに重点を置いており、検出されたシフトを人間のオペレータによって適切に理解および処理できると仮定している。
本研究は, 従来の流通から移行した輸送地図を用いて, 流通変化を説明することで, これらの手動緩和作業を支援することを期待する。
- 参考スコア（独自算出の注目度）: 9.036025934093965
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A distribution shift can have fundamental consequences such as signaling a
change in the operating environment or significantly reducing the accuracy of
downstream models. Thus, understanding distribution shifts is critical for
examining and hopefully mitigating the effect of such a shift. Most prior work
has focused on merely detecting if a shift has occurred and assumes any
detected shift can be understood and handled appropriately by a human operator.
We hope to aid in these manual mitigation tasks by explaining the distribution
shift using interpretable transportation maps from the original distribution to
the shifted one. We derive our interpretable mappings from a relaxation of the
optimal transport problem, where the candidate mappings are restricted to a set
of interpretable mappings. We then use quintessential examples of distribution
shift in simulated and real-world cases to showcase how our explanatory
mappings provide a better balance between detail and interpretability than the
de facto standard mean shift explanation by both visual inspection and our
PercentExplained metric.
- Abstract（参考訳）: 分散シフトは、運用環境の変化を信号化したり、下流モデルの精度を著しく低下させるなど、根本的な結果をもたらす可能性がある。
したがって、分布シフトの理解は、そのようなシフトの効果を検証し緩和するために重要である。
これまでのほとんどの研究は、シフトが発生したかどうかを単に検出することだけに集中しており、検出されたシフトを人間のオペレータによって適切に理解および処理できると仮定している。
本研究は, 従来の流通から移行した輸送地図を用いて, 流通変化を説明することで, これらの手動緩和作業を支援することを期待する。
我々は、候補写像が解釈可能な写像の集合に制限される最適輸送問題の緩和から、解釈可能な写像を導出する。
次に、シミュレーションおよび実世界のケースにおける分布シフトの簡単な例を用いて、説明的マッピングが、視覚検査とPercentExplainedメトリックの両方によるデファクト標準平均シフト説明よりもディテールと解釈可能性のバランスが良いことを示す。
関連論文リスト
- Identifiable Latent Neural Causal Models [82.14087963690561]
因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。
因果表現の識別可能性に寄与する分布シフトのタイプを決定する。
本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
論文 参考訳（メタデータ） (2024-03-23T04:13:55Z) - Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳（メタデータ） (2024-03-12T09:32:41Z) - Distribution Shift Inversion for Out-of-Distribution Prediction [57.22301285120695]
本稿では,OoD(Out-of-Distribution)予測のためのポータブル分布シフト変換アルゴリズムを提案する。
提案手法は,OoDアルゴリズムを広範囲に接続した場合に,一般的な性能向上をもたらすことを示す。
論文 参考訳（メタデータ） (2023-06-14T08:00:49Z) - Leveraging sparse and shared feature activations for disentangled
representation learning [112.22699167017471]
本稿では,教師付きタスクの多種多様な集合から抽出した知識を活用し,共通不整合表現を学習することを提案する。
我々は6つの実世界分布シフトベンチマークと異なるデータモダリティに対するアプローチを検証する。
論文 参考訳（メタデータ） (2023-04-17T01:33:24Z) - Evaluating Robustness and Uncertainty of Graph Models Under Structural
Distributional Shifts [43.40315460712298]
グラフ学習におけるノードレベルの問題では、分散シフトは特に複雑である。
本稿では,グラフ構造に基づく分布変化の一般化手法を提案する。
単純なモデルは、考慮された構造的シフトにおいて、より洗練された手法よりも優れていることがよく示される。
論文 参考訳（メタデータ） (2023-02-27T15:25:21Z) - Explanation Shift: Detecting distribution shifts on tabular data via the
explanation space [13.050516715665166]
本研究では, モデル予測性能とモデル説明特性の分布変化の影響について検討する。
我々は,予測性能変化の検出において,説明シフトのモデル化がより良い指標となることを見出した。
論文 参考訳（メタデータ） (2022-10-22T06:47:13Z) - Interpretable Distribution Shift Detection using Optimal Transport [22.047388001308253]
最適輸送に基づく分類データセットにおける分布変化の同定と特徴付けを行う手法を提案する。
変更によって各クラスが影響を受ける範囲を特定し、対応するサンプルのペアを取得して、その性質に関する洞察を提供する。
論文 参考訳（メタデータ） (2022-08-04T21:55:29Z) - Evaluating Robustness to Dataset Shift via Parametric Robustness Sets [7.347989843033034]
モデル性能に大きな違いをもたらす分布の変化を積極的に同定する手法を提案する。
画像から性別を分類する手法を適用し,非因果属性の変化に対する感受性を明らかにする。
論文 参考訳（メタデータ） (2022-05-31T16:44:18Z) - Predicting with Confidence on Unseen Distributions [90.68414180153897]
ドメイン適応と予測不確実性文学を結びつけて、挑戦的な未知分布のモデル精度を予測する。
分類器の予測における信頼度(DoC)の差は,様々な変化に対して,分類器の性能変化を推定することに成功した。
具体的には, 合成分布と自然分布の区別について検討し, その単純さにもかかわらず, DoCは分布差の定量化に優れることを示した。
論文 参考訳（メタデータ） (2021-07-07T15:50:18Z) - Explainers in the Wild: Making Surrogate Explainers Robust to
Distortions through Perception [77.34726150561087]
説明における歪みの影響を知覚距離を埋め込むことで評価する手法を提案する。
Imagenet-Cデータセットの画像の説明を生成し、サロゲート説明書の知覚距離を使用して歪んだ画像と参照画像のより一貫性のある説明を作成する方法を示しています。
論文 参考訳（メタデータ） (2021-02-22T12:38:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。