論文の概要: Quantile-constrained Wasserstein projections for robust interpretability
of numerical and machine learning models
- arxiv url: http://arxiv.org/abs/2209.11539v1
- Date: Fri, 23 Sep 2022 11:58:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-26 17:26:31.266383
- Title: Quantile-constrained Wasserstein projections for robust interpretability
of numerical and machine learning models
- Title（参考訳）: 数値および機械学習モデルの堅牢な解釈可能性のための量子制約ワッサースタイン射影
- Authors: Marouane Il Idrissi (EDF R&D PRISME, SINCLAIR AI Lab, IMT), Nicolas
Bousquet (EDF R&D PRISME, SINCLAIR AI Lab, LPSM), Fabrice Gamboa (IMT),
Bertrand Iooss (EDF R&D PRISME, SINCLAIR AI Lab, IMT, GdR MASCOT-NUM),
Jean-Michel Loubes (IMT)
- Abstract要約: ブラックボックスモデルの研究は、しばしば入力に課される確率構造を含む感度分析に基づいている。
我々の研究は、両方のパラダイムに関連性があり使いやすいツールを提供することで、UQとMLの解釈可能性アプローチを統合することを目的としています。
- 参考スコア（独自算出の注目度）: 18.771531343438227
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Robustness studies of black-box models is recognized as a necessary task for
numerical models based on structural equations and predictive models learned
from data. These studies must assess the model's robustness to possible
misspecification of regarding its inputs (e.g., covariate shift). The study of
black-box models, through the prism of uncertainty quantification (UQ), is
often based on sensitivity analysis involving a probabilistic structure imposed
on the inputs, while ML models are solely constructed from observed data. Our
work aim at unifying the UQ and ML interpretability approaches, by providing
relevant and easy-to-use tools for both paradigms. To provide a generic and
understandable framework for robustness studies, we define perturbations of
input information relying on quantile constraints and projections with respect
to the Wasserstein distance between probability measures, while preserving
their dependence structure. We show that this perturbation problem can be
analytically solved. Ensuring regularity constraints by means of isotonic
polynomial approximations leads to smoother perturbations, which can be more
suitable in practice. Numerical experiments on real case studies, from the UQ
and ML fields, highlight the computational feasibility of such studies and
provide local and global insights on the robustness of black-box models to
input perturbations.
- Abstract（参考訳）: ブラックボックスモデルのロバスト性の研究は、データから学習した構造方程式と予測モデルに基づく数値モデルに必要なタスクとして認識される。
これらの研究は、入力に関する誤特定(例えば共変量シフト)の可能性に対するモデルの堅牢性を評価する必要がある。
ブラックボックスモデルの研究は、不確実量化(UQ)のプリズムを通じて、しばしば入力に課される確率構造を含む感度分析に基づいており、MLモデルは観測データからのみ構築されている。
我々の研究は、両方のパラダイムに関連性があり使いやすいツールを提供することで、UQとMLの解釈可能性アプローチを統合することを目的としています。
頑健性研究のための汎用的かつ理解可能なフレームワークとして,確率測度間のワッサーシュタイン距離に関する量子的制約と投影に依存する入力情報の摂動を定義する。
この摂動問題は解析的に解くことができることを示す。
等速多項式近似による正則性制約の確保はより滑らかな摂動をもたらすが、実際はより適している。
UQとMLの分野における実ケーススタディに関する数値実験は、そのような研究の計算可能性を強調し、入力摂動に対するブラックボックスモデルの堅牢性に関する局所的およびグローバルな洞察を提供する。
関連論文リスト
- Quantifying perturbation impacts for large language models [49.1574468325115]
本稿では、頻繁な仮説テスト問題として摂動解析を再構成するフレームワークDBPAを紹介する。
摂動影響評価におけるDBPAの有効性を示すとともに,摂動解析の汎用性を示す。
論文 参考訳（メタデータ） (2024-12-01T16:13:09Z) - Physics-constrained polynomial chaos expansion for scientific machine learning and uncertainty quantification [6.739642016124097]
本稿では,SciML(SciML)と不確実性定量化(UQ)の両タスクの実行が可能な代理モデリング手法として,物理制約付きカオス展開を提案する。
提案手法は,SciMLをUQにシームレスに統合し,その逆で,SciMLタスクの不確かさを効果的に定量化し,SciMLを利用してUQ関連タスクにおける不確実性評価を改善する。
論文 参考訳（メタデータ） (2024-02-23T06:04:15Z) - Discovering Interpretable Physical Models using Symbolic Regression and
Discrete Exterior Calculus [55.2480439325792]
本稿では,記号回帰(SR)と離散指数計算(DEC)を組み合わせて物理モデルの自動発見を行うフレームワークを提案する。
DECは、SRの物理問題への最先端の応用を越えている、場の理論の離散的な類似に対して、ビルディングブロックを提供する。
実験データから連続体物理の3つのモデルを再発見し,本手法の有効性を実証する。
論文 参考訳（メタデータ） (2023-10-10T13:23:05Z) - Robust Neural Posterior Estimation and Statistical Model Criticism [1.5749416770494706]
モデラーはシミュレータを真のデータ生成プロセスの理想主義的な表現として扱わなければならない。
本研究では,シミュレーションモデルにおけるブラックボックスパラメータ推論を可能にするアルゴリズムのクラスであるNPEを再検討する。
一方,NPEを経時的に用いた場合,不特定性の存在は信頼できない推論につながることが判明した。
論文 参考訳（メタデータ） (2022-10-12T20:06:55Z) - Robustness of Machine Learning Models Beyond Adversarial Attacks [0.0]
本稿では,MLモデルのロバスト性を決定する上で,敵対的ロバスト性や近縁なメトリクスが必ずしも有効な指標ではないことを示す。
アプリケーション毎に個別に入力データの摂動をモデル化するフレキシブルなアプローチを提案する。
これは、現実の摂動が予測を変える可能性を計算する確率論的アプローチと組み合わせられる。
論文 参考訳（メタデータ） (2022-04-21T12:09:49Z) - Hessian-based toolbox for reliable and interpretable machine learning in
physics [58.720142291102135]
本稿では,モデルアーキテクチャの解釈可能性と信頼性,外挿を行うためのツールボックスを提案する。
与えられたテストポイントでの予測に対する入力データの影響、モデル予測の不確実性の推定、およびモデル予測の不可知スコアを提供する。
我々の研究は、物理学やより一般的には科学に適用されたMLにおける解釈可能性と信頼性の方法の体系的利用への道を開く。
論文 参考訳（メタデータ） (2021-08-04T16:32:59Z) - A data-driven peridynamic continuum model for upscaling molecular
dynamics [3.1196544696082613]
分子動力学データから最適線形ペリダイナミックソリッドモデルを抽出する学習フレームワークを提案する。
我々は,符号変化の影響関数を持つ離散化LPSモデルに対して,十分な適切な正当性条件を提供する。
このフレームワークは、結果のモデルが数学的に適切であり、物理的に一貫したものであり、トレーニング中に使用するものと異なる設定によく当てはまることを保証します。
論文 参考訳（メタデータ） (2021-08-04T07:07:47Z) - Calibrating Over-Parametrized Simulation Models: A Framework via
Eligibility Set [3.862247454265944]
厳密な頻繁な統計的保証を満たす校正手法を開発するための枠組みを開発する。
本手法は,書籍市場シミュレータのキャリブレーションへの応用を含む,いくつかの数値例で実証する。
論文 参考訳（メタデータ） (2021-05-27T00:59:29Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳（メタデータ） (2020-10-05T20:03:13Z) - Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。
堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。
異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
論文 参考訳（メタデータ） (2020-07-21T08:18:06Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳（メタデータ） (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。