論文の概要: Sanity Checks Revisited: An Exploration to Repair the Model Parameter Randomisation Test

• arxiv url: http://arxiv.org/abs/2401.06465v1
• Date: Fri, 12 Jan 2024 09:21:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-15 19:56:32.229668
• Title: Sanity Checks Revisited: An Exploration to Repair the Model Parameter Randomisation Test
• Title（参考訳）: Sanity Checks Revisited: モデルパラメータランダム化テストを修復するための探索
• Authors: Anna Hedstr\"om, Leander Weber, Sebastian Lapuschkin, Marina MC H\"ohne
• Abstract要約: モデルランダム化テスト(MPRT)に2つの適応を導入する。 これらの適応は、サンプリングによる評価結果に対するノイズの影響を最小限にする。 後者は、複雑性の増大によってテストを再解釈することで、バイアス付き類似度測定の必要性を回避する。
• 参考スコア（独自算出の注目度）: 2.4821303044292895
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The Model Parameter Randomisation Test (MPRT) is widely acknowledged in the eXplainable Artificial Intelligence (XAI) community for its well-motivated evaluative principle: that the explanation function should be sensitive to changes in the parameters of the model function. However, recent works have identified several methodological caveats for the empirical interpretation of MPRT. To address these caveats, we introduce two adaptations to the original MPRT -- Smooth MPRT and Efficient MPRT, where the former minimises the impact that noise has on the evaluation results through sampling and the latter circumvents the need for biased similarity measurements by re-interpreting the test through the explanation's rise in complexity, after full parameter randomisation. Our experimental results demonstrate that these proposed variants lead to improved metric reliability, thus enabling a more trustworthy application of XAI methods.
• Abstract（参考訳）: モデルパラメータランダム化テスト(MPRT)は、よく動機付けられた評価原理として、eXplainable Artificial Intelligence(XAI)コミュニティで広く認識されている: 説明関数はモデル関数のパラメータの変化に敏感であるべきである。 しかし、近年の研究では、MPRTの実証的な解釈にいくつかの方法が指摘されている。 これらの問題点に対処するために、元のMPRTにSmooth MPRTとEfficient MPRTという2つの適応を導入し、前者はサンプリングによってノイズが評価結果に与える影響を最小化し、後者は、完全なパラメータランダム化後に、説明の複雑さの増加を通じてテストを再解釈することで、バイアス付き類似度測定の必要性を回避する。 実験の結果,提案した変種は計量信頼性を向上し,XAI法をより信頼性の高い適用を可能にした。

関連論文リスト

• A Fresh Look at Sanity Checks for Saliency Maps [3.371877306561591]
  モデルランダム化テスト(MPRT)の2つの修正を提案する。 前者はサンプリングによる評価結果に対するノイズの影響を低減し、後者はバイアス付き類似度測定の必要性を回避する。 実験の結果,これらの変更により計量信頼性が向上し,説明手法の信頼性向上が図られた。
  論文  参考訳（メタデータ） (2024-05-03T15:47:32Z)
• Variational Inference of Parameters in Opinion Dynamics Models [9.51311391391997]
  この研究は、変数推論を用いて、意見力学 ABM のパラメータを推定する。 我々は推論プロセスを自動微分に適した最適化問題に変換する。 提案手法は, シミュレーションベース法とMCMC法より, マクロ的(有界信頼区間とバックファイア閾値)と微視的(200ドル, エージェントレベルの役割)の両方を正確に推定する。
  論文  参考訳（メタデータ） (2024-03-08T14:45:18Z)
• SMRD: SURE-based Robust MRI Reconstruction with Diffusion Models [76.43625653814911]
  拡散モデルは、高い試料品質のため、MRIの再生を加速するために人気を博している。 推論時に柔軟にフォワードモデルを組み込んだまま、効果的にリッチなデータプリエントとして機能することができる。 拡散モデル(SMRD)を用いたSUREに基づくMRI再構成を導入し,テスト時の堅牢性を向上する。
  論文  参考訳（メタデータ） (2023-10-03T05:05:35Z)
• AdjointDPM: Adjoint Sensitivity Method for Gradient Backpropagation of Diffusion Probabilistic Models [103.41269503488546]
  既存のカスタマイズ方法は、事前訓練された拡散確率モデルをユーザが提供する概念に合わせるために、複数の参照例にアクセスする必要がある。 本論文は、DPMカスタマイズの課題として、生成コンテンツ上で定義された差別化可能な指標が唯一利用可能な監督基準である場合に解決することを目的とする。 本稿では,拡散モデルから新しいサンプルを初めて生成するAdjointDPMを提案する。 次に、随伴感度法を用いて、損失の勾配をモデルのパラメータにバックプロパゲートする。
  論文  参考訳（メタデータ） (2023-07-20T09:06:21Z)
• A Semi-Bayesian Nonparametric Estimator of the Maximum Mean Discrepancy Measure: Applications in Goodness-of-Fit Testing and Generative Adversarial Networks [3.623570119514559]
  そこで我々は,GoF(Goness-of-fit)テストのための半ベイズ非パラメトリック(セミBNP)手順を提案する。 提案手法は,最大平均誤差(MMD)測定のための新しいベイズ推定器を提案する。 提案手法は, 誤り仮説の誤認率と受理率を低くすることで, 頻繁なMDD法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-03-05T10:36:21Z)
• GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP, and Beyond [101.5329678997916]
  対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。 本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。 低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
  論文  参考訳（メタデータ） (2022-11-03T16:42:40Z)
• Probabilities Are Not Enough: Formal Controller Synthesis for Stochastic Dynamical Models with Epistemic Uncertainty [68.00748155945047]
  複雑な力学系のモデルにおける不確実性を捉えることは、安全なコントローラの設計に不可欠である。 いくつかのアプローチでは、安全と到達可能性に関する時間的仕様を満たすポリシーを形式的な抽象化を用いて合成する。 我々の貢献は、ノイズ、不確実なパラメータ、外乱を含む連続状態モデルに対する新しい抽象的制御法である。
  論文  参考訳（メタデータ） (2022-10-12T07:57:03Z)
• Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
  テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。 また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
  論文  参考訳（メタデータ） (2022-04-06T06:39:40Z)
• MEMO: Test Time Robustness via Adaptation and Augmentation [131.28104376280197]
  テスト時間ロバスト化の問題、すなわちモデルロバスト性を改善するためにテストインプットを用いて検討する。 最近の先行研究ではテスト時間適応法が提案されているが、それぞれ追加の仮定を導入している。 モデルが確率的で適応可能な任意のテスト環境で使用できるシンプルなアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-18T17:55:11Z)
• AdaPT-GMM: Powerful and robust covariate-assisted multiple testing [0.7614628596146599]
  偽発見率(FDR)制御を用いた複数検定の実証的ベイズ法を提案する。 本手法は,アダプティブp値しきい値法(AdaPT)をマスク方式の一般化により洗練する。 我々は、AdaPT-GMMと呼ばれる新しい手法が一貫して高出力を実現することを、広範囲にわたるシミュレーションと実データ例で示す。
  論文  参考訳（メタデータ） (2021-06-30T05:06:18Z)
• Quantifying the Uncertainty in Model Parameters Using Gaussian Process-Based Markov Chain Monte Carlo: An Application to Cardiac Electrophysiological Models [7.8316005711996235]
  パーソナライズされたモデリングには,患者固有のモデルパラメータの推定が重要である。 標準マルコフ連鎖モンテカルロサンプリングは、計算不可能な繰り返しモデルシミュレーションを必要とする。 一般的な解決策は、より高速なサンプリングのためにシミュレーションモデルを計算効率の良いサロゲートに置き換えることである。
  論文  参考訳（メタデータ） (2020-06-02T23:48:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。