論文の概要: Unlearning-based Neural Interpretations

• arxiv url: http://arxiv.org/abs/2410.08069v1
• Date: Thu, 10 Oct 2024 16:02:39 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-31 05:35:21.305206
• Title: Unlearning-based Neural Interpretations
• Title（参考訳）: 非学習型ニューラル解釈
• Authors: Ching Lam Choi, Alexandre Duplessis, Serge Belongie,
• Abstract要約: 静的関数を用いて定義される現在のベースラインは、バイアスがあり、脆弱であり、操作可能であることを示す。 UNIは、学習不可能で、偏りがなく、適応的なベースラインを計算し、入力を最も急な上昇の未学習方向に向けて摂動させることを提案する。
• 参考スコア（独自算出の注目度）: 51.99182464831169
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gradient-based interpretations often require an anchor point of comparison to avoid saturation in computing feature importance. We show that current baselines defined using static functions--constant mapping, averaging or blurring--inject harmful colour, texture or frequency assumptions that deviate from model behaviour. This leads to accumulation of irregular gradients, resulting in attribution maps that are biased, fragile and manipulable. Departing from the static approach, we propose UNI to compute an (un)learnable, debiased and adaptive baseline by perturbing the input towards an unlearning direction of steepest ascent. Our method discovers reliable baselines and succeeds in erasing salient features, which in turn locally smooths the high-curvature decision boundaries. Our analyses point to unlearning as a promising avenue for generating faithful, efficient and robust interpretations.
• Abstract（参考訳）: グラディエントベースの解釈は、コンピュータの特徴的重要性の飽和を避けるために、しばしば比較のアンカーポイントを必要とする。 静的関数を用いて定義された現在のベースライン - 定数マッピング、平均化、曖昧化 - 有害な色、テクスチャ、あるいは周波数の仮定をモデル行動から逸脱させる。 これにより不規則勾配が蓄積され、偏りがあり、壊れやすく、操作可能な帰属写像となる。 静的なアプローチから離れて、最も急な上昇の未学習方向に向かって入力を摂動させることにより、(学習不可能で、偏りがなく、適応的なベースラインを計算することを提案する。 提案手法は信頼性の高いベースラインを発見し,高曲率決定境界を局所的にスムーズにする健全な特徴の消去に成功している。 我々の分析は、忠実で効率的で堅牢な解釈を生み出すための有望な道として、アンラーニングを指摘する。

関連論文リスト

• NeuralGF: Unsupervised Point Normal Estimation by Learning Neural Gradient Function [55.86697795177619]
  3次元点雲の正規推定は3次元幾何処理の基本的な課題である。 我々は,ニューラルネットワークが入力点雲に適合することを奨励する,ニューラルグラデーション関数の学習のための新しいパラダイムを導入する。 広範に使用されているベンチマークの優れた結果から,本手法は非指向性および指向性正常推定タスクにおいて,より正確な正規性を学習できることが示されている。
  論文  参考訳（メタデータ） (2023-11-01T09:25:29Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Towards More Robust Interpretation via Local Gradient Alignment [37.464250451280336]
  任意の非負の同質ニューラルネットワークに対して、勾配に対する単純な$ell$-robust criterionは、テクスティノ正規化不変量であることを示す。 我々は,局所勾配の整合性を両立させるために,$ell$とcosine distance-based criteriaを正則化項として組み合わせることを提案する。 我々は,CIFAR-10 と ImageNet-100 でトレーニングしたモデルにより,より堅牢な解釈が得られたことを実験的に示す。
  論文  参考訳（メタデータ） (2022-11-29T03:38:28Z)
• Poisson Reweighted Laplacian Uncertainty Sampling for Graph-based Active Learning [1.6752182911522522]
  グラフに基づく能動学習において,不確実性サンプリングは探索と搾取を両立させるのに十分であることを示す。 特に,最近開発されたアルゴリズムであるPoisson ReWeighted Laplace Learning (PWLL) を用いて分類を行う。 本稿では,複数のグラフに基づく画像分類問題に対する実験結果について述べる。
  論文  参考訳（メタデータ） (2022-10-27T22:07:53Z)
• Deep Active Learning with Noise Stability [24.54974925491753]
  ラベルのないデータの不確実性推定は、アクティブな学習に不可欠である。 本稿では,雑音の安定性を利用して不確実性を推定する新しいアルゴリズムを提案する。 本手法はコンピュータビジョン,自然言語処理,構造データ解析など,様々なタスクに適用可能である。
  論文  参考訳（メタデータ） (2022-05-26T13:21:01Z)
• On the Benefits of Large Learning Rates for Kernel Methods [110.03020563291788]
  本稿では,カーネル手法のコンテキストにおいて,現象を正確に特徴付けることができることを示す。 分離可能なヒルベルト空間における2次対象の最小化を考慮し、早期停止の場合、学習速度の選択が得られた解のスペクトル分解に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2022-02-28T13:01:04Z)
• Linear Adversarial Concept Erasure [108.37226654006153]
  与えられた概念に対応する線形部分空間の同定と消去の問題を定式化する。 提案手法は, トラクタビリティと解釈性を維持しつつ, 深い非線形分類器のバイアスを効果的に軽減し, 高い表現性を有することを示す。
  論文  参考訳（メタデータ） (2022-01-28T13:00:17Z)
• Path Integrals for the Attribution of Model Uncertainties [0.18899300124593643]
  本稿では,特徴ベクトルと反事実ベクトルを連結する分布内曲線に依存する新しいアルゴリズムを提案する。 我々は,様々な解像度で画像データセットをベンチマークし,解釈可能性を大幅に単純化することを示す。
  論文  参考訳（メタデータ） (2021-07-19T11:07:34Z)
• Gradient Descent for Deep Matrix Factorization: Dynamics and Implicit Bias towards Low Rank [1.9350867959464846]
  ディープラーニングでは、勾配発散は、よく一般化する解を好む傾向にある。 本稿では,線形ネットワークの簡易化における勾配降下のダイナミクスと推定問題について解析する。
  論文  参考訳（メタデータ） (2020-11-27T15:08:34Z)
• Path Sample-Analytic Gradient Estimators for Stochastic Binary Networks [78.76880041670904]
  二進的アクティベーションや二進的重みを持つニューラルネットワークでは、勾配降下によるトレーニングは複雑である。 そこで本研究では,サンプリングと解析近似を併用した新しい推定法を提案する。 勾配推定において高い精度を示し、深部畳み込みモデルにおいてより安定かつ優れた訓練を行うことを示す。
  論文  参考訳（メタデータ） (2020-06-04T21:51:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。