論文の概要: Dynamic Top-k Estimation Consolidates Disagreement between Feature Attribution Methods

• arxiv url: http://arxiv.org/abs/2310.05619v2
• Date: Fri, 3 Nov 2023 12:11:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-06 17:03:44.306630
• Title: Dynamic Top-k Estimation Consolidates Disagreement between Feature Attribution Methods
• Title（参考訳）: 動的Top-k推定による特徴属性の分散化
• Authors: Jonathan Kamp, Lisa Beinborn, Antske Fokkens
• Abstract要約: 摂動に基づく手法とバニラグラディエントは,ほとんどの手法において,静的なkによるメソッド・メソッド・メソッド・コンセンサス・メトリクスに対して高いコンセンサスを示す。 これは、属性スコアの逐次的特性が、人間の解釈のための属性信号の統合に有益であることを示す最初の証拠である。
• 参考スコア（独自算出の注目度）: 5.202524136984542
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Feature attribution scores are used for explaining the prediction of a text classifier to users by highlighting a k number of tokens. In this work, we propose a way to determine the number of optimal k tokens that should be displayed from sequential properties of the attribution scores. Our approach is dynamic across sentences, method-agnostic, and deals with sentence length bias. We compare agreement between multiple methods and humans on an NLI task, using fixed k and dynamic k. We find that perturbation-based methods and Vanilla Gradient exhibit highest agreement on most method--method and method--human agreement metrics with a static k. Their advantage over other methods disappears with dynamic ks which mainly improve Integrated Gradient and GradientXInput. To our knowledge, this is the first evidence that sequential properties of attribution scores are informative for consolidating attribution signals for human interpretation.
• Abstract（参考訳）: 特徴属性スコアは、k個のトークンをハイライトすることで、テキスト分類器の予測をユーザに説明するために使用される。 本研究では,帰属スコアの逐次特性から表示すべき最適なkトークン数を決定する手法を提案する。 我々のアプローチは文をまたいで動的であり、メソッドに依存しず、文長バイアスを扱う。 固定kと動的kを用いてnliタスクにおける複数の手法と人間との一致を比較する。 その結果,摂動に基づく手法とバニラ勾配は,静的kを用いた手法-手法-手法-ヒューマン・アグリーメント指標の最大値を示すことがわかった。 他のメソッドに対するアドバンテージは、Integrated GradientとGradientXInputを主に改善した動的ksで消える。 我々の知る限り、帰属スコアの逐次的特性が人間解釈のための帰属信号の統合に有益であることを示す最初の証拠である。

関連論文リスト

• Hierarchical Indexing for Retrieval-Augmented Opinion Summarization [60.5923941324953]
  本稿では,抽出アプローチの帰属性と拡張性と,大規模言語モデル(LLM)の一貫性と拡散性を組み合わせた,教師なし抽象的意見要約手法を提案する。 我々の方法であるHIROは、意味的に整理された離散的な階層を通して文を経路にマッピングするインデックス構造を学習する。 推測時にインデックスを投入し、入力レビューから人気意見を含む文群を識別し、検索する。
  論文  参考訳（メタデータ） (2024-03-01T10:38:07Z)
• DenoSent: A Denoising Objective for Self-Supervised Sentence Representation Learning [59.4644086610381]
  本稿では,他の視点,すなわち文内視点から継承する新たな認知的目的を提案する。 離散ノイズと連続ノイズの両方を導入することで、ノイズの多い文を生成し、モデルを元の形式に復元するように訓練する。 我々の経験的評価は,本手法が意味的テキスト類似性(STS)と幅広い伝達タスクの両面で競合する結果をもたらすことを示した。
  論文  参考訳（メタデータ） (2024-01-24T17:48:45Z)
• Enhancing Coherence of Extractive Summarization with Multitask Learning [40.349019691412465]
  本研究では,コヒーレンス向上を伴う抽出要約のためのマルチタスク学習アーキテクチャを提案する。 アーキテクチャは、抽出要約器とコヒーレント判別器モジュールとを含む。 実験の結果,提案手法は抽出した要約文の連続文の割合を大幅に改善することがわかった。
  論文  参考訳（メタデータ） (2023-05-22T09:20:58Z)
• Retrieval-Augmented Classification with Decoupled Representation [31.662843145399044]
  そこで本研究では,KNN(Kk$-nearest-neighbor)に基づく拡張分類検索手法を提案する。 分類と検索の共有表現がパフォーマンスを損なうことや,トレーニングの不安定化につながることが判明した。 本手法は,幅広い分類データセットを用いて評価する。
  論文  参考訳（メタデータ） (2023-03-23T06:33:06Z)
• Easy to Decide, Hard to Agree: Reducing Disagreements Between Saliency Methods [0.15039745292757667]
  本研究では,同じモデルインスタンスに適用した場合においても,サリエンシ法は低いランク相関を示すことを示す。 注意深い説明の忠実度を高める正規化技術は、給与法間の合意も高める。
  論文  参考訳（メタデータ） (2022-11-15T18:18:34Z)
• Concrete Score Matching: Generalized Score Matching for Discrete Data [109.12439278055213]
  コンクレトスコア(Concrete score)とは、個別の設定のためのスコア(ステイン)の一般化である。 コンクレトスコアマッチング(Concrete Score Matching)は、サンプルからこのようなスコアを学習するフレームワークである。
  論文  参考訳（メタデータ） (2022-11-02T00:41:37Z)
• Pruned Graph Neural Network for Short Story Ordering [0.7087237546722617]
  コヒーレンスを最大化する順序に文を整理することは、文の順序付けとして知られている。 そこで本研究では,文章間のエッジを生成するために,短い物語の文中心グラフを構築する手法を提案する。 また,代名詞を代名詞の代名詞に置き換えることによって,文中心性グラフの文を効果的にエンコードすることが観察された。
  論文  参考訳（メタデータ） (2022-03-13T22:25:17Z)
• Sequential Recommendation via Stochastic Self-Attention [68.52192964559829]
  Transformerベースのアプローチでは、アイテムをベクトルとして埋め込んで、ドット積の自己アテンションを使用してアイテム間の関係を測定する。 本稿では,これらの問題を克服するための新しいtextbfStochastic textbfSelf-textbfAttention (STOSA) を提案する。 我々は、アイテムと項目の位置関係を列で特徴づける新しいワッサースタイン自己保持モジュールを考案した。
  論文  参考訳（メタデータ） (2022-01-16T12:38:45Z)
• Variable Instance-Level Explainability for Text Classification [9.147707153504117]
  本論文では,インスタンスレベルでの異なる特徴スコアリング手法を用いて変数長説明を抽出する手法を提案する。 本手法は,従来の固定長および固定長のスコアリング手法と比較して,より忠実な説明を提供する。
  論文  参考訳（メタデータ） (2021-04-16T16:53:48Z)
• Explaining and Improving Model Behavior with k Nearest Neighbor Representations [107.24850861390196]
  モデルの予測に責任のあるトレーニング例を特定するために, k 近傍表現を提案する。 我々は,kNN表現が学習した素因関係を明らかにするのに有効であることを示す。 以上の結果から,kNN手法により,直交モデルが逆入力に対してより堅牢であることが示唆された。
  論文  参考訳（メタデータ） (2020-10-18T16:55:25Z)
• Weakly-Supervised Aspect-Based Sentiment Analysis via Joint Aspect-Sentiment Topic Embedding [71.2260967797055]
  アスペクトベース感情分析のための弱教師付きアプローチを提案する。 We learn sentiment, aspects> joint topic embeddeds in the word embedding space。 次に、ニューラルネットワークを用いて単語レベルの識別情報を一般化する。
  論文  参考訳（メタデータ） (2020-10-13T21:33:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。