論文の概要: The Role of Syntactic Span Preferences in Post-Hoc Explanation Disagreement

• arxiv url: http://arxiv.org/abs/2403.19424v1
• Date: Thu, 28 Mar 2024 13:56:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-29 16:04:18.926523
• Title: The Role of Syntactic Span Preferences in Post-Hoc Explanation Disagreement
• Title（参考訳）: ポストホック説明における統語的スパン格付けの役割
• Authors: Jonathan Kamp, Lisa Beinborn, Antske Fokkens,
• Abstract要約: 言語学的観点から,手法間の不一致の潜在的な源泉について検討する。 異なる手法が、異なる種類の単語を体系的に選択し、他の手法と最もよく一致し、人間が類似した言語的嗜好を示す方法が見つかる。
• 参考スコア（独自算出の注目度）: 4.6289929100615
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-hoc explanation methods are an important tool for increasing model transparency for users. Unfortunately, the currently used methods for attributing token importance often yield diverging patterns. In this work, we study potential sources of disagreement across methods from a linguistic perspective. We find that different methods systematically select different classes of words and that methods that agree most with other methods and with humans display similar linguistic preferences. Token-level differences between methods are smoothed out if we compare them on the syntactic span level. We also find higher agreement across methods by estimating the most important spans dynamically instead of relying on a fixed subset of size $k$. We systematically investigate the interaction between $k$ and spans and propose an improved configuration for selecting important tokens.
• Abstract（参考訳）: ポストホックな説明手法は、ユーザーにとってモデルの透明性を高める重要なツールである。 残念ながら、トークンの重要性をもたらすために現在使われている方法は、しばしばばらつきパターンをもたらす。 本研究では,言語学的観点から,手法間の不一致の潜在的な源泉について検討する。 異なる手法が、異なる種類の単語を体系的に選択し、他の手法と最もよく一致し、人間が類似した言語的嗜好を示す方法が見つかる。 構文的スパンレベルで比較した場合、メソッド間のトークンレベルの差は滑らかになる。 また、$k$の固定されたサブセットに頼るのではなく、最も重要なスパンを動的に推定することでメソッド間での合意も高くなる。 我々は,$k$ と spans の相互作用を体系的に検討し,重要なトークンを選択するための改良された構成を提案する。

関連論文リスト

• CAST: Corpus-Aware Self-similarity Enhanced Topic modelling [16.562349140796115]
  CAST: Corpus-Aware Self-similarity Enhanced Topic modelling, a novel topic modelling methodを紹介する。 機能的単語が候補話題語として振る舞うのを防ぐための効果的な指標として自己相似性を見出した。 提案手法は,生成したトピックの一貫性と多様性,およびノイズの多いデータを扱うトピックモデルの能力を大幅に向上させる。
  論文  参考訳（メタデータ） (2024-10-19T15:27:11Z)
• DenoSent: A Denoising Objective for Self-Supervised Sentence Representation Learning [59.4644086610381]
  本稿では,他の視点,すなわち文内視点から継承する新たな認知的目的を提案する。 離散ノイズと連続ノイズの両方を導入することで、ノイズの多い文を生成し、モデルを元の形式に復元するように訓練する。 我々の経験的評価は,本手法が意味的テキスト類似性(STS)と幅広い伝達タスクの両面で競合する結果をもたらすことを示した。
  論文  参考訳（メタデータ） (2024-01-24T17:48:45Z)
• Dynamic Top-k Estimation Consolidates Disagreement between Feature Attribution Methods [5.202524136984542]
  摂動に基づく手法とバニラグラディエントは,ほとんどの手法において,静的なkによるメソッド・メソッド・メソッド・コンセンサス・メトリクスに対して高いコンセンサスを示す。 これは、属性スコアの逐次的特性が、人間の解釈のための属性信号の統合に有益であることを示す最初の証拠である。
  論文  参考訳（メタデータ） (2023-10-09T11:19:33Z)
• A Comparative Study of Sentence Embedding Models for Assessing Semantic Variation [0.0]
  本稿では,複数の文献において,連続する文間の意味的類似性の時系列と対の文類似性の行列を用いた最近の文埋め込み法について比較する。 文の埋め込み手法のほとんどは、ある文書において意味的類似性の高相関パターンを推定するが、興味深い相違が見られる。
  論文  参考訳（メタデータ） (2023-08-08T23:31:10Z)
• Learning Context-aware Classifier for Semantic Segmentation [88.88198210948426]
  本稿では,文脈認識型分類器の学習を通じて文脈ヒントを利用する。 本手法はモデルに依存しないため,ジェネリックセグメンテーションモデルにも容易に適用できる。 無視できる追加パラメータと+2%の推論時間だけで、小型モデルと大型モデルの両方で十分な性能向上が達成されている。
  論文  参考訳（メタデータ） (2023-03-21T07:00:35Z)
• Beyond Contrastive Learning: A Variational Generative Model for Multilingual Retrieval [109.62363167257664]
  本稿では,多言語テキスト埋め込み学習のための生成モデルを提案する。 我々のモデルは、$N$言語で並列データを操作する。 本手法は, 意味的類似性, ビットクストマイニング, 言語間質問検索などを含む一連のタスクに対して評価を行う。
  論文  参考訳（メタデータ） (2022-12-21T02:41:40Z)
• Differentiable Data Augmentation for Contrastive Sentence Representation Learning [6.398022050054328]
  提案手法は, 半教師付き設定と教師付き設定の両方において, 既存手法よりも大幅に改善されている。 また,低ラベルデータ設定による実験により,本手法は最先端のコントラスト学習法よりもラベル効率が高いことが示された。
  論文  参考訳（メタデータ） (2022-10-29T08:57:45Z)
• Fake it Till You Make it: Self-Supervised Semantic Shifts for Monolingual Word Embedding Tasks [58.87961226278285]
  語彙意味変化をモデル化するための自己教師付きアプローチを提案する。 本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。 3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2021-01-30T18:59:43Z)
• Towards Improved and Interpretable Deep Metric Learning via Attentive Grouping [103.71992720794421]
  グループ化は、様々な特徴の計算にディープ・メトリック・ラーニングでよく用いられてきた。 本稿では,任意のメトリクス学習フレームワークと柔軟に統合可能な,改良された解釈可能なグループ化手法を提案する。
  論文  参考訳（メタデータ） (2020-11-17T19:08:24Z)
• Robust Cross-lingual Embeddings from Parallel Sentences [65.85468628136927]
  本稿では,文整合コーパスを利用して頑健な言語間単語表現を実現するCBOW手法のバイリンガル拡張を提案する。 提案手法は,他のすべての手法と比較して,言語間文検索性能を著しく向上させる。 また、ゼロショットのクロスランガル文書分類タスクにおいて、ディープRNN法と同等性を実現する。
  論文  参考訳（メタデータ） (2019-12-28T16:18:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。