論文の概要: Interpretation of NLP models through input marginalization

• arxiv url: http://arxiv.org/abs/2010.13984v1
• Date: Tue, 27 Oct 2020 01:40:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 11:03:52.648626
• Title: Interpretation of NLP models through input marginalization
• Title（参考訳）: 入力境界化によるNLPモデルの解釈
• Authors: Siwon Kim, Jihun Yi, Eunji Kim, and Sungroh Yoon
• Abstract要約: 入力の各トークンを消去した後の予測確率の変化を測定することによって予測を解釈する手法が提案されている。 既存のメソッドは、それぞれのトークンを予め定義された値(つまりゼロ)で置き換えるので、結果の文はトレーニングデータ分布から外れ、誤解を招く解釈をもたらす。 本研究では,既存の解釈手法によって引き起こされるアウト・オブ・ディストリビューション問題を提起し,その対策を提案する。 感情分析や自然言語推論のために訓練された様々なNLPモデルを,提案手法を用いて解釈する。
• 参考スコア（独自算出の注目度）: 28.031961925541466
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To demystify the "black box" property of deep neural networks for natural language processing (NLP), several methods have been proposed to interpret their predictions by measuring the change in prediction probability after erasing each token of an input. Since existing methods replace each token with a predefined value (i.e., zero), the resulting sentence lies out of the training data distribution, yielding misleading interpretations. In this study, we raise the out-of-distribution problem induced by the existing interpretation methods and present a remedy; we propose to marginalize each token out. We interpret various NLP models trained for sentiment analysis and natural language inference using the proposed method.
• Abstract（参考訳）: 自然言語処理(NLP)のためのディープニューラルネットワークの「ブラックボックス」特性を解明するために,入力の各トークンを消去した後の予測確率の変化を測定することによって予測を解釈する手法が提案されている。 既存のメソッドは、それぞれのトークンを予め定義された値(つまりゼロ)で置き換えるので、結果の文はトレーニングデータ分布から外れ、誤解を招く解釈をもたらす。 本研究では,既存の解釈手法によって引き起こされる配当問題の提起と対策を行い,各トークンのマーシャリゼーションを提案する。 感情分析や自然言語推論のために訓練された様々なNLPモデルを,提案手法を用いて解釈する。

関連論文リスト

• LLM Generated Distribution-Based Prediction of US Electoral Results, Part I [0.0]
  本稿では,Large Language Models (LLM) を予測ツールとして利用するための新しいアプローチである分布ベース予測を紹介する。 我々は、近年のアメリカ合衆国大統領選挙の文脈において、分布に基づく予測の使用を実演する。
  論文  参考訳（メタデータ） (2024-11-05T20:10:25Z)
• Pretraining Data Detection for Large Language Models: A Divergence-based Calibration Method [108.56493934296687]
  本研究では,乱数から発散する概念に触発された偏差に基づくキャリブレーション手法を導入し,プリトレーニングデータ検出のためのトークン確率のキャリブレーションを行う。 我々は,中国語テキスト上でのLLMの検出手法の性能を評価するために,中国語のベンチマークであるPatentMIAを開発した。
  論文  参考訳（メタデータ） (2024-09-23T07:55:35Z)
• Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
  本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。 提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
  論文  参考訳（メタデータ） (2024-02-13T09:40:19Z)
• Modeling Uncertainty in Personalized Emotion Prediction with Normalizing Flows [6.32047610997385]
  本研究では,条件付き正規化フローを用いて予測の不確かさを捉える新しい手法を提案する。 感情認識とヘイトスピーチを含む3つの主観的NLP課題に対して,本手法の有効性を検証した。 開発した手法によって得られた情報により,従来の手法を超越したハイブリッドモデルの構築が可能となった。
  論文  参考訳（メタデータ） (2023-12-10T23:21:41Z)
• Understanding and Mitigating Classification Errors Through Interpretable Token Patterns [58.91023283103762]
  容易に解釈可能な用語でエラーを特徴付けることは、分類器が体系的なエラーを起こす傾向にあるかどうかを洞察する。 正しい予測と誤予測を区別するトークンのパターンを発見することを提案する。 提案手法であるPremiseが実際によく動作することを示す。
  論文  参考訳（メタデータ） (2023-11-18T00:24:26Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Interpreting Deep Learning Models in Natural Language Processing: A Review [33.80537635077772]
  ニューラルネットワークモデルに対する長年にわたる批判は、解釈可能性の欠如である。 本研究では,NLPにおけるニューラルモデルに対する様々な解釈手法について概説する。
  論文  参考訳（メタデータ） (2021-10-20T10:17:04Z)
• Evaluating Saliency Methods for Neural Language Models [9.309351023703018]
  サリエンシ法はニューラルネットワーク予測の解釈に広く用いられている。 同じモデルによって行われた同じ予測の解釈でさえ、異なるサリエンシー方法のバリエーションは一致しません。 我々は,NLPモデルの基本カテゴリであるニューラル言語モデルに基づいて,サリエンシ手法の包括的,定量的評価を行う。
  論文  参考訳（メタデータ） (2021-04-12T21:19:48Z)
• Interpreting Graph Neural Networks for NLP With Differentiable Edge Masking [63.49779304362376]
  グラフニューラルネットワーク(GNN)は、構造的帰納バイアスをNLPモデルに統合する一般的なアプローチとなっている。 本稿では,不要なエッジを識別するGNNの予測を解釈するポストホック手法を提案する。 モデルの性能を劣化させることなく,多数のエッジを落とせることを示す。
  論文  参考訳（メタデータ） (2020-10-01T17:51:19Z)
• Considering Likelihood in NLP Classification Explanations with Occlusion and Language Modeling [11.594541142399223]
  オクルージョン(Occlusion)は、独立した言語データに関する説明を提供する、よく確立された方法である。 現在のOcclusion-based methodは、しばしば無効または構文的に誤りのある言語データを生成する。 本稿では,Occlusion と言語モデルを組み合わせた新しい説明手法 OLM を提案する。
  論文  参考訳（メタデータ） (2020-04-21T10:37:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。