論文の概要: Using Interpretation Methods for Model Enhancement

• arxiv url: http://arxiv.org/abs/2404.02068v1
• Date: Tue, 2 Apr 2024 16:10:29 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-03 15:39:47.793069
• Title: Using Interpretation Methods for Model Enhancement
• Title（参考訳）: モデル強化のための解釈法
• Authors: Zhuo Chen, Chengyue Jiang, Kewei Tu,
• Abstract要約: モデルを強化するために,解釈手法と金の合理性を利用する枠組みを提案する。 私たちのフレームワークは、様々な解釈手法を組み込むことができるという意味で、非常に一般的なものです。 実験結果から,本フレームワークは特に低リソース環境において有効であることが示唆された。
• 参考スコア（独自算出の注目度）: 44.29399911722625
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the age of neural natural language processing, there are plenty of works trying to derive interpretations of neural models. Intuitively, when gold rationales exist during training, one can additionally train the model to match its interpretation with the rationales. However, this intuitive idea has not been fully explored. In this paper, we propose a framework of utilizing interpretation methods and gold rationales to enhance models. Our framework is very general in the sense that it can incorporate various interpretation methods. Previously proposed gradient-based methods can be shown as an instance of our framework. We also propose two novel instances utilizing two other types of interpretation methods, erasure/replace-based and extractor-based methods, for model enhancement. We conduct comprehensive experiments on a variety of tasks. Experimental results show that our framework is effective especially in low-resource settings in enhancing models with various interpretation methods, and our two newly-proposed methods outperform gradient-based methods in most settings. Code is available at https://github.com/Chord-Chen-30/UIMER.
• Abstract（参考訳）: ニューラルな自然言語処理の時代には、ニューラルなモデルの解釈を導こうとする研究がたくさんある。 直観的には、訓練中に金の有理数が存在するとき、その解釈を有理数と一致するようにモデルを訓練することができる。 しかし、この直感的な考えは完全には解明されていない。 本稿では,解釈手法と金の理性を利用してモデルを強化する枠組みを提案する。 私たちのフレームワークは、様々な解釈手法を組み込むことができるという意味で、非常に一般的なものです。 従来提案されていた勾配に基づく手法を,フレームワークの例として示すことができる。 また,他の2種類の解釈手法である消去/置換方式と抽出器方式の2つの新しいインスタンスをモデル拡張のために提案する。 我々は様々なタスクについて総合的な実験を行う。 実験結果から,本フレームワークは低リソース環境において,様々な解釈手法によるモデル拡張に有効であることが示唆された。 コードはhttps://github.com/Chord-Chen-30/UIMERで入手できる。

関連論文リスト

• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• Explaining by Removing: A Unified Framework for Model Explanation [14.50261153230204]
  削除に基づく説明は、各特徴の影響を定量化するための特徴除去をシミュレートする原則に基づいている。 1) メソッドが特徴を除去する方法,2) メソッドが説明するモデル動作,3) メソッドがそれぞれの特徴の影響を要約する方法,の3つの側面に沿って各メソッドを特徴付けるフレームワークを開発する。 新たに理解された説明手法のクラスは、説明可能性の文献にほとんど見落とされたツールを用いて、豊富なつながりを持つ。
  論文  参考訳（メタデータ） (2020-11-21T00:47:48Z)
• Feature Removal Is a Unifying Principle for Model Explanation Methods [14.50261153230204]
  文献を検証した結果,多くの手法が,削除による説明の共有原理に基づいていることがわかった。 本研究では,3次元にまたがる各手法を特徴付ける,除去に基づく説明のためのフレームワークを開発する。 我々のフレームワークは26の既存メソッドを統一し、最も広く使われているアプローチをいくつか含む。
  論文  参考訳（メタデータ） (2020-11-06T22:37:55Z)
• Mutual Modality Learning for Video Action Classification [74.83718206963579]
  ビデオアクション分類のための単一モデルにマルチモーダルを組み込む方法を示す。 我々はSomething-v2ベンチマークで最先端の結果を得た。
  論文  参考訳（メタデータ） (2020-11-04T21:20:08Z)
• Evaluating the Disentanglement of Deep Generative Models through Manifold Topology [66.06153115971732]
  本稿では,生成モデルのみを用いた乱れの定量化手法を提案する。 複数のデータセットにまたがるいくつかの最先端モデルを実証的に評価する。
  論文  参考訳（メタデータ） (2020-06-05T20:54:11Z)
• There and Back Again: Revisiting Backpropagation Saliency Methods [87.40330595283969]
  正当性法は,各入力サンプルの重要度マップを作成することによって,モデルの予測を説明する。 このような手法の一般的なクラスは、信号のバックプロパゲートと結果の勾配の分析に基づいている。 本稿では,そのような手法を統一可能な単一のフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-04-06T17:58:08Z)
• LIMEADE: From AI Explanations to Advice Taking [34.581205516506614]
  ポジティブなアドバイスとネガティブなアドバイスの両方を、任意の基盤となる不透明なモデルに変換する最初のフレームワークであるLIMEADEを紹介します。 画像分類領域の厳密なベースラインに比べて精度が向上することを示す。 テキストのモダリティについては、公開ウェブサイト上の科学論文のニューラルレコメンデータシステムに適用する。
  論文  参考訳（メタデータ） (2020-03-09T18:00:00Z)
• How Far are We from Effective Context Modeling? An Exploratory Study on Semantic Parsing in Context [59.13515950353125]
  文法に基づく意味解析を行い,その上に典型的な文脈モデリング手法を適用する。 我々は,2つの大きなクロスドメインデータセットに対して,13のコンテキストモデリング手法を評価した。
  論文  参考訳（メタデータ） (2020-02-03T11:28:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。