Fugu-MT 論文翻訳(概要): Posthoc Interpretation via Quantization

論文の概要: Posthoc Interpretation via Quantization

arxiv url: http://arxiv.org/abs/2303.12659v1
Date: Wed, 22 Mar 2023 15:37:43 GMT
ステータス: 処理完了
システム内更新日: 2023-03-23 13:48:38.479749
Title: Posthoc Interpretation via Quantization
Title（参考訳）: 量子化によるポストホック解釈
Authors: Cem Subakan, Francesco Paissan, Mirco Ravanelli
Abstract要約: 我々は、訓練された分類器による決定を解釈するために、「量子化によるポストホック解釈(Posthoc Interpretation via Quantization, PIQ)」と呼ばれる新しいアプローチを導入する。本手法はベクトル量子化を用いて分類器の表現を離散クラス固有の潜在空間に変換する。
参考スコア（独自算出の注目度）: 9.510336895838703
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this paper, we introduce a new approach, called "Posthoc Interpretation via Quantization (PIQ)", for interpreting decisions made by trained classifiers. Our method utilizes vector quantization to transform the representations of a classifier into a discrete, class-specific latent space. The class-specific codebooks act as a bottleneck that forces the interpreter to focus on the parts of the input data deemed relevant by the classifier for making a prediction. We evaluated our method through quantitative and qualitative studies and found that PIQ generates interpretations that are more easily understood by participants to our user studies when compared to several other interpretation methods in the literature.
Abstract（参考訳）: 本稿では,訓練された分類器による決定を解釈するために,「量子化によるポストホック解釈(piq)」と呼ばれる新しい手法を提案する。本手法はベクトル量子化を用いて分類器の表現を離散クラス固有の潜在空間に変換する。クラス固有のコードブックは、インタプリタが予測を行うために、分類器が関連すると思われる入力データの一部に集中するよう強制するボトルネックとして機能する。本手法を定量的・定性的な研究を通して評価し,piqは,文献の他の解釈手法と比較して,ユーザ研究の参加者が理解しやすい解釈を生成できることを見出した。

関連論文リスト

Interpretable Network Visualizations: A Human-in-the-Loop Approach for Post-hoc Explainability of CNN-based Image Classification [5.087579454836169]
State-of-the-art explainability Method は、特定のクラスが特定された場所を示すために、サリエンシマップを生成する。本稿では,畳み込みニューラルネットワークの機能抽出プロセス全体を説明するポストホック手法を提案する。また,複数の画像にラベルを集約することで,グローバルな説明を生成する手法を提案する。
論文参考訳（メタデータ） (2024-05-06T09:21:35Z)
Revisiting Self-supervised Learning of Speech Representation from a Mutual Information Perspective [68.20531518525273]
我々は、情報理論の観点から、既存の自己教師型音声の手法を詳しく検討する。我々は線形プローブを用いて、対象情報と学習された表現の間の相互情報を推定する。我々は、ラベルを使わずに、データの異なる部分間の相互情報を見積もる自己教師型の表現を評価する可能性を探る。
論文参考訳（メタデータ） (2024-01-16T21:13:22Z)
TExplain: Explaining Learned Visual Features via Pre-trained (Frozen) Language Models [14.019349267520541]
本稿では,事前学習した画像分類器の学習特徴を解釈するために,言語モデルの能力を活用する新しい手法を提案する。提案手法は,与えられた画像の分類器によって学習された特徴を説明するために,膨大な数の文を生成する。提案手法は,視覚表現に対応する頻繁な単語を初めて利用し,意思決定プロセスに関する洞察を提供する。
論文参考訳（メタデータ） (2023-09-01T20:59:46Z)
A Test Statistic Estimation-based Approach for Establishing Self-interpretable CNN-based Binary Classifiers [7.424003880270276]
ポストホック解釈可能性法は、可算だが異なる解釈を生成できるという限界がある。提案手法は自己解釈可能で定量的であり,従来のポストホック・インタプリタビリティ法とは異なり,自己解釈可能で定量的である。
論文参考訳（メタデータ） (2023-03-13T05:51:35Z)
Measuring the Interpretability of Unsupervised Representations via Quantized Reverse Probing [97.70862116338554]
本稿では,自己教師付き表現の解釈可能性の測定問題について検討する。我々は、後者を、表現と手動でラベル付けされた概念の空間の間の相互情報を推定するものとして定式化する。提案手法は,多人数の自己教師付き表現の評価に利用し,解釈可能性による評価を行う。
論文参考訳（メタデータ） (2022-09-07T16:18:50Z)
A Unified Understanding of Deep NLP Models for Text Classification [88.35418976241057]
我々は、テキスト分類のためのNLPモデルの統一的な理解を可能にする視覚解析ツールDeepNLPVisを開発した。主要なアイデアは相互情報に基づく尺度であり、モデルの各レイヤがサンプル内の入力語の情報をどのように保持するかを定量的に説明する。コーパスレベル、サンプルレベル、単語レベルビジュアライゼーションで構成されるマルチレベルビジュアライゼーションは、全体トレーニングセットから個々のサンプルまでの分析をサポートする。
論文参考訳（メタデータ） (2022-06-19T08:55:07Z)
Autoregressive Co-Training for Learning Discrete Speech Representations [19.400428010647573]
音声の離散表現を学習する離散潜在変数を持つ生成モデルを考える。提案手法は音素単位と高い相関関係を持つ離散表現を学習する。
論文参考訳（メタデータ） (2022-03-29T18:17:18Z)
Resolving label uncertainty with implicit posterior models [71.62113762278963]
本稿では,データサンプルのコレクション間でラベルを共同で推論する手法を提案する。異なる予測子を後部とする生成モデルの存在を暗黙的に仮定することにより、弱い信念の下での学習を可能にする訓練目標を導出する。
論文参考訳（メタデータ） (2022-02-28T18:09:44Z)
Fair Interpretable Representation Learning with Correction Vectors [60.0806628713968]
我々は「補正ベクトル」の学習を中心にした公正表現学習のための新しい枠組みを提案する。このような方法で制約されたいくつかの公正表現学習モデルが、ランキングや分類性能の損失を示さないことを実験的に示す。
論文参考訳（メタデータ） (2022-02-07T11:19:23Z)
Instance-Based Learning of Span Representations: A Case Study through Named Entity Recognition [48.06319154279427]
本研究では,スパン間の類似性を学習するインスタンスベースの学習手法を提案する。本手法では,性能を犠牲にすることなく高い解釈性を持つモデルを構築することができる。
論文参考訳（メタデータ） (2020-04-29T23:32:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。