論文の概要: Explaining text classifiers through progressive neighborhood
approximation with realistic samples
- arxiv url: http://arxiv.org/abs/2302.07733v1
- Date: Sat, 11 Feb 2023 11:42:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-16 14:40:59.669399
- Title: Explaining text classifiers through progressive neighborhood
approximation with realistic samples
- Title（参考訳）: 実例を用いたプログレッシブ近傍近似によるテキスト分類法の説明
- Authors: Yi Cai, Arthur Zimek, Eirini Ntoutsi, Gerhard Wunder
- Abstract要約: 地域説明手法における地区建設の重要性が文献で強調されている。
高次元データ(例えばテキスト)の近傍品質を改善するために、生成モデルを採用するなど、いくつかの試みがなされている。
提案手法は,2段階の慎重なアプローチにより,説明すべき決定の近傍を洗練させるプログレッシブ近似手法を提案する。
- 参考スコア（独自算出の注目度）: 19.26084350822197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The importance of neighborhood construction in local explanation methods has
been already highlighted in the literature. And several attempts have been made
to improve neighborhood quality for high-dimensional data, for example, texts,
by adopting generative models. Although the generators produce more realistic
samples, the intuitive sampling approaches in the existing solutions leave the
latent space underexplored. To overcome this problem, our work, focusing on
local model-agnostic explanations for text classifiers, proposes a progressive
approximation approach that refines the neighborhood of a to-be-explained
decision with a careful two-stage interpolation using counterfactuals as
landmarks. We explicitly specify the two properties that should be satisfied by
generative models, the reconstruction ability and the locality-preserving
property, to guide the selection of generators for local explanation methods.
Moreover, noticing the opacity of generative models during the study, we
propose another method that implements progressive neighborhood approximation
with probability-based editions as an alternative to the generator-based
solution. The explanation results from both methods consist of word-level and
instance-level explanations benefiting from the realistic neighborhood. Through
exhaustive experiments, we qualitatively and quantitatively demonstrate the
effectiveness of the two proposed methods.
- Abstract（参考訳）: 地域説明手法における地区建設の重要性は既に文献で強調されている。
また、生成モデルを採用することで、テキストなどの高次元データの近所品質を改善する試みもいくつか行われている。
ジェネレータはより現実的なサンプルを生成するが、既存の解における直感的なサンプリングアプローチは潜在空間を過小評価する。
この問題を解決するために,本研究では,テキスト分類器の局所的モデルに依存しない説明に焦点を当てた2段階補間をランドマークとして用い,記述された決定の近傍を洗練する漸進的近似手法を提案する。
生成モデルで満たすべき2つの特性, 再構成能力, 局所性保存特性を明示的に定義し, 局所的説明法におけるジェネレータの選択を導出する。
さらに, 生成モデルの不透明性に着目し, 生成元に基づく解の代替として, 確率ベース版を用いた進行的近傍近似を実装した別の手法を提案する。
両手法による説明結果は,現実的な地区から恩恵を受ける単語レベルと事例レベルの説明からなる。
実験を通じて,提案手法の有効性を質的に定量的に検証した。
関連論文リスト
- Transparent Neighborhood Approximation for Text Classifier Explanation [12.803856207094615]
本稿では,ブラックボックステキストジェネレータの代替として,確率ベースの編集手法を提案する。
提案手法であるXPROBは,実世界の2つのデータセットで行った評価に基づいて,競争性能を示す。
論文 参考訳（メタデータ） (2024-11-25T10:10:09Z) - Finding Patterns in Ambiguity: Interpretable Stress Testing in the Decision~Boundary [3.66599628097164]
本稿では,深層二元分類器の解釈可能性を高める新しい手法を提案する。
決定境界から代表サンプルを選択し,モデル後説明アルゴリズムを適用した。
私たちの研究は、信頼性の高い機械学習システムの開発と展開に寄与します。
論文 参考訳（メタデータ） (2024-08-12T17:14:41Z) - Representation and De-interleaving of Mixtures of Hidden Markov Processes [3.7348616912887445]
隠れマルコフ過程(HMP)の混合物の分離は、一般的にその表現モデルに依存する。
本稿では,HMPの混合物に対する新しい表現モデルとそれに対応するインターリーブ法を提案する。
論文 参考訳（メタデータ） (2024-06-01T12:24:23Z) - Compressing Image-to-Image Translation GANs Using Local Density
Structures on Their Learned Manifold [69.33930972652594]
GAN(Generative Adversarial Networks)は、画像から画像への変換のための複雑なデータ分散のモデル化において、顕著な成功を収めている。
既存のGAN圧縮法は主に知識蒸留や畳み込み分類器の刈り取り技術に依存している。
学習多様体上の元のパラメータ重モデルの密度構造を保存するために,プルーンドモデルを明示的に促すことにより,新しいアプローチを提案する。
画像変換GANモデルであるPix2PixとCycleGANについて,様々なベンチマークデータセットとアーキテクチャを用いて実験を行い,本手法の有効性を実証した。
論文 参考訳（メタデータ） (2023-12-22T15:43:12Z) - Flow Factorized Representation Learning [109.51947536586677]
本稿では、異なる入力変換を定義する潜在確率パスの別個のセットを規定する生成モデルを提案する。
本モデルは,ほぼ同変モデルに近づきながら,標準表現学習ベンチマークにおいて高い確率を達成することを示す。
論文 参考訳（メタデータ） (2023-09-22T20:15:37Z) - Diffusion Action Segmentation [63.061058214427085]
本稿では,このような反復的洗練の本質的な精神を共用した拡散モデルによる新しい枠組みを提案する。
このフレームワークでは、入力された映像の特徴を条件としてランダムノイズから行動予測を反復的に生成する。
論文 参考訳（メタデータ） (2023-03-31T10:53:24Z) - XPROAX-Local explanations for text classification with progressive
neighborhood approximation [13.312630052709766]
本稿では,初期ランドマークとして対実例を用いた周辺地域の漸進的近似を提案する。
すると、カウンターファクトアルを洗練し、説明すべき入力インスタンスの近傍で事実を生成する。
実世界のデータセットに対する我々の実験は,本手法が有用性と安定性の点で競合に勝ることを示した。
論文 参考訳（メタデータ） (2021-09-30T11:01:07Z) - Unsupervised Sentence-embeddings by Manifold Approximation and
Projection [3.04585143845864]
本研究では, 文を固定次元多様体に投影することにより, 文埋め込みを教師なしで生成する手法を提案する。
我々は,EMAP(Embedddings by Manifold Approximation and Projection)と呼ばれるアプローチを,サイズと複雑さの異なる6つの公開テキスト分類データセット上で検証する。
論文 参考訳（メタデータ） (2021-02-07T13:27:58Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳（メタデータ） (2020-10-05T20:03:13Z) - Composed Variational Natural Language Generation for Few-shot Intents [118.37774762596123]
現実的な不均衡シナリオにおいて、数ショットのインテントに対するトレーニング例を生成します。
生成した発話の質を評価するために、一般化された複数ショット意図検出タスクについて実験を行った。
提案モデルでは,2つの実世界の意図検出データセットに対して,最先端のパフォーマンスを実現する。
論文 参考訳（メタデータ） (2020-09-21T17:48:43Z) - Efficient Ensemble Model Generation for Uncertainty Estimation with
Bayesian Approximation in Segmentation [74.06904875527556]
アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。
提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。
また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
論文 参考訳（メタデータ） (2020-05-21T16:08:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。