論文の概要: What You Read is What You Classify: Highlighting Attributions to Text and Text-Like Inputs

• arxiv url: http://arxiv.org/abs/2602.24149v1
• Date: Fri, 27 Feb 2026 16:28:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-02 19:48:24.51534
• Title: What You Read is What You Classify: Highlighting Attributions to Text and Text-Like Inputs
• Title（参考訳）: 読むものは分類する: テキストやテキストのような入力に対する属性をハイライトする
• Authors: Daniel S. Berman, Brian Merritt, Stanley Ta, Dana Udwin, Amanda Ernlund, Jeremy Ratcliff, Vijay Narayan,
• Abstract要約: テキストのような個別のトークン入力に対して、簡単に説明可能な人工知能(AI)メソッドは存在しない。 ほとんどの説明可能なAI技術は、局所的特徴とグローバル的特徴の両方が重要なトークンシーケンスにうまく拡張されない。 この方法は、トークン全体(すなわち入力シーケンスのセグメント)の重要性に焦点を当て、人間が読める説明を生成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: At present, there are no easily understood explainable artificial intelligence (AI) methods for discrete token inputs, like text. Most explainable AI techniques do not extend well to token sequences, where both local and global features matter, because state-of-the-art models, like transformers, tend to focus on global connections. Therefore, existing explainable AI algorithms fail by (i) identifying disparate tokens of importance, or (ii) assigning a large number of tokens a low value of importance. This method for explainable AI for tokens-based classifiers generalizes a mask-based explainable AI algorithm for images. It starts with an Explainer neural network that is trained to create masks to hide information not relevant for classification. Then, the Hadamard product of the mask and the continuous values of the classifier's embedding layer is taken and passed through the classifier, changing the magnitude of the embedding vector but keeping the orientation unchanged. The Explainer is trained for a taxonomic classifier for nucleotide sequences and it is shown that the masked segments are less relevant to classification than the unmasked ones. This method focused on the importance the token as a whole (i.e., a segment of the input sequence), producing a human-readable explanation.
• Abstract（参考訳）: 現在、テキストのような個別のトークン入力に対して、簡単に説明可能な人工知能(AI)メソッドは存在しない。 ほとんどの説明可能なAI技術は、局所的特徴とグローバル的特徴の両方が重要であるトークンシーケンスにうまく適用できない。 したがって、既存の説明可能なAIアルゴリズムは失敗する 一 重要度の異なるトークンを識別すること、又は (ii) 多数のトークンを重要度の低い値に割り当てる。 トークンベースの分類器のための説明可能なAIの方法は、画像のためのマスクベースの説明可能なAIアルゴリズムを一般化する。 これはExplainerニューラルネットワークから始まり、分類に関係のない情報を隠蔽するためにマスクを作成するように訓練される。 そして、マスクのアダマール積と分類器の埋め込み層の連続値を取り込んで分類器を通し、埋め込みベクトルの大きさを変化させるが、向きは変わらない。 The Explainer are trained for a taxonomic classificationifier for nucleotide sequences and it showed that the masked segments are less relevant to classification than the unmasked。 この方法は、トークン全体(すなわち入力シーケンスのセグメント)の重要性に焦点を当て、人間が読める説明を生成する。

関連論文リスト

• Task-Informed Anti-Curriculum by Masking Improves Downstream Performance on Text [27.320746607958142]
  本稿では,新しいタスク情報を用いた反カリキュラム学習手法に基づいて,マスキング率を調整し,マスクするトークンを決定することを提案する。 我々は,3つの下流タスクにまたがるマスキング手法により,新しいタスクインフォームドアンチカリキュラムを実証する。
  論文  参考訳（メタデータ） (2025-02-18T15:36:16Z)
• SEP: Self-Enhanced Prompt Tuning for Visual-Language Model [93.94454894142413]
  SEP(Self-Enhanced Prompt Tuning)という新しいアプローチを導入する。 SEPは、テキストレベルの埋め込みと視覚レベルの埋め込みの両方を強化するために、差別的な事前知識を明示的に取り入れている。 様々なベンチマークやタスクの総合的な評価は、プロンプトチューニングにおけるSEPの有効性を確認している。
  論文  参考訳（メタデータ） (2024-05-24T13:35:56Z)
• On Adversarial Examples for Text Classification by Perturbing Latent Representations [0.0]
  テキスト分類における逆例に対して,ディープラーニングは脆弱であることを示す。 この弱点は、ディープラーニングがそれほど堅牢ではないことを示している。 我々は,テキスト分類器の頑健性を測定するフレームワークを,分類器の勾配を用いて構築する。
  論文  参考訳（メタデータ） (2024-05-06T18:45:18Z)
• Object Recognition as Next Token Prediction [99.40793702627396]
  オブジェクト認識を次のトークン予測として提案する。 その考え方は、画像埋め込みからフォームラベルへのテキストトークンの自動回帰予測を行う言語デコーダを適用することである。
  論文  参考訳（メタデータ） (2023-12-04T18:58:40Z)
• Towards Improved Input Masking for Convolutional Neural Networks [66.99060157800403]
  層マスキングと呼ぶCNNのための新しいマスキング手法を提案する。 本手法は,マスク形状や色がモデル出力に与える影響を排除あるいは最小化することができることを示す。 また,マスクの形状がクラスに関する情報を漏洩させる可能性を示し,クラス関連特徴に対するモデル依存度の推定に影響を及ぼすことを示した。
  論文  参考訳（メタデータ） (2022-11-26T19:31:49Z)
• Extreme Masking for Learning Instance and Distributed Visual Representations [50.152264456036114]
  本稿では,個々のトークン上の分散表現を同時に学習するためのスケーラブルなアプローチと,総合的なインスタンス表現を提案する。 分散トークンを表すために自己アテンションブロックを使用し、続いてクロスアテンションブロックを使用して全体インスタンスを集約します。 我々のモデルであるExtreMAは、未成熟なサブセットからのインスタンス表現をトレーニングして、無傷な入力からそれを予測する、プレーンなBYOLアプローチに従っています。
  論文  参考訳（メタデータ） (2022-06-09T17:59:43Z)
• What You See is What You Classify: Black Box Attributions [61.998683569022006]
  我々は、トレーニング済みのブラックボックス分類器であるExpplanandumの属性を予測するために、ディープネットワークであるExplainerを訓練する。 既存のほとんどのアプローチとは異なり、我々の手法はクラス固有のマスクを直接生成することができる。 我々の属性は、視覚的および定量的に確立された方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-23T12:30:04Z)
• Pre-training Co-evolutionary Protein Representation via A Pairwise Masked Language Model [93.9943278892735]
  タンパク質配列表現学習の鍵となる問題は、配列中の残基間の共変量によって反映される共進化情報をキャプチャすることである。 Pairwise Masked Language Model (PMLM) と呼ばれる専用言語モデルによる事前学習により,この情報を直接キャプチャする新しい手法を提案する。 提案手法は, 相互関係を効果的に把握し, ベースラインと比較して, 接触予測性能を最大9%向上できることを示す。
  論文  参考訳（メタデータ） (2021-10-29T04:01:32Z)
• Disentangling Representations of Text by Masking Transformers [27.6903196190087]
  トランスウェイトや隠れたユニット上のバイナリマスクを学習し、特定の変動要因と相関する特徴のサブセットを明らかにします。 本稿では,映画評論における感情表現をジャンルから切り離す能力,つぶやきにおける方言からの「毒性」,意味論からの構文について評価する。
  論文  参考訳（メタデータ） (2021-04-14T22:45:34Z)
• AAformer: Auto-Aligned Transformer for Person Re-Identification [82.45385078624301]
  トランスアーキテクチャにおけるアライメント方式を初めて導入する。 本研究では,人体と非人体の両方をパッチレベルで自動的に検出する自動整列トランス (AAformer) を提案する。 AAformerは、部分アライメントを自己アテンションに統合し、出力[PART]を直接検索する機能として使用することができる。
  論文  参考訳（メタデータ） (2021-04-02T08:00:25Z)
• Fast End-to-End Speech Recognition via a Non-Autoregressive Model and Cross-Modal Knowledge Transferring from BERT [72.93855288283059]
  LASO (Listen Attentively, and Spell Once) と呼ばれる非自動回帰音声認識モデルを提案する。 モデルは、エンコーダ、デコーダ、および位置依存集合体(PDS)からなる。
  論文  参考訳（メタデータ） (2021-02-15T15:18:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。