Fugu-MT 論文翻訳(概要): Influence Score and Transformers interpretability: Measure of the Effective Impact of Attention Heads at inference time

論文の概要: Influence Score and Transformers interpretability: Measure of the Effective Impact of Attention Heads at inference time

arxiv url: http://arxiv.org/abs/2609.05074v1
Date: Fri, 04 Sep 2026 12:32:57 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-07 18:15:24.034683
Title: Influence Score and Transformers interpretability: Measure of the Effective Impact of Attention Heads at inference time
Title（参考訳）: スコアとトランスフォーマーの解釈可能性への影響:推論時間における注意頭の効果の測定
Abstract要約: 本稿では,Transformer を用いたモデルを用いた分類決定におけるアテンションヘッドの寄与を定量化するための影響スコアを提案する。スコアは、ロジットへの方向の影響と残留ストリーム内の構造的寄与を組み合わせ、マルチスケール分析を可能にする。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: We propose an influence score to quantify the contribution of attention heads to classification decisions in Transformer-based models designed for prompt injection detection. The score combines directional influence on the logits with structural contribution within the residual stream, enabling a multi-scale analysis at the head, layer, and network levels. Applied to a DeBERTa model specialized for prompt injection detection, our framework reveals distinct decision behaviours between correct and erroneous predictions. Our method provides an effective compromise between fine-grained circuit analysis and global output-based methods, and offers a systematic way to study decision mechanisms in Transformer classifiers.
Abstract（参考訳）: 本稿では,インジェクション検出のためのトランスフォーマーモデルにおいて,アテンションヘッドの分類決定への寄与を定量化するための影響スコアを提案する。スコアは、ロジットへの方向性の影響と残留ストリーム内の構造的寄与を組み合わせ、ヘッド、レイヤ、ネットワークレベルでのマルチスケール分析を可能にする。インジェクション検出に特化しているDeBERTaモデルに対して,本フレームワークは正しい予測と誤予測の異なる決定行動を明らかにする。提案手法は,細粒度回路解析と大域出力に基づく手法との効果的な妥協を提供し,トランスフォーマー分類器における決定機構を体系的に研究する方法を提供する。

関連論文リスト

Decision-Aware Attention Propagation for Vision Transformer Explainability [1.9116784879310027]
DAP(Decision-Aware Attention Propagation)は、意思決定に関連する事前情報をトランスフォーマーの注意伝達に注入する属性法である。 DAPは従来の注意に基づく手法よりもクラス敏感でコンパクトで忠実な帰属写像を生成する。
論文参考訳（メタデータ） (2026-04-20T11:10:18Z)
Disentangling Recall and Reasoning in Transformer Models through Layer-wise Attention and Activation Analysis [3.1526281887627587]
モデル一般化の予測には推論からのリコールの排除が不可欠である。我々は、制御された合成言語パズルのデータセットを使用して、層、頭、ニューロンレベルでトランスフォーマーモデルを探索する。この結果から、リコールと推論は変換器モデルにおける分離可能だが相互作用する回路に依存しているという最初の因果的証拠が得られた。
論文参考訳（メタデータ） (2025-10-03T04:13:06Z)
Influence-Guided Concolic Testing of Transformer Robustness [2.78712872004245]
ディープニューラルネットワークの競合テストは、具体的な実行と制約解決を交互に行い、決定を反転させるインプットを検索する。本稿では,トランスフォーマー分類器に対するインフルエンス誘導型衝突試験器を提案する。
論文参考訳（メタデータ） (2025-09-28T11:09:15Z)
Quickest Causal Change Point Detection by Adaptive Intervention [5.858447612884839]
2つのモニタリング手法が提案され、それぞれが適応的介入ポリシーを用いて探索と搾取のバランスをとる。提案手法の1次最適性を理論的に実証し、シミュレーションデータセットと2つの実世界のケーススタディを用いてそれらの特性を検証する。
論文参考訳（メタデータ） (2025-06-09T13:39:35Z)
On the Interconnections of Calibration, Quantification, and Classifier Accuracy Prediction under Dataset Shift [58.91436551466064]
本稿では,データセットシフト条件下でのキャリブレーションと定量化の3つの基本問題間の相互接続について検討する。これらのタスクのいずれか1つに対するオラクルへのアクセスは、他の2つのタスクの解決を可能にすることを示す。本稿では,他の分野から借用した高度に確立された手法の直接適応に基づく各問題に対する新しい手法を提案する。
論文参考訳（メタデータ） (2025-05-16T15:42:55Z)
Robust Distribution Alignment for Industrial Anomaly Detection under Distribution Shift [51.24522135151649]
異常検出は産業アプリケーションの品質管理において重要な役割を担っている。既存の方法は、一般化可能なモデルをトレーニングすることで、ドメインシフトに対処しようとする。提案手法は,最先端の異常検出法や領域適応法と比較して,優れた結果を示す。
論文参考訳（メタデータ） (2025-03-19T05:25:52Z)
Large-Scale Targeted Cause Discovery via Learning from Simulated Data [66.51307552703685]
本稿では,観測結果から対象変数の因果変数を推定する機械学習手法を提案する。我々は、シミュレートされたデータに基づいて教師あり学習を用いてニューラルネットワークを訓練し、因果関係を推定する。大規模遺伝子制御ネットワークにおける因果関係の同定に優れた性能を示す実験結果が得られた。
論文参考訳（メタデータ） (2024-08-29T02:21:11Z)
Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
論文参考訳（メタデータ） (2022-05-13T21:09:41Z)
Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
論文参考訳（メタデータ） (2022-03-25T19:57:19Z)
A Variational Bayesian Approach to Learning Latent Variables for Acoustic Knowledge Transfer [55.20627066525205]
本稿では,ディープニューラルネットワーク(DNN)モデルにおける潜伏変数の分布を学習するための変分ベイズ(VB)アプローチを提案する。我々の提案するVBアプローチは,ターゲットデバイスにおいて良好な改善が得られ,しかも,13の最先端知識伝達アルゴリズムを一貫して上回っている。
論文参考訳（メタデータ） (2021-10-16T15:54:01Z)
Provable Guarantees on the Robustness of Decision Rules to Causal Interventions [20.27500901133189]
データ生成プロセスの変化に対する決定ルールのロバストさは、意思決定システムのデプロイの成功に不可欠である。我々は因果ベイズネットワークを考察し、介入堅牢性問題を正式に定義する。干渉確率の保証された上下境界を計算するための効率的なアルゴリズムを提供する。
論文参考訳（メタデータ） (2021-05-19T13:09:47Z)
Estimating the Effects of Continuous-valued Interventions using Generative Adversarial Networks [103.14809802212535]
我々は,連続的評価介入の効果を推定する問題に対処するため,GAN(Generative Adversarial Network)フレームワークを構築した。我々のモデルであるSCIGANは柔軟であり、いくつかの異なる継続的な介入に対する対実的な結果の同時推定が可能である。継続的な介入に移行することによって生じる課題に対処するために、差別者のための新しいアーキテクチャを提案する。
論文参考訳（メタデータ） (2020-02-27T18:46:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。