論文の概要: Attention-Path Fragility as an Uncertainty Signal in Large Language Models

• arxiv url: http://arxiv.org/abs/2608.11138v1
• Date: Tue, 11 Aug 2026 16:59:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:46.125836
• Title: Attention-Path Fragility as an Uncertainty Signal in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける不確実性信号としてのアテンションパスの脆弱性
• Abstract要約: 我々はこれを、注意を隠蔽し、成果物間のBALD相互情報を計測するトレーニング不要推定器ASMIとしてインスタンス化する。 接地されたQAでは、単一パスの信頼性とエントロピーを超えたエラー予測情報が追加されている。 ヘッドレベルの分析では、この境界線を追跡するのは、ヘッドレベルの脆弱性の存在ではなく、その脆弱性がエラーと一致しているかどうかを示している。
• 参考スコア（独自算出の注目度）: 3.5772286398380255
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose that a model's uncertainty about a token is reflected not only in the breadth of its output distribution but also in whether a confident prediction is \emph{fragile} under perturbation of its attention pathways. We instantiate this as ASMI (Attention-Subnetwork Mutual Information), a training-free estimator that masks attention heads and measures the BALD mutual information among the resulting subnetworks, with a semantic-agreement kernel to discount surface-form disagreement. The signal is not a restatement of output confidence: on grounded QA an out-of-fold test shows it adds error-predictive information beyond single-pass confidence and entropy, concentrated in \emph{confident-but-fragile} predictions, where acting on it roughly halves the retained error of a confidence filter. The distinctness is regime-graded, so ASMI predicts its own domain of applicability, strong where answers are routed through provided context and bounded by design where they are recalled from parametric knowledge. Sem-ASMI reads the signal from a single greedy response, without the stochastic generations the strongest baselines require, and ties or beats Semantic Entropy on ten of the twelve grounded benchmark-backbone settings. Across the same twelve settings, the best ASMI variant, typically the adaptive one reusing the ten samples already drawn for the baselines, ties or leads the strongest baseline in eight, significantly in three under a paired test. On parametric QA all variants revert to or below the zero-cost MSP baseline, exactly as predicted, and the estimates are near-deterministic across reruns. A head-level analysis shows that what tracks this boundary is not the presence of head-level fragility but whether that fragility couples to errors.
• Abstract（参考訳）: 本稿では, トークンに対する不確実性は, 出力分布の幅だけでなく, 注意経路の摂動下において, 自信ある予測が 'emph{fragile' であるかどうかにも反映されることを示す。 AsMI(Attention-Subnetwork Mutual Information)は,アテンションヘッドを隠蔽し,得られたサブネット間のBALD相互情報を計測する学習自由度推定器である。 アウトオブフォールドテストでは、単一パスの信頼とエントロピーを超えたエラー予測情報を追加し、それは、信頼フィルタの保持エラーをほぼ半分に抑えるような 'emph{confident-but-fragile' 予測に集中している。 そのためASMIは、提供されたコンテキストを通じて回答がルートされ、パラメトリック知識からリコールされる設計によって境界付けられた強い適用可能性のドメインを予測する。 Sem-ASMIは1つのグリージー応答から信号を読み取るが、確率的な世代がなければ、最強のベースラインは必要であり、12のベンチマークバックボーン設定のうち10のセマンティックエントロピーと結びつくか打ち負かす。 同じ12つの設定で、最も優れたASMI変種は、通常、既にベースライン、ネクタイ、または最強のベースラインを8つにリユースした10個のサンプルを使用する適応型である。 パラメトリックQAでは、すべての変種がゼロコストのMSPベースラインに逆戻りし、正確には予測通りであり、見積もりは再実行全体でほぼ決定論的である。 ヘッドレベルの分析では、この境界線を追跡するのは、ヘッドレベルの脆弱性の存在ではなく、その脆弱性がエラーと一致しているかどうかを示している。

関連論文リスト

• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• Architecture-agnostic Lipschitz-constant Bayesian header and its application to resolve semantically proximal classification errors with vision transformers [0.0]
  この研究は、アーキテクチャに依存しないリプシッツ・コンスタント・ベイジアンヘッダを示し、視覚変換器のような特徴抽出器に統合することができる。 また,不確実性と不確かさを誤分類率で捉えるための新しい指標と,適応型算術・平均融合方式を提案する。 モンテカルロサンプリングにより計算コストは上昇するが、事前に訓練されたバックボーンとのプラグ・アンド・プレイの互換性を提供する。
  論文  参考訳（メタデータ） (2026-05-07T09:18:06Z)
• An Isotropic Approach to Efficient Uncertainty Quantification with Gradient Norms [7.439615448864818]
  本稿では,ニューラルネットワークの予測不確実性を定量化する軽量な手法を提案する。 予測の勾配における不確実性を表現する一階テイラー展開とパラメータ共分散に関する等方性仮定の2つの近似を用いる。 次に,各不確実性型が解答正解の予測に有用であるかどうかを,大言語モデルを用いて検討する。
  論文  参考訳（メタデータ） (2026-03-31T09:13:09Z)
• CUPID: A Plug-in Framework for Joint Aleatoric and Epistemic Uncertainty Estimation with a Single Model [1.6855257501750571]
  CUPID (Comprehensive Uncertainty Plug-in estImation moDel) は、ベースモデルの変更や再訓練なしに、動脈とてんかんの不確実性を共同で推定する汎用モジュールである。 CUPIDは分類,回帰,アウト・オブ・ディストリビューション検出など,様々なタスクで評価される。 その結果、CUPIDは、不確実性の起源に関する階層的な洞察を提供しながら、一貫して競争性能を提供することがわかった。
  論文  参考訳（メタデータ） (2026-03-11T13:18:10Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• Tri-LLM Cooperative Federated Zero-Shot Intrusion Detection with Semantic Disagreement and Trust-Aware Aggregation [5.905949608791961]
  本稿では,言語に基づくセマンティック管理をフェデレーション最適化に組み込んだ,セマンティックス駆動のフェデレーションIDSフレームワークを提案する。 このフレームワークは、目に見えない攻撃パターンに対して80%以上のゼロショット検出精度を達成し、類似性に基づくベースラインと比較してゼロデイ識別を10%以上改善する。
  論文  参考訳（メタデータ） (2026-01-30T16:38:05Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
  隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。 ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
  論文  参考訳（メタデータ） (2025-10-02T02:14:33Z)
• Distributional Shift-Aware Off-Policy Interval Estimation: A Unified Error Quantification Framework [8.572441599469597]
  本研究では、無限水平マルコフ決定過程の文脈における高信頼オフ政治評価について検討する。 目的は、未知の行動ポリシーから事前に収集されたオフラインデータのみを用いて、対象の政策値に対する信頼区間(CI)を確立することである。 提案アルゴリズムは, 非線形関数近似設定においても, サンプル効率, 誤差ローバスト, 既知収束性を示す。
  論文  参考訳（メタデータ） (2023-09-23T06:35:44Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)
• Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
  本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。 我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
  論文  参考訳（メタデータ） (2020-03-04T12:27:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。