論文の概要: Layer-Resolved Optimal Transport for Hallucination Detection in NMT and Abstractive Summarization

• arxiv url: http://arxiv.org/abs/2606.13216v1
• Date: Thu, 11 Jun 2026 11:30:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.756201
• Title: Layer-Resolved Optimal Transport for Hallucination Detection in NMT and Abstractive Summarization
• Title（参考訳）: NMTにおける幻覚検出のための層分解最適輸送と抽象要約
• Authors: Mariia Onyshchuk, Maksym-Vasyl Tarnavskyi, Marta Sumyk,
• Abstract要約: 最適輸送(OT)は神経機械翻訳(NMT)における幻覚を検出することが示されている この分析をFairseq DE-ENモデルの6つのデコーダ層すべてに拡張する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Optimal transport (OT) has been shown to detect hallucinations in neural machine translation (NMT) by measuring the geometric distance between cross-attention distributions and a reference distribution, without any supervision. We extend this analysis to all six decoder layers of the Fairseq DE-EN model ($N=3{,}414$), showing that Wass-to-Unif and Wass-to-Data are complementary detectors specialised across hallucination types, that detection is concentrated in layers L1--L4 with L5 anti-predictive for subtler types, and that hallucinated translations lack the exploratory attention phase present in correct translations from the first decoding step. We further evaluate whether the geometric signal transfers to abstractive summarization faithfulness detection: our unsupervised OT detector on AggreFact ($N=1{,}116$) achieves $57.2\%$/$57.6\%$ balanced accuracy on CNN/XSum -- above chance but substantially below supervised MiniCheck-Flan-T5-L($69.9\%$/$74.3\%$). This gap is principled: unlike NMT hallucinations, unfaithful summaries can attend correctly to source tokens while misrepresenting their content, a failure mode invisible to concentration-based OT metrics by construction. Structural experiments on T5-base confirm consistent decoder organisation across depth, with Layer~3 showing peak concentration and Layer~12 being most critical for generation quality. Together, the results establish OT on cross-attention as a reliable detector when the failure mode is source disengagement, a principled interpretability tool regardless of task, and fundamentally limited when faithfulness failures occur downstream of attention.
• Abstract（参考訳）: 最適輸送 (OT) は神経機械翻訳 (NMT) における幻覚を検出するために, 干渉分布と基準分布との幾何学的距離を測定することにより, いかなる監督も受けずに検出されている。 この分析は、Fairseq DE-ENモデル(N=3{,}414$)の6つのデコーダ層(N=3{,}414$)に拡張され、Wass-to-UnifとWass-to-Dataは、幻覚型に特化した相補的な検出器であり、検出はL1-L4層に集中し、微妙な型はL5層に反予測的であり、幻覚翻訳は第1の復号段階から正しい翻訳に現れる探索的注意フェーズを欠いていることを示す。 AggreFact(N=1{,}116$)上の教師なしOT検出器は、CNN/XSum上の57.2\%$/$57.6\%$バランスの正確さを達成します -- より高い確率ではありますが、監督されたMiniCheck-Flan-T5-L($69.9\%$/$74.3\%$)よりもかなり低い値です。 NMT幻覚とは異なり、不誠実な要約は、コンテンツを誤って表現しながら、ソーストークンに正しく出席することができる。 T5ベースの構造実験では、層~3がピーク濃度を示し、層~12が生成品質に最も重要であり、一貫したデコーダ組織が深さにわたって確認されている。 同時に、障害モードがソース展開時における信頼性のある検出手段としてのクロスアテンション上でのOTが確立され、タスクに関わらず原則化された解釈可能性ツールが確立され、忠実度障害が注目の下流で発生した場合、基本的に制限される。

関連論文リスト

• Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs [52.149036302760386]
  大規模な言語モデルは、プロンプトによって引き起こされるシークレットを、流動的で良心的な出力にエンコードするように微調整することができる。 近年の研究では、内部の活性化から秘密を回収する線形プローブによる検出を提案する。 この防御は体系的に回避できるが,対象とするデータレベルの介入によって検出性が回復可能であることを示す。
  論文  参考訳（メタデータ） (2026-06-08T12:27:11Z)
• Predictive Maps of Multi-Agent Reasoning: A Successor-Representation Spectrum for LLM Communication Topologies [0.0]
  既存の評価は、これらの質問に答えるのは、ポストホックと測定されたタスクのみである。 本稿では,M = (I - P)-1$の行確率的通信演算子の後継表現に基づくマルチエージェントLLM通信グラフの構造診断を提案する。 鎖,星,メッシュの閉形スペクトルを行確率正規化法で導出し,12ステップ構成された状態追跡タスクの予測を検証した。
  論文  参考訳（メタデータ） (2026-05-12T03:11:39Z)
• Self-Attention as Transport: Limits of Symmetric Spectral Diagnostics [0.0]
  均一な因果的注意は、$n$に依存しないフロア$ge 1/5$で、最悪のカットは$tast/n approx 0.32$で、ウィンドウアテンションは$O(w/n)$で、フロアは$O(w/n)$である。 結果として生じる2軸の診断は、ファルシブルな極性予測をもたらす。
  論文  参考訳（メタデータ） (2026-05-06T13:25:13Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
  モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。 累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。 主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
  論文  参考訳（メタデータ） (2026-02-10T21:08:53Z)
• Optimal Transport for Unsupervised Hallucination Detection in Neural Machine Translation [34.8089664250053]
  ニューラルネットワーク翻訳(NMT)は、現実世界の機械翻訳アプリケーションにおいてデファクトスタンダードとなっている。 NMTモデルは、ユーザーの信頼を著しく損なう幻覚として知られる深刻な病的翻訳を予測不能に生成することができる。 我々は、注意に基づくNMTモデルで使用可能な、完全に教師なしのプラグイン検出器を提案する。
  論文  参考訳（メタデータ） (2022-12-19T17:06:58Z)
• Detecting Hallucinated Content in Conditional Neural Sequence Generation [165.68948078624499]
  出力シーケンスの各トークンが(入力に含まれていない)幻覚化されているかどうかを予測するタスクを提案する。 また、合成データに微調整された事前学習言語モデルを用いて幻覚を検出する方法についても紹介する。
  論文  参考訳（メタデータ） (2020-11-05T00:18:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。