論文の概要: TRE: Training-Free Hallucination Detection for Diffusion Language Models

• arxiv url: http://arxiv.org/abs/2607.22661v1
• Date: Mon, 29 Jun 2026 00:47:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:39.012875
• Title: TRE: Training-Free Hallucination Detection for Diffusion Language Models
• Title（参考訳）: TRE:拡散言語モデルのための訓練不要幻覚検出
• Abstract要約: 本稿では,D-LLMのための訓練不要幻覚検出尺度であるTREを提案する。 TREは1世代のエントロピー信号から直接幻覚リスクを推定する。 複数のD-LLMとQAデータセットに対する大規模な実験は、TREが強力な一般化可能性、効率、堅牢性を享受しながら、競争性能を達成することを示した。
• 参考スコア（独自算出の注目度）: 9.622962795441852
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion large language models (D-LLMs) have recently gained increasing attention, yet their reliability is significantly hindered by the hallucination problem. Existing hallucination detection approaches for D-LLMs mainly follow a training-based paradigm, relying on data-driven training to optimize the detector. Such reliance not only limits their generalizability across domains models but also incurs additional training cost and deployment overhead. To address these limitations, we propose TRE, a training-free hallucination detection metric for D-LLMs. TRE is a parameter-free and single-run metric that estimates hallucination risk directly from the entropy signals of a single generation, without requiring any detector training or repeated sampling. TRE extracts entropy signals within the D-LLM decoding process along both the spatial and temporal dimensions. From a token-level spatial perspective, we focus on revealing tokens as the most informative carriers of uncertainty, capturing where uncertainty is actively committed. From a diffusion step-level temporal perspective, we empirically identify the dominance of late-step entropy and hence aggregate these signals with a simple linear weighting scheme to obtain TRE. Extensive experiments on multiple D-LLMs and QA datasets demonstrate that TRE achieves competitive performance, while enjoying strong generalizability, efficiency, and robustness.
• Abstract（参考訳）: 近年,拡散型大規模言語モデル (D-LLM) が注目されているが,その信頼性は幻覚の問題によって著しく損なわれている。 既存のD-LLMの幻覚検出アプローチは、主にデータ駆動トレーニングに頼って検出を最適化するトレーニングベースのパラダイムに従っている。 このような依存は、ドメインモデル全体の一般化性を制限するだけでなく、追加のトレーニングコストとデプロイメントオーバーヘッドを発生させる。 これらの制約に対処するため,D-LLMのためのトレーニング不要幻覚検出尺度であるTREを提案する。 TREはパラメータフリーで単一実行の計量であり、単一世代のエントロピー信号から直接幻覚リスクを推定する。 TREは空間次元と時間次元の両方に沿ってD-LLM復号プロセス内でエントロピー信号を抽出する。 トークンレベルの空間的観点では、不確実性の最も情報性の高いキャリアとしてトークンを明らかにすることに集中し、不確実性が活発にコミットされている場所をキャプチャする。 拡散ステップレベルの時間的視点から、我々は遅延ステップエントロピーの優位性を実証的に同定し、TREを得るための単純な線形重み付け方式でこれらの信号を集約する。 複数のD-LLMとQAデータセットに対する大規模な実験は、TREが強力な一般化可能性、効率、堅牢性を享受しながら、競争性能を達成することを示した。

関連論文リスト

• DeMTS: Denoising Trajectories as Multivariate Time Series for Hallucination Detection in Diffusion Language Models [59.414664850109155]
  拡散大言語モデル (D-LLM) はテキスト生成において有望なパラダイムとして登場してきた。 D-LLMは幻覚に弱いままであり、流動的な出力は事実的に誤った、またはサポートされていない内容を含む可能性がある。
  論文  参考訳（メタデータ） (2026-07-24T06:45:43Z)
• Uncertainty Quantification for Large Language Diffusion Models [35.87984313223733]
  自己回帰モデルに代わるものとして,大規模言語拡散モデル (LLDM) が登場している。 既存の不確実量化(UQ)手法は自己回帰因子化を前提とするか、高価な繰り返しサンプリングを使用する。 LLDMのUQに関する最初の体系的研究を行い、軽量ゼロショット不確実性信号を提案する。
  論文  参考訳（メタデータ） (2026-05-14T08:39:56Z)
• Scalable Token-Level Hallucination Detection in Large Language Models [63.3426544914783]
  内部幻覚は推論集約的なタスクでは検出が難しい。 TokenHDはトークンレベルの幻覚検出器を訓練するための全体論的パイプラインである。
  論文  参考訳（メタデータ） (2026-05-12T16:47:40Z)
• Lost in Diffusion: Uncovering Hallucination Patterns and Failure Modes in Diffusion Large Language Models [10.020835642521897]
  本研究は,dLLMの幻覚パターンを評価するための最初の制御された比較研究である。 以上の結果から,現在のdLLMは,建築・規模・事前学習重量に制御されるARよりも幻覚の確率が高いことが示唆された。 以上の結果から,dLLMは一般タスクにおける性能ギャップを狭めたが,その異なる幻覚機構は信頼性をモデル化する上で重要な課題であることが示された。
  論文  参考訳（メタデータ） (2026-04-12T09:59:41Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning [48.77865928715759]
  拡散大言語モデル (D-LLM) は自己回帰モデルに代わる有望な代替品として登場した。 幻覚は 信頼性を損なう重要な問題です 本研究では,これらのギャップを空間的(トケンシーケンス)と時間的(デノナイジングダイナミクス)の両方の観点から橋渡しするDynHDを提案する。
  論文  参考訳（メタデータ） (2026-03-17T12:40:29Z)
• TraceDet: Hallucination Detection from the Decoding Trace of Diffusion Large Language Models [49.83690850047884]
  D-LLMの幻覚問題は未解決のままであり、現実世界のアプリケーションでは信頼性が制限されている。 既存の幻覚検出法はAR-LLM向けに設計されており、単一ステップ生成からの信号に依存している。 本稿では,幻覚検出のためのD-LLMの中間段階を明示的に活用する新しいフレームワークであるTraceDetを提案する。
  論文  参考訳（メタデータ） (2025-09-30T02:01:10Z)
• Disentangled Representation Learning for RF Fingerprint Extraction under Unknown Channel Statistics [77.13542705329328]
  本稿では,まず,不整合表現学習(DRL)の枠組みを提案し,入力信号を逆学習によりデバイス関連成分とデバイス関連成分に分解する。 提案フレームワークにおける暗黙的なデータ拡張は、デバイス非関連チャネル統計の過度な適合を避けるために、RFF抽出器に正規化を課す。 実験により、DR-RFFと呼ばれる提案手法は、未知の複雑な伝播環境に対する一般化可能性の観点から従来の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2022-08-04T15:46:48Z)
• SUOD: Accelerating Large-Scale Unsupervised Heterogeneous Outlier Detection [63.253850875265115]
  外乱検出(OD)は、一般的なサンプルから異常物体を識別するための機械学習(ML)タスクである。 そこで我々は,SUODと呼ばれるモジュール型加速度システムを提案する。
  論文  参考訳（メタデータ） (2020-03-11T00:22:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。