論文の概要: Unsure but Certain: Uncovering the Representation-Confidence Gap in Diffusion Language Models

• arxiv url: http://arxiv.org/abs/2608.08791v1
• Date: Sun, 09 Aug 2026 16:13:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.950651
• Title: Unsure but Certain: Uncovering the Representation-Confidence Gap in Diffusion Language Models
• Title（参考訳）: 不確実性:拡散言語モデルにおける表現信頼ギャップの解明
• Abstract要約: ノイズによって精度が低下するにつれて、信頼性はその最大値に近づき、答えを正しくランク付けする能力はランダムな確率に低下する。 このランキングの赤字は、ノイズの多い条件下での標準モデルを支持し、一般的な治療に抵抗する。 軽量抽出ツールは、この信号を使用してランキングを改善する。
• 参考スコア（独自算出の注目度）: 7.457366749109892
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion language models use broad context to create text, suggesting they might handle input noise better than standard models. Testing reveals this is only partially true. Internally, diffusion models detect text errors highly accurately. Externally, their reported certainty ignores this signal. As accuracy drops due to noise, confidence stays near its maximum and the ability to correctly rank answers degrades toward random chance. We call this mismatch the representation confidence gap. The visible concentration of high certainty scores is a misleading surface symptom. Standard math adjustments remove this concentration but fail to fix the underlying loss of ranking order. This ranking deficit favors standard models under noisy conditions and resists common remedies. Matching training recovers accuracy but not ranking, while score recalibration and input level error signals cannot reorder the final answers. However, the information needed to properly evaluate an answer survives in the hidden states. A lightweight extraction tool uses this signal to improve ranking. This approach is highly efficient because it leaves the base model completely frozen and requires zero additional text generation steps. We present this tool to prove the signal exists, while clearly noting its limits. Ultimately, certainty reliability is a more pressing limit than overall accuracy under noisy conditions.
• Abstract（参考訳）: 拡散言語モデルは、テキストを作成するために広義のコンテキストを使用し、標準モデルよりも入力ノイズを扱う可能性があることを示唆している。 テストの結果、これは部分的には真実であることがわかった。 内部では拡散モデルがテキストエラーを高精度に検出する。 外部では、報告された確実性はこの信号を無視している。 ノイズによって精度が低下するにつれて、信頼性はその最大値に近づき、答えを正しくランク付けする能力はランダムな確率に低下する。 私たちはこのミスマッチを表現信頼ギャップと呼んでいる。 高確かさスコアの目に見える濃度は、誤解を招く表面症状である。 標準的な数学の調整は、この濃度を除去するが、下位のランク付け順序の損失を修正するのに失敗する。 このランキングの赤字は、ノイズの多い条件下での標準モデルを支持し、一般的な治療に抵抗する。 マッチングトレーニングは精度を回復するがランク付けはしないが、スコアの校正と入力レベルのエラー信号は最終回答を並べ替えることはできない。 しかし、解答を適切に評価するために必要な情報は、隠れた状態のまま残っている。 軽量抽出ツールは、この信号を使用してランキングを改善する。 このアプローチはベースモデルを完全に凍結し、追加のテキスト生成ステップをゼロにするので、非常に効率的です。 本稿では,信号の存在を証明し,その限界を明確に示す。 結局のところ、確実性信頼性は、ノイズのある条件下での全体的な精度よりも強い限界である。

関連論文リスト

• On the Robustness of LLMs' Internal Representation of Code Correctness [0.3653697742557465]
  研究によると、モデル自身の信頼信号は、実際の正確さで十分に校正されていない。 最近の研究は、モデルのトークンレベルや記述された信頼度よりも、候補ソリューションを判断できるコード正当性の内部シグナルを捉えている。 本研究では, モデル内部からどのように信号が抽出されるかを, 系統的に検討する。
  論文  参考訳（メタデータ） (2026-08-08T17:56:31Z)
• Sample-Adaptive Latent Rewards for Uncertainty-Guided Diffusion Post-Training [51.18425726646089]
  我々は、画像とビデオの拡散モデルのための統合潜在空間フレームワークであるtextscSUREを提案する。 報酬分布を学習し、信頼性を直接利用して、密集したポストトレーニングをガイドする。 textscSURE-REFLは評価手法の中で最も高いVBench品質、セマンティック、総得点を達成する。
  論文  参考訳（メタデータ） (2026-08-06T14:55:42Z)
• CaliDist: Calibrating Large Language Models via Behavioral Robustness to Distraction [51.56484100374058]
  既存のLLM(Large Language Models)のキャリブレーション手法は、しばしば信頼性の重要な次元、すなわちモデルの振舞いの堅牢性を見落としている。 我々は,モデルが注意をそらす可能性を直接測定し,罰する,新しいポストホックキャリブレーション手法であるtextscCaliDistを紹介した。 textscCaliDistは、強いベースラインと比較して、期待の低いエラー(ECE)とBrier Scoreを一貫して達成します。
  論文  参考訳（メタデータ） (2026-06-04T07:27:53Z)
• Learning Uncertainty from Sequential Internal Dispersion in Large Language Models [52.29267172760918]
  不確実性推定は、大規模言語モデルにおける幻覚を検出するための有望なアプローチである。 最近の手法は一般に不確実性を推定するために内部状態のモデルに依存する。 本稿では,教師付き幻覚検出フレームワークであるシークエンシャル内部変数表現(SIVR)を提案する。
  論文  参考訳（メタデータ） (2026-04-17T06:31:29Z)
• Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know" [47.930782177987446]
  大規模言語モデルは、クローズドブックの質問応答において知識限界を認識するのに苦労することが多く、自信ある幻覚へと繋がる。 我々は、モデルスケールの異なるDirect、Assistive、Incrementalの3つのタスク等価プロンプトとマルチホップQAベンチマークを評価した。 幻覚が一致している間に事実知識が安定しているため、クロスレジームは内部の不確実性の正確なシグナルを与える。
  論文  参考訳（メタデータ） (2026-02-04T18:39:58Z)
• When Safety Blocks Sense: Measuring Semantic Confusion in LLM Refusals [0.07777489763207261]
  現在の評価では、主に虚偽の拒絶やコンプライアンスなどのグローバルレートを報告している。 このようなローカル不整合をキャプチャする障害モードである"セマンティック・混乱"を導入する。 トークンレベルでは,コンフュージョン指数,コンフュージョンレート,コンフュージョン深さという3つのモデルに依存しない指標を提案する。
  論文  参考訳（メタデータ） (2025-11-30T19:11:45Z)
• CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
  隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。 ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
  論文  参考訳（メタデータ） (2025-10-02T02:14:33Z)
• Inference Scaling fLaws: The Limits of LLM Resampling with Imperfect Verifiers [13.823743787003787]
  近年の研究では、推論スケーリングにより、より弱い言語モデルがより強力なモデルの精度に適合または超えることを期待している。 より弱いモデルの推論スケーリングの量は、十分に強いモデルの単一サンプル精度に匹敵することができないことを示す。 また、精度以上の偽陽性には、コーディングスタイルの慣行への順守の欠如など、他の望ましくない性質があることも示している。
  論文  参考訳（メタデータ） (2024-11-26T15:13:06Z)
• Uncertainty in Language Models: Assessment through Rank-Calibration [65.10149293133846]
  言語モデル(LM)は、自然言語生成において有望な性能を示している。 与えられた入力に応答する際の不確実性を正確に定量化することは重要である。 我々は、LMの確実性と信頼性を評価するために、Rank$-$Calibration$と呼ばれる斬新で実用的なフレームワークを開発する。
  論文  参考訳（メタデータ） (2024-04-04T02:31:05Z)
• Shrinking Class Space for Enhanced Certainty in Semi-Supervised Learning [59.44422468242455]
  そこで我々はShrinkMatchと呼ばれる新しい手法を提案し、不確実なサンプルを学習する。 それぞれの不確実なサンプルに対して、元の Top-1 クラスを単に含むスランク類空間を適応的に求める。 次に、スランク空間における強と弱に強化された2つのサンプル間の整合正則化を課し、識別的表現を試みます。
  論文  参考訳（メタデータ） (2023-08-13T14:05:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。