論文の概要: What LLMs Do in the Shadows: Reading Context Reliance from the Unembedding Dark Space

• arxiv url: http://arxiv.org/abs/2610.23182v1
• Date: Fri, 16 Oct 2026 09:21:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.840636
• Title: What LLMs Do in the Shadows: Reading Context Reliance from the Unembedding Dark Space
• Title（参考訳）: LLMが影の中で何をするか: 暗黒空間からコンテキストの信頼性を読み取る
• Abstract要約: 暗黒空間に隠れた状態を投影することで、文脈依存を推定できることを示す。 DarkLensは、単一の前方パス内で厳密に動作している軽量の忠実度検出器である。
• 参考スコア（独自算出の注目度）: 40.11355928033972
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Detecting faithfulness hallucinations in large language models (LLMs) is crucial for their safe deployment in high-stakes domains. Recent approaches address this by contrasting contextual against parametric knowledge utilization, yet measuring context reliance typically demands noticeable overhead, such as materializing attention maps, running additional forward passes, or training auxiliary probes. In this work, we show that context reliance can be estimated by projecting hidden states onto the dark space - directions that compose weakly with the unembedding matrix. Beyond its recognized function as an initial-token attention sink, we show that this subspace actively mediates context processing, and that its share of hidden-state norm - termed the Dark Matter Ratio (DMR) - provides a direct score of context utilization. Pairing DMR with a parametric knowledge score yields DarkLens, a lightweight faithfulness detector operating strictly within a single forward pass. Evaluated across three QA and summarization benchmarks on six open-weight LLMs (4B-13B parameters), DarkLens matches or outperforms a wide range of baselines without requiring extra forward passes or probe training.
• Abstract（参考訳）: 大規模言語モデル(LLM)における忠実な幻覚の検出は、高い領域への安全な配置に不可欠である。 近年のアプローチでは、コンテキストをパラメトリックな知識利用と対比することでこの問題に対処しているが、コンテキスト依存を測定するには、注意マップの作成、追加のフォワードパスの実行、補助プローブのトレーニングといった、目立ったオーバーヘッドが要求される。 本研究では,隠れた状態を暗黒空間に投影することで,文脈依存を推定できることを示す。 このサブスペースがコンテキスト処理を積極的に仲介し、暗黒物質比(DMR)と呼ばれる隠れ状態ノルムのシェアがコンテキスト利用の直接的なスコアを提供することを示す。 パラメトリックの知識スコアでDMRをペアリングすると、DarkLensは単一の前方パス内で厳密に動作している軽量の忠実度検出器となる。 3つのQAと6つのオープンウェイトLDM(4B-13Bパラメータ)の要約ベンチマークで評価されたDarkLensは、追加のフォワードパスやプローブトレーニングを必要とせずに、幅広いベースラインにマッチまたは性能を向上する。

関連論文リスト

• CSO-LLM: Class Subspace Orthogonalization for Post-Training Backdoor Detection and Trigger Inversion in LLMs [7.4121421815806015]
  バックドア検出とトリガーインバージョンスキームは、画像などに使われるAI向けに開発された。 分類器として扱われるLLMの高効率な検出・逆変換フレームワークを開発した。 検知器の1つのバージョンはトークン埋め込み空間において連続的な最適化を行い、補助的なトリガ反転検出法は離散トークン空間においてグレディ付加を行う。
  論文  参考訳（メタデータ） (2026-06-30T08:19:00Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• Conversational Context Classification: A Representation Engineering Approach [0.0]
  重要な課題は、Large Language Modelsが期待される会話規範から逸脱した時期を正確に検出することである。 本稿では,RepE(Representation Engineering)とOCSVM(One-Class Support Vector Machine)の利用について概説する。 文脈内例に基づいてOCSVMをトレーニングすることにより、LLMの隠れ状態潜在空間内に堅牢な境界を確立する。
  論文  参考訳（メタデータ） (2026-01-18T06:47:35Z)
• Teaching LLMs to Abstain via Fine-Grained Semantic Confidence Reward [4.921470220575384]
  大規模言語モデル(LLM)における幻覚の緩和は、信頼性の高いデプロイメントにおいて重要である。 我々は,$textbfunderlineFine-fine underline Semantic UnderlineConfidence underlineReward (Ours) に基づく新しい強化学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-28T03:00:35Z)
• VOGUE: Guiding Exploration with Visual Uncertainty Improves Multimodal Reasoning [62.09195763860549]
  検証可能な報酬(RLVR)による強化学習は、大きな言語モデル(LLM)の推論を改善するが、探索に苦労する。 出力(テキスト)から入力(視覚)空間へ探索をシフトする新しい手法である$textbfVOGUE(Visual Uncertainty Guided Exploration)を紹介した。 本研究は,視覚入力の本質的不確実性における基盤探索が,マルチモーダル推論を改善するための効果的な戦略であることを示す。
  論文  参考訳（メタデータ） (2025-10-01T20:32:08Z)
• Massive Values in Self-Attention Modules are the Key to Contextual Knowledge Understanding [58.364933651703524]
  注目クエリの特定の領域において、集中した巨大な値が一貫して現れることを示す。 これらの膨大な価値は文脈知識の解釈において重要な役割を担っている。 大量の値の出現を辿り、そのような濃度は回転位置によって引き起こされる。
  論文  参考訳（メタデータ） (2025-02-03T17:47:03Z)
• Context-DPO: Aligning Language Models for Context-Faithfulness [80.62221491884353]
  本研究では,大規模言語モデルの文脈信頼度を高めるためのアライメント手法を提案する。 ConFiQAから提供されたコンテキストの質問に対する忠実で頑健な応答を活用することで、Context-DPOは直接の選好最適化を通じてLLMを調整します。 大規模な実験により、私たちのContext-DPOは、一般的なオープンソースモデルで35%から280%の改善を達成し、コンテキスト忠実性を大幅に改善します。
  論文  参考訳（メタデータ） (2024-12-18T04:08:18Z)
• INSIDE: LLMs' Internal States Retain the Power of Hallucination Detection [39.52923659121416]
  本稿では,textbfinternal textbfStates内に保持される密接な意味情報について,HoluctextbfInation textbfDEtectionについて検討する。 応答の自己整合性をよりよく評価するために、単純で効果的な textbfEigenScore メトリクスが提案されている。 内部状態における極端なアクティベーションを阻害するために,テスト時間特徴クリッピング手法を提案する。
  論文  参考訳（メタデータ） (2024-02-06T06:23:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。