論文の概要: When Answers Stray from Questions: Hallucination Detection via Question-Answer Orthogonal Decomposition

• arxiv url: http://arxiv.org/abs/2605.14449v1
• Date: Thu, 14 May 2026 06:44:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.669077
• Title: When Answers Stray from Questions: Hallucination Detection via Question-Answer Orthogonal Decomposition
• Title（参考訳）: 質問からの回答:質問-回答直交分解による幻覚検出
• Authors: Siyang Yao, Erhu Feng, Yubin Xia,
• Abstract要約: 大規模言語モデルにおける幻覚検出には、分配シフトに対するアククレーシー、効率、堅牢性のバランスが必要である。 本稿では,QAODを提案する。QAODは,回答表現から質問整列方向を投影し,質問直交成分を得る。
• 参考スコア（独自算出の注目度）: 2.6661542645011047
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Hallucination detection in large language models (LLMs) requires balancing accu racy, efficiency, and robustness to distribution shift. Black-box consistency methods are effective but demand repeated inference; single-pass white-box probes are effi cient yet treat answer representations in isolation, often degrading sharply under domain shift. We propose QAOD (Question-Answer Orthogonal Decomposition), a single-pass framework that projects away the question-aligned direction from the answer representation to obtain a question-orthogonal component that suppresses domain-conditioned variation. To identify informative signals, QAOD further selects layers via diversity-penalized Fisher scoring and discriminative neurons via Fisher importance. To address both in-domain detection and cross-domain generalization, we design two complementary probing strategies: pairing the or thogonal component with question context yields a joint probe that maximizes in-domain discriminability, while using the orthogonal component alone preserves domain-agnostic factuality signals for robust transfer. QAOD's joint probe achieves the best in-domain AUROC across all evaluated model-dataset pairs, while the orthogonal-only probe delivers the strongest OOD transfer, surpassing the best white-box baseline by up to 21% on BioASQ at under 25% of generation cost.
• Abstract（参考訳）: 大規模言語モデル(LLM)における幻覚検出には、分布シフトに対するアククレーシ、効率、ロバスト性のバランスが必要である。 単一パスのホワイトボックスプローブは効率的だが、解表現を分離して扱い、しばしばドメインシフトの下で急激に劣化する。 本稿では,QAOD(Question-Answer Orthogonal Decomposition)を提案する。QAOD(Question-Answer Orthogonal Decomposition)は,応答表現から質問整列方向を投影し,ドメイン条件の変動を抑制する質問整列成分を得る。 情報信号を特定するために、QAODは多様性を付与したフィッシャースコアリングとフィッシャー重要度による識別ニューロンによってさらに層を選択する。 ドメイン内検出とクロスドメインの一般化の両方に対処するため、我々は2つの補完的探索戦略を設計する: 質問コンテキストと直交成分と直交成分のペアリングは、ドメイン内識別性を最大化する共同プローブを出力し、直交成分は、ロバスト転送のためにドメイン非依存の事実性信号を保持する。 QAODのジョイントプローブは、評価されたモデルデータセットのペアで最高のドメイン内AUROCを達成し、直交のみのプローブは、BioASQの25%以下の生成コストで、最高のホワイトボックスベースラインを最大21%上回る、最も強力なOOD転送を提供する。

関連論文リスト

• Action-Inspired Generative Models [0.0]
  アクションインスパイアされた生成モデル(AGM) 既往の橋梁整合法が輸送景観の遷移に均一な回帰重みを割り当てるという観察に動機づけられた双対ネットワーク生成フレームワークを導入する。 学習可能なポテンシャルを通して不定形輸送経路を選択的に解析すると、フィデリティとカバレッジのメトリクス間で生成品質が一貫した改善が得られることを実証する。
  論文  参考訳（メタデータ） (2026-05-14T09:43:32Z)
• Beyond Behavioural Trade-Offs: Mechanistic Tracing of Pain-Pleasure Decisions in an LLM [0.0]
  以前の研究は、一部のLCMは、選択肢が痛みや快楽を引き起こすものとしてフレーム化されているときに選択を変更でき、そのような偏差は、記述された強度でスケール可能であることを示唆している。 本研究では, 変圧器内における原子価関連情報がどのように表現され, どこで因果的に使用されるかを検討する。 Gemma-2-9B-itと、前処理をモデルとした最小限の決定タスクを用いて、(i)ストリームを横断する層ワイドな線形プローブを用いて、表現の可用性をマップする。 我々は,活性化介入(ステアリング,パッチ,アブレーション)による因果的寄与を検証し,(iii)エプシロングリッド上での線量応答効果を定量化する。
  論文  参考訳（メタデータ） (2026-02-22T12:42:38Z)
• Deep Joint Distribution Optimal Transport for Universal Domain Adaptation on Time Series [8.877926274964251]
  UniDAは、クラスが完全に共有されていない場合でも、ラベル付きソースドメインからラベルなしターゲットドメインに知識を転送することを目的としている。 輸送コストの未知のターゲットサンプルを最適輸送方式であるUniJDOTを紹介する。 TSベンチマークの実験では、UniJDOTの識別性、堅牢性、最先端性能が示されている。
  論文  参考訳（メタデータ） (2025-03-14T09:09:21Z)
• Amortized Posterior Sampling with Diffusion Prior Distillation [55.03585818289934]
  Amortized Posterior Smplingは、逆問題における効率的な後方サンプリングのための新しい変分推論手法である。 本手法は,拡散モデルにより暗黙的に定義された変動分布と後続分布とのばらつきを最小限に抑えるために条件付き流れモデルを訓練する。 既存の手法とは異なり、我々のアプローチは教師なしであり、ペア化されたトレーニングデータを必要としておらず、ユークリッドと非ユークリッドの両方のドメインに適用できる。
  論文  参考訳（メタデータ） (2024-07-25T09:53:12Z)
• Weakly supervised covariance matrices alignment through Stiefel matrices estimation for MEG applications [64.20396555814513]
  本稿では,Mixing Model Stiefel Adaptation (MSA)と呼ばれる時系列データに対する新しいドメイン適応手法を提案する。 我々は、ドメイン間の等価な信号分散とペアの対応を確立することにより、ターゲット領域における豊富なラベルのないデータを利用して効果的な予測を行う。 MSAは、Cam-CANデータセットのMEG信号を用いて、タスクの変動を伴う脳年齢回帰の最近の手法より優れている。
  論文  参考訳（メタデータ） (2024-01-24T19:04:49Z)
• Domain Adaptive Synapse Detection with Weak Point Annotations [63.97144211520869]
  弱点アノテーションを用いたドメイン適応型シナプス検出のためのフレームワークであるAdaSynを提案する。 I SBI 2023のWASPSYNチャレンジでは、我々の手法が第1位にランクインした。
  論文  参考訳（メタデータ） (2023-08-31T05:05:53Z)
• Neural Inverse Kinematics [72.85330210991508]
  逆キネマティック(英語版)(IK)法は、キネマティックチェインにおける選択された要素の所望の位置から関節のパラメータを復元する。 本稿では,問題階層構造を用いて,所望の位置に条件付き有効関節角度を逐次サンプリングするニューラルIK法を提案する。
  論文  参考訳（メタデータ） (2022-05-22T14:44:07Z)
• Frequency Spectrum Augmentation Consistency for Domain Adaptive Object Detection [107.52026281057343]
  周波数スペクトル拡張整合(FSAC)フレームワークを4種類の低周波フィルタで構成する。 最初の段階では、オリジナルおよび拡張されたソースデータを全て利用して、オブジェクト検出器を訓練する。 第2段階では、予測一貫性のための自己学習を行うために、擬似ラベル付き拡張現実とターゲットデータを採用する。
  論文  参考訳（メタデータ） (2021-12-16T04:07:01Z)
• Weakly-Supervised Cross-Domain Adaptation for Endoscopic Lesions Segmentation [79.58311369297635]
  異なるデータセットにまたがるトランスファー可能なドメイン不変知識を探索できる,新しい弱い教師付き病巣移動フレームワークを提案する。 wasserstein quantified transferability frameworkは、広い範囲の転送可能なコンテキスト依存性を強調するために開発されている。 新規な自己監督型擬似ラベル生成器は、送信困難かつ転送容易なターゲットサンプルの両方に対して、確実な擬似ピクセルラベルを等しく提供するように設計されている。
  論文  参考訳（メタデータ） (2020-12-08T02:26:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。