論文の概要: Directional Hallucinations: Ideological Drift in News-Grounded LLM Question Answering
- arxiv url: http://arxiv.org/abs/2607.20487v1
- Date: Tue, 02 Jun 2026 16:39:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.197948
- Title: Directional Hallucinations: Ideological Drift in News-Grounded LLM Question Answering
- Title（参考訳）: 方向性幻覚 : ニュースを取り巻くLCM質問応答におけるイデオロギー的ドリフト
- Abstract要約: 本稿では,イデオロギー的ドリフトの診断信号として,幻覚,文書接地型QAにおける非サポート文を取り扱うためのフレームワークを提案する。
我々は、左、中央、右のソースにまたがるQBiasの21,727人の専門家による米国の政治ニュース記事を使っている。
幻覚率はモデルによって大きく異なり、論争的なトピックに集中する一方、幻覚周波数のソース・イデオロギーの違いは緩やかである。
一部のモデルでは、不確実性は「推測の不確かさ」のメカニズムと一致して左向きのドリフトを予測する。
- 参考スコア（独自算出の注目度）: 2.7123995549185325
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are increasingly used to answer questions about political information, including in election-adjacent information settings where factual errors and ideological distortions are high-stakes. We present a reproducible measurement framework that treats hallucinations, unsupported statements in document-grounded QA, as diagnostic signals of ideological drift. Using 21,727 expert-labeled U.S. political news articles from QBias spanning left, center, and right sources, we (i) generate an article-specific question, (ii) elicit document-grounded answers from three open-weight LLMs and one proprietary model, (iii) detect sentence-level hallucinations via reference-based comparison, (iv) classify the ideological valence of hallucinated sentences with a fine-tuned stance classifier, and (v) probe output logits to relate token-level uncertainty to hallucination and drift. Hallucination rates vary substantially across models and concentrate in contentious topics, while source-ideology differences in hallucination frequency are modest. In contrast, hallucination content exhibits robust leftward drift: a majority of hallucinated sentences are classified as left-leaning, including among hallucinations generated from right-leaning sources. Logit-level analysis shows hallucinations arise in high-entropy generation contexts, and in some models uncertainty also predicts leftward drift, consistent with an "uncertainty to guessing" mechanism. We discuss implications for auditing AI-mediated political information and for designing safeguards in election-relevant deployments.
- Abstract（参考訳）: 大規模言語モデル (LLM) は、事実的誤りやイデオロギー的歪みが高い選挙関連情報設定など、政治的情報に関する質問に答えるために、ますます使われてきている。
本稿では,イデオロギー的ドリフトの診断信号として,幻覚,書面的QAの支持文を扱う再現可能な測定フレームワークを提案する。
左、中央、右のソースにまたがるQBiasの21,727人の専門家による政治ニュース記事を使って、私たちはこう考えています。
i) 記事固有の質問を生成します。
(二 オープンウェイトLLMと1つのプロプライエタリモデルからの文書的回答を提出すること。)
三 基準に基づく比較により文章レベルの幻覚を検出すること。
(四)微調整スタンス分類器による幻覚文のイデオロギー的価値を分類し、
(v) トークンレベルの不確実性を幻覚やドリフトに関連付けるためのプローブ出力ロジット。
幻覚率はモデルによって大きく異なり、論争的なトピックに集中する一方、幻覚周波数のソース・イデオロギーの違いは緩やかである。
対照的に、幻覚内容は強い左向きのドリフトを示しており、幻覚文の大多数は、右向きのソースから生成される幻覚を含む左向きのものとして分類されている。
対物レベルの分析では、高エントロピー生成の文脈で幻覚が生じることが示され、あるモデルでは不確実性は「推測の不確かさ」のメカニズムと一致して左へのドリフトを予測している。
本稿では,AIによる政治情報の監査と,選挙関連展開における安全対策の設計について論じる。
関連論文リスト
- HIVE: Understanding Post-Hallucination Reasoning in Vision Language Models [70.67112531913669]
視覚言語モデルにおける幻覚は、一般的に意味的誤りとして扱われる。
それまでの研究は主に、世代ごとの幻覚の検出や抑制に重点を置いていた。
幻覚的意味論がモデルの推論コンテキストに入る段階である PHR (Post Hallucination Reasoning) について検討する。
論文 参考訳（メタデータ） (2026-07-08T15:02:11Z) - Beyond Facts: Evaluating Intent Hallucination in Large Language Models [13.315302240710164]
FAITHQAは20,068問題を含む意図幻覚の新しいベンチマークである。
我々は、最先端のモデルにおいても意図幻覚は一般的な問題であると考えている。
意図の幻覚を検出するための自動LLM生成評価指標であるCONSTRAINT SCOREを導入する。
論文 参考訳（メタデータ） (2025-06-06T21:10:55Z) - MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
マルチモーダル幻覚は多源性であり、様々な原因から生じる。
既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
論文 参考訳（メタデータ） (2025-05-30T05:54:36Z) - Shadows in the Attention: Contextual Perturbation and Representation Drift in the Dynamics of Hallucination in LLMs [6.190663515080656]
本研究は,幻覚の発生と文脈注入による内的状態のドリフトを関連づけた最初の系統的研究である。
TruthfulQAを用いて、1問16ラウンドの"titration"トラックを2つ構築する。
我々は,コサイン,エントロピー,JS,スピアマンの隠れ状態と注意マップのドリフトを通じて,三重対角検出器と隠蔽ダイナミクスを用いて,過剰幻覚率を追跡する。
論文 参考訳（メタデータ） (2025-05-22T16:50:58Z) - HalluLens: LLM Hallucination Benchmark [49.170128733508335]
大規模言語モデル(LLM)は、しばしばユーザ入力やトレーニングデータから逸脱する応答を生成する。
本稿では,新たな内因性評価タスクと既存内因性評価タスクを併用した総合幻覚ベンチマークを提案する。
論文 参考訳（メタデータ） (2025-04-24T13:40:27Z) - Why and How LLMs Hallucinate: Connecting the Dots with Subsequence Associations [82.42811602081692]
本稿では,幻覚を体系的に追跡・理解するサブシーケンス・アソシエーション・フレームワークを提案する。
主要な洞察は、支配的な幻覚協会が忠実なものを上回るときに生じる幻覚である。
ランダムな入力コンテキストにおける幻覚の確率を解析することにより因果列を同定するトレースアルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-04-17T06:34:45Z) - Trust Me, I'm Wrong: LLMs Hallucinate with Certainty Despite Knowing the Answer [51.7407540261676]
本研究では,モデルが常に正しい解答を行うことのできる幻覚の別のタイプについて検討するが,一見自明な摂動は,高い確実性で幻覚応答を生じさせる。
この現象は特に医学や法学などの高度な領域において、モデルの確実性はしばしば信頼性の代用として使用される。
CHOKEの例は、プロンプト間で一貫性があり、異なるモデルやデータセットで発生し、他の幻覚と根本的に異なることを示す。
論文 参考訳（メタデータ） (2025-02-18T15:46:31Z) - Reefknot: A Comprehensive Benchmark for Relation Hallucination Evaluation, Analysis and Mitigation in Multimodal Large Language Models [13.48296910438554]
我々は2万以上の実世界のサンプルからなる関係幻覚を対象とする総合的なベンチマークであるReefknotを紹介した。
関係幻覚を体系的に定義し、知覚的視点と認知的視点を統合するとともに、Visual Genomeのシーングラフデータセットを用いて関係ベースのコーパスを構築する。
本稿では,Reefknotを含む3つのデータセットに対して,幻覚率を平均9.75%削減する信頼性に基づく新たな緩和戦略を提案する。
論文 参考訳（メタデータ） (2024-08-18T10:07:02Z) - VideoHallucer: Evaluating Intrinsic and Extrinsic Hallucinations in Large Video-Language Models [59.05674402770661]
本稿では,大規模ビデオ言語モデル(LVLM)における幻覚検出のための最初の総合的ベンチマークであるVideoHallucerを紹介する。
VideoHallucerは幻覚を2つの主なタイプに分類する。
論文 参考訳（メタデータ） (2024-06-24T06:21:59Z) - The Troubling Emergence of Hallucination in Large Language Models -- An
Extensive Definition, Quantification, and Prescriptive Remediations [10.20632187568563]
我々は、その程度、向き、カテゴリーに基づいて、プロファイリング幻覚について論じる。
幻覚は, (i) acronym ambiguity, (ii)numeric nuisance, (iii) generated golem, (iv) virtual voice, (v) Geographic erratum, (vi) time wrapの6種類に分類される。
より広範なNLPコミュニティのためのツールとしてHalucination Vulnerability Index (HVI)を提案する。
論文 参考訳（メタデータ） (2023-10-08T03:31:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。