論文の概要: Hallucination Span Detection with Input-Side Evidence Alignment

• arxiv url: http://arxiv.org/abs/2608.15804v1
• Date: Sun, 16 Aug 2026 15:30:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.428975
• Title: Hallucination Span Detection with Input-Side Evidence Alignment
• Title（参考訳）: 入力側エビデンスアライメントを用いた幻覚スパン検出
• Abstract要約: 本稿では,入力側エビデンスアライメントを用いた幻覚スパン検出の課題について紹介する。 我々のアプローチは、忠実な出力トークンが入力から予測可能であるのに対して、幻覚トークンは予測できないという観察に基づいている。 実験により,提案手法は効果的に幻覚的スパンを検出し,有意義な入力側証拠を同定することを示した。
• 参考スコア（独自算出の注目度）: 8.460820813412907
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Hallucinations remain a major obstacle to the reliable use of large language models (LLMs) in conditional text generation. Existing methods primarily assess the factuality of an entire generated text, providing limited insight into which output spans are hallucinated or how they relate to the input. We introduce the task of hallucination span detection with input-side evidence alignment, which jointly identifies hallucinated spans and aligns output tokens with the corresponding input evidence. Our approach is based on the observation that faithful output tokens are predictable from the input, whereas hallucinated tokens are not. We therefore train an encoder-based model to predict masked output tokens from the input representation, using prediction confidence for hallucination detection while naturally producing alignments to the input. Experiments show that the proposed method effectively detects hallucinated spans and identifies meaningful input-side evidence. Human evaluation confirms the quality of the predicted alignments.
• Abstract（参考訳）: 幻覚は、条件付きテキスト生成における大規模言語モデル(LLM)の信頼性向上の大きな障害である。 既存の方法は、主に生成されたテキスト全体の事実性を評価し、どの出力スパンが幻覚されているか、どのように入力に関係しているかについての限られた洞察を提供する。 本稿では, 幻覚スパン検出と入力側エビデンスアライメントを併用した幻覚スパン検出のタスクを紹介し, 対応するインプットエビデンスと出力トークンを協調的に識別する。 我々のアプローチは、忠実な出力トークンが入力から予測可能であるのに対して、幻覚トークンは予測できないという観察に基づいている。 そこで我々は,入力へのアライメントを自然に生成しながら,幻覚検出の予測信頼度を用いて,入力表現からマスク付き出力トークンを予測するエンコーダベースモデルを訓練する。 実験により,提案手法は効果的に幻覚的スパンを検出し,有意義な入力側証拠を同定することを示した。 人間の評価は予測されたアライメントの品質を確認する。

関連論文リスト

• HIVE: Understanding Post-Hallucination Reasoning in Vision Language Models [70.67112531913669]
  視覚言語モデルにおける幻覚は、一般的に意味的誤りとして扱われる。 それまでの研究は主に、世代ごとの幻覚の検出や抑制に重点を置いていた。 幻覚的意味論がモデルの推論コンテキストに入る段階である PHR (Post Hallucination Reasoning) について検討する。
  論文  参考訳（メタデータ） (2026-07-08T15:02:11Z)
• Grounding or Guessing? Visual Signals for Detecting Hallucinations in Sign Language Translation [13.03365340564181]
  幻覚は視覚言語モデルの重大な欠陥であり、手話翻訳において特に重要である。 本稿では,デコーダの視覚情報利用量を定量化するトークンレベルの信頼性尺度を提案する。 以上の結果から、信頼性は幻覚率を予測し、データセットやアーキテクチャをまたいで一般化し、視覚的劣化の下で低下することが示された。
  論文  参考訳（メタデータ） (2025-10-21T09:13:46Z)
• Exploring and Mitigating Fawning Hallucinations in Large Language Models [52.444712272909435]
  各種自然言語処理タスクにおけるハエの幻覚の分析を行う。 我々は、フェニング・ハロシン化緩和のための、いわゆるコントラストデコーディング手法をカスタマイズする。
  論文  参考訳（メタデータ） (2025-08-31T14:29:54Z)
• Why and How LLMs Hallucinate: Connecting the Dots with Subsequence Associations [82.42811602081692]
  本稿では,幻覚を体系的に追跡・理解するサブシーケンス・アソシエーション・フレームワークを提案する。 主要な洞察は、支配的な幻覚協会が忠実なものを上回るときに生じる幻覚である。 ランダムな入力コンテキストにおける幻覚の確率を解析することにより因果列を同定するトレースアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T06:34:45Z)
• Hallucinated Span Detection with Multi-View Attention Features [8.747292152322578]
  本研究では,大規模言語モデルの出力におけるハロゲン化スパン検出の問題に対処する。 実用的重要性にもかかわらず、出力レベルの幻覚検出よりも注目度が低い。
  論文  参考訳（メタデータ） (2025-04-06T03:00:58Z)
• Alleviating Hallucinations of Large Language Models through Induced Hallucinations [67.35512483340837]
  大規模言語モデル(LLM)は、不正確な情報や製造された情報を含む応答を生成するために観察されている。 幻覚を緩和するための単純なtextitInduce-then-Contrast Decoding (ICD) 戦略を提案する。
  論文  参考訳（メタデータ） (2023-12-25T12:32:49Z)
• VALHALLA: Visual Hallucination for Machine Translation [64.86515924691899]
  VALHALLAと呼ばれる視覚幻覚フレームワークを導入する。 推論時にのみソース文を必要とし、代わりにマルチモーダル機械翻訳に幻覚的視覚表現を使用する。 特に、ソース文が与えられた場合、入力テキストから離散的な視覚表現を予測するために自己回帰幻覚変換器が使用される。
  論文  参考訳（メタデータ） (2022-05-31T20:25:15Z)
• Detecting Hallucinated Content in Conditional Neural Sequence Generation [165.68948078624499]
  出力シーケンスの各トークンが(入力に含まれていない)幻覚化されているかどうかを予測するタスクを提案する。 また、合成データに微調整された事前学習言語モデルを用いて幻覚を検出する方法についても紹介する。
  論文  参考訳（メタデータ） (2020-11-05T00:18:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。