論文の概要: Skip $\textbackslash n$: A simple method to reduce hallucination in
Large Vision-Language Models
- arxiv url: http://arxiv.org/abs/2402.01345v1
- Date: Fri, 2 Feb 2024 12:02:46 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-05 15:39:40.374950
- Title: Skip $\textbackslash n$: A simple method to reduce hallucination in
Large Vision-Language Models
- Title(参考訳): skip $\textbackslash n$: 大きな視覚言語モデルの幻覚を減らすための単純な方法
- Authors: Zongbo Han, Zechen Bai, Haiyang Mei, Qianli Xu, Changqing Zhang, Mike
Zheng Shou
- Abstract要約: 我々は,LVLMの固有バイアスが幻覚の重要な要因である可能性を示唆する新しい視点を提案する。
生成された記述に「$textbackslash ntextbackslash n$」を意図的に挿入すると、より幻覚が引き起こされる。
テキストバックスラッシュn'の出力をスキップすることでLVLMの幻覚を効果的に緩和する簡単な方法を提案する。
- 参考スコア(独自算出の注目度): 38.58136882908901
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advancements in large vision-language models (LVLMs) have demonstrated
impressive capability in visual information understanding with human language.
Despite these advances, LVLMs still face challenges with multimodal
hallucination, such as generating text descriptions of objects that are not
present in the visual information. However, the underlying fundamental reasons
of multimodal hallucinations remain poorly explored. In this paper, we propose
a new perspective, suggesting that the inherent biases in LVLMs might be a key
factor in hallucinations. Specifically, we systematically identify a semantic
shift bias related to paragraph breaks ('$\textbackslash n\textbackslash n$'),
where the content before and after '$\textbackslash n\textbackslash n$' in the
training data frequently exhibit significant semantic changes. This pattern
leads the model to infer that the contents following '$\textbackslash
n\textbackslash n$' should be obviously different from the preceding contents
with less hallucinatory descriptions, thereby increasing the probability of
hallucinatory descriptions subsequent to the '$\textbackslash n\textbackslash
n$'. We have validated this hypothesis on multiple publicly available LVLMs.
Besides, we find that deliberately inserting '$\textbackslash n\textbackslash
n$' at the generated description can induce more hallucinations. A simple
method is proposed to effectively mitigate the hallucination of LVLMs by
skipping the output of `\textbackslash n'.
- Abstract(参考訳): 大規模視覚言語モデル(LVLM)の最近の進歩は、人間の言語による視覚情報理解における印象的な能力を示している。
これらの進歩にもかかわらず、LVLMは視覚情報に存在しないオブジェクトのテキスト記述を生成するなど、マルチモーダル幻覚の課題に直面している。
しかし、マルチモーダル幻覚の根本原因はいまだに解明されていない。
本稿では,LVLMの固有バイアスが幻覚の重要な要因である可能性を示唆する新しい視点を提案する。
具体的には、訓練データにおける '$\textbackslash n\textbackslash n$' の前後の内容が意味的変化をしばしば呈する、段落ブレークに関連する意味的シフトバイアス('$\textbackslash n\textbackslash n$')を体系的に識別する。
このパターンは、「$\textbackslash n\textbackslash n$」に続く内容が、幻覚的記述の少ない前の内容と明らかに異なることを推測し、「$\textbackslash n\textbackslash n$」に続く幻覚的記述の確率を増大させる。
我々は,この仮説を複数の公開LVLM上で検証した。
さらに、生成した記述に'$\textbackslash n\textbackslash n$'を意図的に挿入すると、より幻覚が引き起こされる。
テキストバックスラッシュn'の出力をスキップすることでLVLMの幻覚を効果的に緩和する簡単な方法を提案する。
関連論文リスト
- Detecting and Mitigating Hallucination in Large Vision Language Models via Fine-Grained AI Feedback [48.065569871444275]
我々は,LVLM(Large Vision Language Models)における幻覚の検出と緩和について,きめ細かいAIフィードバックを用いて提案する。
プロプライエタリモデルによる小型幻覚アノテーションデータセットを生成する。
そこで本研究では,幻覚緩和モデルの訓練のための選好データセットを自動構築する検出テーマ書き換えパイプラインを提案する。
論文 参考訳(メタデータ) (2024-04-22T14:46:10Z) - A Survey on Hallucination in Large Vision-Language Models [18.540878498840435]
LVLM(Large Vision-Language Models)は、実践的な実装の可能性から、AIの世界において注目を集めている。
しかし,「幻覚」は,現実の視覚的内容とそれに対応するテキスト生成のミスアライメントが,LVLMを活用する上で大きな課題となる。
我々は,LVLM関連幻覚を解明し,今後の緩和を促進するために検討する。
論文 参考訳(メタデータ) (2024-02-01T00:33:21Z) - Don't Believe Everything You Read: Enhancing Summarization Interpretability through Automatic Identification of Hallucinations in Large Language Models [0.0]
本稿では,幻覚に対するLarge Language Models (LLM) の振る舞いを深く掘り下げる。
異なる種類の幻覚を識別するためのトークンレベルのアプローチを定義し、さらにトークンレベルのタグ付けを活用してLLMの解釈可能性と忠実性を改善する。
論文 参考訳(メタデータ) (2023-12-22T00:31:46Z) - Hallucination Augmented Contrastive Learning for Multimodal Large
Language Model [53.65682783591723]
マルチモーダル大規模言語モデル(MLLM)は、自然言語と視覚情報を効率的に統合し、マルチモーダルタスクを処理できることが示されている。
しかし、MLLMは幻覚の基本的な限界に直面しており、誤った情報や偽情報を生成する傾向がある。
本稿では,MLLMにおける幻覚を表現学習の新たな視点から論じる。
論文 参考訳(メタデータ) (2023-12-12T04:05:15Z) - Analyzing and Mitigating Object Hallucination in Large Vision-Language Models [110.12460299261531]
大規模視覚言語モデル(LVLM)は、人間の言語で視覚情報を理解する際、顕著な能力を示した。
LVLMは依然として物体幻覚に悩まされており、画像に実際に存在しない物体を含む記述を生成するという問題である。
そこで我々は,LVLMの幻覚を再現するアルゴリズム LVLM Hallucination Revisor (LURE) を提案する。
論文 参考訳(メタデータ) (2023-10-01T18:10:53Z) - Evaluation and Analysis of Hallucination in Large Vision-Language Models [49.19829480199372]
LVLM(Large Vision-Language Models)は近年大きな成功を収めている。
LVLMは今でも幻覚に悩まされている。
幻覚とは、視覚入力に存在しないLVLMの応答の情報を指す。
論文 参考訳(メタデータ) (2023-08-29T08:51:24Z) - Evaluating Object Hallucination in Large Vision-Language Models [122.40337582958453]
本研究は,大規模視覚言語モデル(LVLM)の物体幻覚に関する最初の体系的研究である。
LVLMは、記述中の対象画像と矛盾しないオブジェクトを生成する傾向がある。
対象の幻覚を評価するために,POPEと呼ばれるポーリングに基づくクエリ手法を提案する。
論文 参考訳(メタデータ) (2023-05-17T16:34:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。