論文の概要: Clearer Sight, Fewer Lies: Oriented Pickup Preference Optimization for Multimodal Hallucination Mitigation
- arxiv url: http://arxiv.org/abs/2606.29805v2
- Date: Tue, 30 Jun 2026 14:53:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 13:50:27.728358
- Title: Clearer Sight, Fewer Lies: Oriented Pickup Preference Optimization for Multimodal Hallucination Mitigation
- Title（参考訳）: より明確な視点, 低い嘘: マルチモーダルハロシン化緩和のためのオリエントなピックアップ選好最適化
- Abstract要約: マルチモーダル大言語モデル (MLLM) は, 視覚的証拠を十分に調整できないため, 幻覚の傾向が強い。
視覚的証拠の強度よりも好みを学習するエビデンスを意識したアライメントアライメント目標である、オリエント・ピック・プライス・オプティマイズ(textttOPPO)を提案する。
- 参考スコア（独自算出の注目度）: 41.3823869123186
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Multimodal Large Language Models (MLLMs) are prone to hallucination as their generation preferences are insufficiently calibrated to visual evidence, causing them to fall back on linguistic priors, rather than faithful grounding. In this work, we start from an empirical observation: when query-relevant visual evidence is explicitly strengthened using the model's own attention, generation becomes more accurate, suggesting that many failures do not arise solely from missing perception, but from an insufficient tendency to trust the evidence the model has already attended to. Motivated by this finding, we propose Oriented Pickup Preference Optimization (\texttt{OPPO}), an evidence-aware alignment objective that learns preferences over the strength of visual evidence, rather than only response quality. Concretely, \texttt{OPPO} contrasts the same faithful response under stronger, anchored, weaker-evidence views, turning naive visual preference into ordered visual-evidence alignment. We further combine this objective with fine-grained span-level and token-level regularization to stabilize the training. Besides, we provide a theoretical analysis showing that ordered evidence margins induce a positive lower bound on local visual sensitivity. Extensive evaluations across hallucination and general-purpose benchmarks demonstrate that \texttt{OPPO} consistently outperforms baseline methods.
- Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、視覚的証拠に対して世代的嗜好が不十分に調整されているため幻覚に陥りがちである。
この研究では、クエリ関連視覚的証拠がモデル自身の注意で明示的に強化されると、生成はより正確になり、多くの失敗は、欠落した認識からではなく、モデルがすでに参加している証拠を信頼する傾向が不十分であることを示す。
本研究の目的は,視覚的証拠の強度よりも,視覚的証拠の強度を優先的に学習するエビデンスを意識したアライメントアライメント目標であるOriented Pickup Preference Optimization (\texttt{OPPO})を提案することである。
具体的には、‘texttt{OPPO} は、より強く、固定的で、より弱い視覚的嗜好の下で同じ忠実な反応を対照的にし、ナイーブな視覚的嗜好を順序づけられた視覚的エビデンスアライメントに変換する。
さらに、トレーニングを安定させるために、この目的を細粒度スパンレベルとトークンレベルの正規化と組み合わせます。
さらに, 有意差が局所的な視覚感度に有意な低下をもたらすことを示す理論的解析を行った。
幻覚と汎用ベンチマークの広範な評価は、‘texttt{OPPO} がベースライン法を一貫して上回ることを示した。
関連論文リスト
- See First, Answer Later: Visual Evidence Pre-Alignment via Sufficiency-Driven RL [19.682815357013453]
マルチモーダル大言語モデル(MLLM)は、強力なテキスト推論を視覚入力と統合するが、その応答は基礎となる画像と矛盾する可能性がある。
質問条件付き視覚的エビデンス記述を最適化するために,前訓練と後訓練の中間段階である視覚的エビデンス事前調整(VEPA)を導入する。
論文 参考訳（メタデータ） (2026-06-16T08:45:24Z) - P$^2$-DPO: Grounding Hallucination in Perceptual Processing via Calibration Direct Preference Optimization [55.74731799669337]
幻覚は近年、LVLM(Large Vision-Language Models)において大きな研究の注目を集めている。
直接選好最適化(DPO)は、人間が提供した修正選好から直接学習することを目的としている。
既存の選好ペアは視覚に依存しないことが多く、その本質的に非政治的な性質は、モデル学習を導く上での有効性を制限している。
本稿では、モデルが独自の選好ペアから生成し学習する新しい訓練パラダイムである知覚処理直接選好最適化(P$2$-DPO)を提案する。
論文 参考訳（メタデータ） (2026-06-02T09:22:53Z) - Reasoning Matters: Mitigate Hallucination in Multimodal Large Reasoning Models via Reasoning-Conditioned Preference Optimization [59.20570719781289]
マルチモーダル大規模推論モデルは推論パラダイムを導入し、複雑な視覚言語タスクに強力な能力を示す。
既存のトレーニングベースの手法では、応答レベルの直接選好最適化(DPO)を通じて幻覚を緩和し、CoT(Chain-of-Thought)と最終回答をモノリシックな出力として扱い、協調的に最適化する。
我々は、応答生成条件としてCoTをモデル化し、異なるCoT条件下で同じ好みの回答を優先し、応答支持型推論連鎖アライメントを促進するReasoning-Conditioned Direct Preference Optimization (RC-DPO) を導出する。
論文 参考訳（メタデータ） (2026-05-27T03:27:23Z) - Reducing Hallucination in Vision-Language Models via Stage-wise Preference Optimization under Distribution Shift [0.0]
幻覚は視覚言語モデル(VLM)における根本的な課題である。
目的とするマルチモーダル構成による幻覚低減のためのステージワイドな選好最適化フレームワークを提案する。
オープンソースのベンチマークと実世界のマルチモーダル評価シナリオの実験では、接地一貫性の改善、幻覚の低減、より情報的な接地応答が示されている。
論文 参考訳（メタデータ） (2026-05-13T15:37:51Z) - Uncertainty-Aware Exploratory Direct Preference Optimization for Multimodal Large Language Models [53.15468578562038]
マルチモーダル大言語モデル(MLLM)のための不確実性を考慮した探索的直接参照最適化(UE-DPO)手法を提案する。
まず、与えられた画像にトークン予測を根拠にしなかったモデルの不確かさを定量化する。
次に、好ましいサンプルにおいて、視覚的に不足したトークンに対する学習のプレッシャーを高め、非推奨サンプルにおける有益な知識の過度な報酬化を緩和する。
論文 参考訳（メタデータ） (2026-05-06T13:08:12Z) - Online Self-Calibration Against Hallucination in Vision-Language Models [23.13137973421435]
LVLM(Large Vision-Language Models)はしばしば幻覚に悩まされ、入力画像にない視覚的詳細を含む記述を生成する。
textbfOnline textbfSelf-textbfCAlibtextbfRation (OSCAR) を提案する。
論文 参考訳（メタデータ） (2026-05-01T01:03:05Z) - When Prompts Override Vision: Prompt-Induced Hallucinations in LVLMs [54.411658510110215]
本研究では,異なる要因が幻覚を誘発する程度をよりよく理解するために,HauScopeを提案する。
HalluVL-DPOは、市販のLVLMをより視覚的な応答に向けて微調整するためのフレームワークである。
論文 参考訳（メタデータ） (2026-04-23T17:54:36Z) - Seeing Through the Chain: Mitigate Hallucination in Multimodal Reasoning Models via CoT Compression and Contrastive Preference Optimization [78.94590726578014]
マルチモーダル推論モデル (Multimodal reasoning model, MLRM) は幻覚の傾向が強く, 効果的な解はいまだ未発見のままである。
textbfCompression と textbfPreference textbfOptimization を組み合わせたトレーニングベースの緩和フレームワーク C3PO を提案する。
論文 参考訳（メタデータ） (2026-02-03T11:00:55Z) - OViP: Online Vision-Language Preference Learning for VLM Hallucination [44.14029765850719]
大型視覚言語モデル(LVLM)は幻覚に弱いままであり、しばしば視覚入力と一致しないコンテンツを生成する。
本稿では,モデル自身の幻覚に基づいて,コントラスト学習データを動的に構築するオンラインビジョン言語嗜好学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-21T19:26:09Z) - Debiasing Multimodal Large Language Models via Penalization of Language Priors [38.97645845493758]
MLLM(Multimodal Large Language Models)は、コンピュータビジョンや自然言語処理において欠かせないツールとなっている。
生成されたコンテンツは、入力画像よりも、基礎となるLarge Language Models (LLMs) の本質的な先行性によって駆動されることが多い。
本稿では、これらのバイアスを補正し、視覚情報に対するモデルの焦点をリダイレクトするための、単純でトレーニングのない2つの戦略を提案する。
論文 参考訳（メタデータ） (2024-03-08T12:35:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。