論文の概要: Context Blindness in DPO: Mitigating Object Hallucination in MLLMs via Context-Calibrated Preference Optimization

• arxiv url: http://arxiv.org/abs/2608.12158v1
• Date: Wed, 12 Aug 2026 15:20:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 19:07:54.625355
• Title: Context Blindness in DPO: Mitigating Object Hallucination in MLLMs via Context-Calibrated Preference Optimization
• Title（参考訳）: DPOにおけるコンテキストブラインドネス:コンテキストキャリブレーションによるMLLMにおけるオブジェクト幻覚の緩和
• Abstract要約: 本稿では,関連する文脈が提供されると,モデルの嗜好がどれだけ強まるかを測定する指標を提案する。 高いCPGは低い幻覚と常に一致しているが、標準DPOとその変異体は限定的なCPGしか示さない。 本稿では、CPGを直接最大化し、元の優先順序を保ちながらCPOを直接最大化するコンテキストキャリブレーションDPO(C$2$-DPO)を提案する。
• 参考スコア（独自算出の注目度）: 34.25772615253414
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal large language models (MLLMs) have made rapid progress, yet they still exhibit object hallucination, generating plausible but incorrect descriptions that are inconsistent with the visual input. Direct Preference Optimization (DPO) mitigates this by training models to prefer non-hallucinated responses over hallucinated ones, and recent efforts further enrich the preference data with relevant context. However, it remains unclear whether DPO actually leverages such context. To investigate this, we propose Contextual Preference Gain (CPG), a simple metric that measures how much a model's preference strengthens when relevant context is provided. We find that higher CPG consistently corresponds to lower hallucination, yet standard DPO and its variants exhibit only limited CPG, indicating that they underutilize contextual information and thus remain prone to hallucination. To address this, we propose Context-Calibrated DPO (C$^2$-DPO), which directly maximizes CPG while preserving the original preference ordering. Across multiple benchmarks, C$^2$-DPO substantially reduces hallucination without compromising general reasoning, relatively reducing the Object HalBench hallucination rate of Qwen2-VL-Instruct-2B by 36%. Code is available at https://github.com/mlvlab/C2-DPO
• Abstract（参考訳）: MLLM(Multimodal large language model)は急速に進歩してきたが、それらはまだオブジェクト幻覚を示しており、視覚的な入力と矛盾するもっともらしい記述を生成する。 直接選好最適化(DPO)は、学習モデルによりこれを緩和し、幻覚的応答よりも非幻覚的応答を優先し、近年の取り組みにより、関連するコンテキストで選好データをさらに強化する。 しかし、DPOが実際にそのような文脈を利用するかどうかは不明である。 そこで本研究では,関連するコンテキストが提供された場合,モデルの嗜好がどの程度強まるかを測定するための簡易な指標であるコンテキスト優先利得(CPG)を提案する。 高いCPGは低い幻覚と常に一致しているが,標準のDPOとその変異体は限定的なCPGしか示さず,文脈情報の活用が困難であり,幻覚の傾向が強いことが示唆された。 そこで本研究では,CPGを直接最大化するコンテキストキャリブレーションDPO(C$^2$-DPO)を提案する。 複数のベンチマークにおいて、C$^2$-DPOは一般的な推論を損なうことなく幻覚を著しく減少させ、Qwen2-VL-Instruct-2BのオブジェクトHalBench幻覚率を36%減少させる。 コードはhttps://github.com/mlvlab/C2-DPOで入手できる。

関連論文リスト

• Mult-DPO: Multinomial Direct Preference Optimization for Recommender Systems [72.27018654934386]
  直接選好最適化(DPO)は、ペアの選好に基づく大規模言語モデル(LLM)の簡易かつ効果的なアライメント戦略である。 しかし、レコメンデーションシステムでは、ユーザからのフィードバックがペアワイズであることは滅多にない。 提案するMult-DPOは,LLMベースのレコメンデータシステムのユーザ嗜好アライメントのための,設定された選好イベントに対するトラクタブルな多項サロゲート確率である。
  論文  参考訳（メタデータ） (2026-06-08T18:53:45Z)
• P$^2$-DPO: Grounding Hallucination in Perceptual Processing via Calibration Direct Preference Optimization [55.74731799669337]
  幻覚は近年、LVLM(Large Vision-Language Models)において大きな研究の注目を集めている。 直接選好最適化(DPO)は、人間が提供した修正選好から直接学習することを目的としている。 既存の選好ペアは視覚に依存しないことが多く、その本質的に非政治的な性質は、モデル学習を導く上での有効性を制限している。 本稿では、モデルが独自の選好ペアから生成し学習する新しい訓練パラダイムである知覚処理直接選好最適化(P$2$-DPO)を提案する。
  論文  参考訳（メタデータ） (2026-06-02T09:22:53Z)
• When Prompts Override Vision: Prompt-Induced Hallucinations in LVLMs [54.411658510110215]
  本研究では,異なる要因が幻覚を誘発する程度をよりよく理解するために,HauScopeを提案する。 HalluVL-DPOは、市販のLVLMをより視覚的な応答に向けて微調整するためのフレームワークである。
  論文  参考訳（メタデータ） (2026-04-23T17:54:36Z)
• Mitigating Hallucinations in Multimodal LLMs via Object-aware Preference Optimization [55.543583937522804]
  MLLM(Multimodal Large Language Models)は、様々なタスクに対処するための統一インターフェースとして登場した。 多くのベンチマークで最先端の結果が誇示されているにもかかわらず、長年の問題はMLLMが幻覚を起こす傾向にある。 本稿では,幻覚の問題をアライメント問題として取り上げ,幻覚を伴わないコンテンツを生成するためのMLLMのステアリングを試みる。
  論文  参考訳（メタデータ） (2025-08-27T18:02:04Z)
• TARS: MinMax Token-Adaptive Preference Strategy for MLLM Hallucination Reduction [17.776737597391843]
  MLLM(Multimodal large language model)は、視覚的推論を可能にするが、実際は正しくない、あるいは視覚的に見当たらない出力を生成することが多い。 直接選好最適化(DPO)は、モデル出力を人間の選好と整合させることで幻覚を補正する一般的な戦略である。 本稿では,DPO を min-max 最適化問題として再構成するトークン適応型選好戦略である TARS を提案する。
  論文  参考訳（メタデータ） (2025-07-29T08:39:19Z)
• CHiP: Cross-modal Hierarchical Direct Preference Optimization for Multimodal LLMs [107.21334626890713]
  MLLM(Multimodal Large Language Models)は、その優れた能力にもかかわらず、幻覚に苦しむ。 本稿では,これらの制約に対処するクロスモーダル階層型直接選好最適化(CHiP)を提案する。 定量的および定性的な分析によってCHiPを評価し,幻覚の低減効果を複数のベンチマークで実証した。
  論文  参考訳（メタデータ） (2025-01-28T02:05:38Z)
• Mitigating Hallucinations in Large Vision-Language Models via DPO: On-Policy Data Hold the Key [24.229983103296988]
  幻覚は、LVLM(Large Vision-Language Models)にとって大きな課題である。 本稿では,専門家のフィードバックを一意に活用して幻覚応答を補正するOn-Policy Alignment (OPA)-DPOフレームワークを提案する。 OPA-DPOは、AMBERベンチマークで13.26%、Object-Halベンチマークで5.39%のLLaVA-1.5-7Bの幻覚率をさらに低下させる。
  論文  参考訳（メタデータ） (2025-01-16T17:48:03Z)
• Aligning Modalities in Vision Large Language Models via Preference Fine-tuning [67.62925151837675]
  本研究では,幻覚の問題をアライメント問題とみなし,好みのチューニングで対処する。 具体的には,AIモデルを用いたフィードバックデータを生成するPOVIDを提案する。 提案手法は,好ましくないデータを生成するための2段階のアプローチである。 広範ベンチマークを用いた実験では、幻覚を減らすだけでなく、標準ベンチマークでのモデル性能を向上させることができ、従来の手法よりも優れていた。
  論文  参考訳（メタデータ） (2024-02-18T00:56:16Z)
• Beyond Hallucinations: Enhancing LVLMs through Hallucination-Aware Direct Preference Optimization [45.53216822981202]
  本稿では,Halucination-Aware Direct Preference Optimization (HA-DPO)を提案する。 3つの主要なマルチモーダルモデルに適用すると、HA-DPOは幻覚の問題を著しく減らし、モデルの一般化能力を増幅した。
  論文  参考訳（メタデータ） (2023-11-28T14:54:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。