Fugu-MT 論文翻訳(概要): PEA-DPO: Perception-Enhanced Alignment Direct Preference Optimization for MLLMs Alignment

論文の概要: PEA-DPO: Perception-Enhanced Alignment Direct Preference Optimization for MLLMs Alignment

arxiv url: http://arxiv.org/abs/2608.19598v1
Date: Thu, 20 Aug 2026 03:35:07 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-21 20:28:51.447817
Title: PEA-DPO: Perception-Enhanced Alignment Direct Preference Optimization for MLLMs Alignment
Title（参考訳）: PEA-DPO:MLLMアライメントに対する知覚強調アライメント直接参照最適化
Abstract要約: 視覚不感を克服するために,知覚強調適応DPO(PEA-DPO)を提案する。 PEA-DPOは視覚的不感度を効果的に軽減し、より強力なマルチモーダルアライメントを実現し、幻覚を著しく減少させる。 PEA-DPOは視覚的不感度を効果的に軽減し、より強力なマルチモーダルアライメントを実現し、幻覚を著しく減少させる。
参考スコア（独自算出の注目度）: 34.498065511310195
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Direct Preference Optimization (DPO) has emerged as an effective approach for aligning large language models (LLMs) with human preferences. However, its adaptation to multimodal settings remains unexplored. Through representational analysis, we identify a key limitation in multimodal preference optimization, which we term visual insensitivity: models often fail to distinguish between images and those with critical visual context removed. Our theoretical analysis further uncovers two manifestations of this problem, namely Across-Image Insensitivity and Within-Image Insensitivity. To address these challenges, we propose Perception-Enhanced Alignment DPO (PEA-DPO), a framework for multimodal LLMs alignment, which explicitly leverages visual preference signals to overcome visual insensitivity. We further provide a theoretical analysis demonstrating that PEA-DPO provably mitigates both failure modes. Empirical results demonstrate that PEA-DPO enhances sensitivity to visual context while preserving the language modeling capacity of the base model. Evaluations across three hallucination benchmarks using MLLMs of varying scales show that PEA-DPO effectively mitigates visual insensitivity, achieves stronger multimodal alignment, and substantially reduces hallucinations.
Abstract（参考訳）: DPO(Direct Preference Optimization)は、大規模言語モデル(LLM)と人間の嗜好を整合させる効果的なアプローチとして登場した。しかし、マルチモーダル設定への適応は未定である。表現分析により,視覚的不感度という,視覚的嗜好の最適化における重要な限界を同定する。理論的解析により、この問題の2つの徴候、すなわちAcross-Image InsensitivityとInside-Image Insensitivityが明らかになった。これらの課題に対処するために,視覚的嗜好信号を明示的に利用して視覚的不感を克服する多モードLCMアライメントフレームワークであるPerception-Enhanced Alignment DPO (PEA-DPO)を提案する。さらに,PEA-DPOが両障害モードを確実に緩和することを示す理論的解析を行った。実験結果から,PEA-DPOはベースモデルの言語モデリング能力を維持しながら,視覚的コンテキストに対する感受性を高めることが示された。 PEA-DPOは視覚的不感度を効果的に軽減し、より強力なマルチモーダルアライメントを実現し、幻覚を著しく低減する。

関連論文リスト

P$^2$-DPO: Grounding Hallucination in Perceptual Processing via Calibration Direct Preference Optimization [55.74731799669337]
幻覚は近年、LVLM(Large Vision-Language Models)において大きな研究の注目を集めている。直接選好最適化(DPO)は、人間が提供した修正選好から直接学習することを目的としている。既存の選好ペアは視覚に依存しないことが多く、その本質的に非政治的な性質は、モデル学習を導く上での有効性を制限している。本稿では、モデルが独自の選好ペアから生成し学習する新しい訓練パラダイムである知覚処理直接選好最適化(P$2$-DPO)を提案する。
論文参考訳（メタデータ） (2026-06-02T09:22:53Z)
MoD-DPO: Towards Mitigating Cross-modal Hallucinations in Omni LLMs using Modality Decoupled Preference Optimization [4.088161686930475]
オームニLLMにおけるモーダリティグラウンドリングを改善するためのモーダリティデカップリング直接選好最適化(MoD-DPO)を提案する。 MoD-DPOは、無関係なモダリティにおける汚職への不変性、および関連するモダリティにおける摂動に対する感受性を明示的に強制するモダリティ対応正規化用語を導入している。実験により、MoD-DPOは認識精度と幻覚抵抗を一貫して改善し、従来の優先最適化基準よりも優れていた。
論文参考訳（メタデータ） (2026-03-03T17:50:24Z)
Importance Sampling for Multi-Negative Multimodal Direct Preference Optimization [68.64764778089229]
MISP-DPOはマルチモーダルDPOに複数の意味的に多様な負の画像を組み込む最初のフレームワークである。提案手法は,CLIP空間にプロンプトと候補画像を埋め込んで,意味的偏差を解釈可能な因子に発見するためにスパースオートエンコーダを適用する。 5つのベンチマーク実験により、MISP-DPOは従来手法よりも常にマルチモーダルアライメントを改善することが示された。
論文参考訳（メタデータ） (2025-09-30T03:24:09Z)
Mitigating Hallucination Through Theory-Consistent Symmetric Multimodal Preference Optimization [69.05600758833471]
マルチモーダル大言語モデル(MLLM)における幻覚を緩和するための効果的なアプローチとして、直接選好最適化(DPO)が登場している。我々は、直接選好監督(応答対)を伴う対称選好学習を行うシンメトリ・マルチモーダル選好最適化(SymMPO)を提案する。従来の順序的嗜好学習に加えて、SymMPOは、左右の選好ペア間の選好ギャップを定量的に調節する、選好マージン整合性損失を導入している。
論文参考訳（メタデータ） (2025-06-13T12:29:15Z)
Zooming from Context to Cue: Hierarchical Preference Optimization for Multi-Image MLLMs [74.74767980885758]
マルチレベル優先最適化フレームワークであるContext-to-Cue Direct Preference Optimization (CcDPO)を提案する。 CcDPOは、シーケンシャルなコンテキストからローカルな詳細まで、視覚的なヒントをズームすることで、マルチイメージ設定でのイメージ単位の知覚を強化する。実験により、CcDPOは幻覚を著しく減少させ、一貫した性能向上をもたらすことが示された。
論文参考訳（メタデータ） (2025-05-28T14:24:02Z)
AdaViP: Aligning Multi-modal LLMs via Adaptive Vision-enhanced Preference Optimization [26.03204301595711]
本稿では,2つの重要なイノベーションを通じて制限に対処する適応型視覚強調最適化(AdaViP)を提案する。視覚に基づく選好ペア構築は、複数の視覚基盤モデルを統合し、画像から重要な視覚要素を戦略的に除去する。 AdaViP-7Bは、Object HalBench上でそれぞれ応答レベルと言及レベルの幻覚を93.7%、96.4%減少させる。
論文参考訳（メタデータ） (2025-04-22T06:19:38Z)
CHiP: Cross-modal Hierarchical Direct Preference Optimization for Multimodal LLMs [107.21334626890713]
MLLM(Multimodal Large Language Models)は、その優れた能力にもかかわらず、幻覚に苦しむ。本稿では,これらの制約に対処するクロスモーダル階層型直接選好最適化(CHiP)を提案する。定量的および定性的な分析によってCHiPを評価し,幻覚の低減効果を複数のベンチマークで実証した。
論文参考訳（メタデータ） (2025-01-28T02:05:38Z)
mDPO: Conditional Preference Optimization for Multimodal Large Language Models [52.607764280030196]
直接選好最適化(DPO)は,大規模言語モデル(LLM)のアライメントに有効な手法であることが示されている。最近の研究は、DPOをマルチモーダルシナリオに適用しようと試みているが、一貫した改善を達成することは困難である。画像の嗜好を最適化することで、言語のみの嗜好の過度な優先順位付けを防止するマルチモーダルDPOであるmDPOを提案する。
論文参考訳（メタデータ） (2024-06-17T17:59:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。