論文の概要: Grounding Multimodal Reasoning with Evidence-Ablated Negatives
- arxiv url: http://arxiv.org/abs/2610.39237v1
- Date: Thu, 29 Oct 2026 02:54:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 00:29:51.118248
- Title: Grounding Multimodal Reasoning with Evidence-Ablated Negatives
- Title(参考訳): Evidence-Ablated Negatives を用いた接地型マルチモーダル推論
- Abstract要約: 検証可能な報酬(RLVR)による強化学習は,マルチモーダル推論を改善する強力なツールとなっている。
標準結果監視は、言語前処理やデータセットのショートカットを利用して肯定的な報酬を受けることができるため、クレジット割り当ての不明瞭さに悩まされる。
これは、効果的な負の反応は、抑制すべきショートカットを露呈しながら、現在のポリシーの下では検証可能であるべきであるため、高品質な負の反応を批判する。
本稿では、EVIDence-Ablated Negativesを利用した多モーダル強化学習フレームワークEVANを提案する。
- 参考スコア(独自算出の注目度): 51.32412577968305
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reinforcement learning with verifiable rewards (RLVR) has become a powerful tool for improving multimodal reasoning. However, standard outcome supervision suffers from credit assignment ambiguity, as a model may receive positive rewards by exploiting language priors or dataset shortcuts rather than grounding its reasoning in the requisite visual evidence. This makes high-quality negative responses critical, since effective negatives should remain plausible under the current policy while exposing the shortcut that should be suppressed. In this paper, we propose EVAN, a multimodal reinforcement learning framework utilizing EVidence-Ablated Negatives to train LMMs against their own language-prior failures. EVAN first identifies highly visually dependent examples using a scaled image information gain metric and preserves data diversity with a mixed-ranking strategy. It then constructs evidence-ablated images by masking the most discriminative image patches, eliciting plausible but visually ungrounded responses from the current policy. During policy optimization, these negative responses are incorporated as bounded auxiliary signals under the clean image, penalizing shortcut learning while maintaining RL stability. Experiments across challenging multimodal reasoning benchmarks demonstrate that EVAN mitigates modality imbalance and improves over strong RLVR baselines. Our code is available at https://github.com/DawnLIU35/EVAN.git.
- Abstract(参考訳): 検証可能な報酬(RLVR)による強化学習は,マルチモーダル推論を改善する強力なツールとなっている。
しかし、標準的な結果監視は信用割当の曖昧さに悩まされており、モデルは必要な視覚的証拠に推論を基礎づけるのではなく、言語先行やデータセットのショートカットを利用して肯定的な報酬を受け取ることができる。
これは、効果的な負の反応は、抑制すべきショートカットを露呈しながら、現在のポリシーの下では検証可能であるべきであるため、高品質な負の反応を批判する。
本稿では、EVidence-Ablated Negativesを利用した多モーダル強化学習フレームワークEVANを提案する。
EVANは、まず、スケールされた画像情報ゲインメトリックを使用して、高度に視覚的に依存する例を特定し、混合戦略でデータの多様性を保存する。
次に、最も差別的なイメージパッチを隠蔽し、現在のポリシーから、可視だが視覚的に見当たらない応答を誘発することで、エビデンス対応の画像を構築する。
ポリシー最適化中、これらの負の応答はクリーンな画像の下に有界補助信号として組み込まれ、RL安定性を維持しながらショートカット学習をペナルティ化する。
挑戦的なマルチモーダル推論ベンチマークによる実験では、EVANはモダリティの不均衡を緩和し、強力なRLVRベースラインよりも改善することを示した。
私たちのコードはhttps://github.com/DawnLIU35/EVAN.git.comで公開されています。
関連論文リスト
- Uncovering Shortcut Amplification in Video RLVR through the Lens of Perceptual Uncertainty Collapse [58.43146242346935]
検証可能な報酬付き強化学習(RLVR)は、LMM(Large Multimodal Models)のビデオ推論能力を高めるための効果的な訓練後パラダイムとして登場した。
結果レベルの最適化は望ましくないショートカット増幅効果を導入できることを示す。
本稿では,2つの相補的な分布信号でポリシー更新を制御する自己蒸留フレームワークであるBifocal Self-distillation Policy Optimization (BSPO)を提案する。
論文 参考訳(メタデータ) (2026-10-27T13:26:13Z) - Beyond Saying Less: Fine-Grained Alignment for Informative and Faithful Vision-Language Models [71.46915245859357]
物体幻覚は、大きな視覚言語モデルにとって依然として大きな課題である。
本稿では,データレベルでの高密度報酬信号と,アルゴリズムレベルでの正確な信用割当を結合する微粒化アライメントフレームワークを提案する。
本手法は, 識別評価において, 顕著な性能向上を図りながら, 生成タスクにおける高情報かつ忠実な記述を生成する。
論文 参考訳(メタデータ) (2026-09-28T14:37:33Z) - AffectOmni: RL-Verifiable People-Centric Grounded Affective Reasoning for Social and Art-Related Scenes [59.134503227559634]
マルチモーダル大言語モデル(MLLM)は,VQAとシーン理解において高い性能を発揮する。
モデルは、マイクロ表現やボディランゲージのような人中心の手がかりを無視しながら、正しい答えを予測できる。
本稿では、感情的推論を検証可能なフレームワークであるAffect Omniを提案する。
論文 参考訳(メタデータ) (2026-08-24T11:25:04Z) - DUEL: Adversarial Self-Play for Multimodal Reasoning [16.61891948648537]
視覚言語モデル(VLM)の推論能力向上のための効果的なパラダイムとして強化学習(RL)が登場した。
本稿では,同じ事前学習VLMから生じる2つのポリシー間の対立的相互作用から,監督が出現する自己進化的ポストトレーニングフレームワークDUELを提案する。
実験によると、DUELは人間のアノテーション、外部報酬モデル、画像編集ツールを使わずに、視覚的推論と堅牢な識別を一貫して改善している。
論文 参考訳(メタデータ) (2026-05-24T00:38:26Z) - ResRL: Boosting LLM Reasoning via Negative Sample Projection Residual Reinforcement Learning [60.411097231348975]
RLVRによる強化学習は大規模言語モデル(LLM)の推論を強化する
本稿では,正と負の応答間で類似した意味分布を分離する,正のサンプル投影Residual Reinforcement Learning (ResRL)を提案する。
論文 参考訳(メタデータ) (2026-05-01T03:57:44Z) - The Surprising Effectiveness of Negative Reinforcement in LLM Reasoning [37.13807960501503]
検証可能な報酬を伴う強化学習(RLVR)は、言語モデル(LM)のトレーニングに有望なアプローチである
我々は学習信号を正しい応答の強化と正負の正負の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の正の
我々は、NSRが不正確な世代を抑え、確率質量を他の可算候補に向けて再分配することで、モデルの以前の信念に導かれることを示す。
論文 参考訳(メタデータ) (2025-06-02T06:10:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。