論文の概要: PEAR: Adaptive Advantage Reshaping for Perception and Exploration in Large Vision-Language Models
- arxiv url: http://arxiv.org/abs/2610.32216v1
- Date: Fri, 23 Oct 2026 06:14:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.40644
- Title: PEAR: Adaptive Advantage Reshaping for Perception and Exploration in Large Vision-Language Models
- Title(参考訳): PEAR:大規模視覚言語モデルにおける知覚と探索のための適応的アドバンテージ再構成
- Abstract要約: マルチモーダル推論における知覚と探索を改善するための適応的有利な変換法であるPEARを提案する。
PEARは基底信号として視覚的依存を保ち、エントロピーに基づく探索ゲインを高エントロピー位置でのみ追加する。
Qwen2.5-VL-3B/7B実験の結果,PEARは評価ベースラインの中で最も高い平均性能を示した。
- 参考スコア(独自算出の注目度): 46.349810851481756
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Effective multimodal reasoning requires a model to reliably utilize visual information while sufficiently exploring diverse reasoning paths. To achieve this goal, prior work combines visual dependency and token entropy to reshape sequence-level advantages, but scaling the contribution of token entropy by visual dependency can leave high-entropy tokens with low visual dependency underweighted, despite their important role in reasoning exploration. To address this limitation, we propose PEAR, an adaptive advantage reshaping method for improving perception and exploration in multimodal reasoning. PEAR retains visual dependency as the base signal and adds an entropy-based exploration gain only at high-entropy positions, with lower visual dependency leading to a larger additional gain. The fused signal is then mapped to positive token-level weights that reshape the sequence-level advantage. Experiments on Qwen2.5-VL-3B/7B show that PEAR achieves the highest average performance among evaluated baselines across multimodal reasoning benchmarks, alongside leading results on textual reasoning and general multimodal benchmarks.
- Abstract(参考訳): 効果的なマルチモーダル推論は、多様な推論経路を十分に探索しながら、視覚情報を確実に活用するモデルを必要とする。
この目標を達成するために、事前の作業は、視覚的依存とトークンのエントロピーを組み合わせてシーケンスレベルの利点を再形成するが、視覚的依存によるトークンのエントロピーの貢献を拡大することは、推論探索において重要な役割にもかかわらず、低い視覚的依存を持つ高エントロピートークンを過度に残すことができる。
この制限に対処するため,マルチモーダル推論における知覚と探索を改善する適応的有利な変換法であるPEARを提案する。
PEARは基底信号として視覚的依存を保ち、エントロピーに基づく探索のゲインを高エントロピー位置でのみ追加し、視覚的依存の低さによりより大きなゲインをもたらす。
その後、融合した信号は正のトークンレベルの重みにマッピングされ、シーケンスレベルの優位性を再形成する。
Qwen2.5-VL-3B/7Bの実験では、PEARは、テキスト推論と一般的なマルチモーダルベンチマークの先行結果とともに、マルチモーダル推論ベンチマークで評価されたベースラインの中で、最高の平均性能を達成している。
関連論文リスト
- Beyond Entropy: Self-Diagnostic Multi-Role Token Optimization for Video Reasoning [82.12877400975769]
我々は、信頼性の高いトークン選択と適応的な対実的介入を共同で最適化する、共進化的フレームワークであるDyCPOを紹介する。
複雑なビデオ推論と一般的なビデオ理解ベンチマークの実験は、一貫したパフォーマンス改善を示している。
論文 参考訳(メタデータ) (2026-10-02T14:48:40Z) - Reinforcing Multimodal Reasoning via Token-Level Perception-Grounded Advantage Estimation [25.240854955272912]
トークンレベルの認識-グラウンドド・アドバンスト推定(TPAE)を提案する。
TPAEは、各トークンの統計的一貫性を正しいロールアウトの視覚-エントロピーパターンと比較することでトークンレベルの利点を推定する。
様々なRLVRフレームワークに統合可能な、きめ細かい監視信号を生成する。
論文 参考訳(メタデータ) (2026-09-30T07:29:00Z) - Entropy Is Not Enough: Unlocking Effective Reinforcement Learning for Visual Reasoning via Vision-Anchored Token Selection [68.2118210672375]
VEPO(Vision-Entropy token-selection for Policy Optimization)は,視覚感度とトークンエントロピーを明示的に統合した効果的なRLフレームワークである。
実験の結果,VEPOの先行性能は7Bスケールで2.28点,3Bスケールで3.15点,エントロピーのみのベースラインを著しく上回った。
論文 参考訳(メタデータ) (2026-06-02T17:26:55Z) - Not All Tokens See Equally: Perception-Grounded Policy Optimization for Large Vision-Language Models [38.47027398567909]
Perception-Grounded Policy Optimization (PGPO)は、トークンレベルでのメリットを動的に再評価する、新しいきめ細かなクレジット割り当てフレームワークである。
PGPOは,言語的先行音からの勾配雑音を抑えつつ,視覚的に依存するトークンの学習信号を積極的に増幅することを示す。
理論的および実証的な分析は、PGPOが勾配の分散を効果的に減少させ、訓練の崩壊を防ぎ、頑健で知覚的なマルチモーダル推論のための強力な正則化剤として機能することを確認する。
論文 参考訳(メタデータ) (2026-04-02T09:53:20Z) - Rethinking Token-Level Policy Optimization for Multimodal Chain-of-Thought [73.39221516441624]
マルチモーダル・チェーン・オブ・ソート(CoT)推論は、推論軌道を構築するために大きな視覚言語モデルを必要とする。
既存のReinforcement Learning with Verifiable Rewards (RLVR) 法は、様々な視覚的接地度を区別することなく、CoTを均一に扱う。
本稿では,隠れ状態の類似性に先立って認識を導き,トークンのエントロピーと統合する知覚探索ポリシー最適化(PEPO)を提案する。
論文 参考訳(メタデータ) (2026-03-24T06:38:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。