論文の概要: V-tableR1: Process-Supervised Multimodal Table Reasoning with Critic-Guided Policy Optimization
- arxiv url: http://arxiv.org/abs/2604.20755v1
- Date: Wed, 22 Apr 2026 16:44:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-23 15:36:11.234993
- Title: V-tableR1: Process-Supervised Multimodal Table Reasoning with Critic-Guided Policy Optimization
- Title(参考訳): V-tableR1:批判誘導ポリシー最適化によるプロセススーパービジョンマルチモーダルテーブル推論
- Authors: Yubo Jiang, Yitong An, Xin Yang, Abudukelimu Wuerkaixi, Xuxin Cheng, Fengying Xie, Zhiguo Jiang, Cao Liu, Ke Zeng, Haopeng Zhang,
- Abstract要約: マルチモーダル大規模言語モデル(MLLM)から厳密で検証可能な推論を導くプロセス教師付き強化学習フレームワークであるV-tableR1を紹介する。
V-tableR1は、ポリシーVLMによって生成される明示的な視覚的連鎖について、厳密で段階的なフィードバックを提供するために、特別な批評家のVLMを使用している。
V-tableR1は視覚幻覚とショートカットの推測を明示的に罰する。
- 参考スコア(独自算出の注目度): 30.74548183895207
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce V-tableR1, a process-supervised reinforcement learning framework that elicits rigorous, verifiable reasoning from multimodal large language models (MLLMs). Current MLLMs trained solely on final outcomes often treat visual reasoning as a black box, relying on superficial pattern matching rather than performing rigorous multi-step inference. While Reinforcement Learning with Verifiable Rewards could enforce transparent reasoning trajectories, extending it to visual domains remains severely hindered by the ambiguity of grounding abstract logic into continuous pixel space. We solve this by leveraging the deterministic grid structure of tables as an ideal visual testbed. V-tableR1 employs a specialized critic VLM to provide dense, step-level feedback on the explicit visual chain-of-thought generated by a policy VLM. To optimize this system, we propose Process-Guided Direct Alignment Policy Optimization (PGPO), a novel RL algorithm integrating process rewards, decoupled policy constraints, and length-aware dynamic sampling. Extensive evaluations demonstrate that V-tableR1 explicitly penalizes visual hallucinations and shortcut guessing. By fundamentally shifting multimodal inference from black-box pattern matching to verifiable logical derivation, V-tableR1 4B establishes state-of-the-art accuracy among open-source models on complex tabular benchmarks, outperforming models up to 18x its size and improving over its SFT baseline
- Abstract(参考訳): 本稿では,マルチモーダル大規模言語モデル(MLLM)から厳密で検証可能な推論を導くプロセス教師付き強化学習フレームワークであるV-tableR1を紹介する。
現在のMLLMは最終結果のみに基づいて訓練されており、厳密な多段階推論を行うのではなく、表面的なパターンマッチングに依存して、視覚的推論をブラックボックスとして扱うことが多い。
Reinforcement Learning with Verifiable Rewardsは透明な推論の軌跡を強制する可能性があるが、それを視覚領域に拡張することは、抽象論理を連続したピクセル空間に基底付けるという曖昧さによって、依然として深刻な障害となっている。
我々は、テーブルの決定論的グリッド構造を理想的な視覚的テストベッドとして活用することで、この問題を解決する。
V-tableR1は、ポリシーVLMによって生成される明示的な視覚的連鎖について、厳密で段階的なフィードバックを提供するために、特別な批評家のVLMを使用している。
このシステムを最適化するために,プロセス誘導直接アライメントポリシー最適化 (PGPO) を提案する。
広範囲な評価により、V-tableR1は視覚幻覚とショートカット推定を明示的にペナルティ化することが示された。
マルチモーダル推論をブラックボックスパターンマッチングから検証可能な論理導出に根本的にシフトすることにより、V-tableR1 4Bは、複雑な表形式ベンチマーク上のオープンソースモデルの間で最先端の精度を確立し、モデルのサイズを最大18倍にし、SFTベースラインよりも改善する。
関連論文リスト
- Not All Tokens See Equally: Perception-Grounded Policy Optimization for Large Vision-Language Models [38.47027398567909]
Perception-Grounded Policy Optimization (PGPO)は、トークンレベルでのメリットを動的に再評価する、新しいきめ細かなクレジット割り当てフレームワークである。
PGPOは,言語的先行音からの勾配雑音を抑えつつ,視覚的に依存するトークンの学習信号を積極的に増幅することを示す。
理論的および実証的な分析は、PGPOが勾配の分散を効果的に減少させ、訓練の崩壊を防ぎ、頑健で知覚的なマルチモーダル推論のための強力な正則化剤として機能することを確認する。
論文 参考訳(メタデータ) (2026-04-02T09:53:20Z) - Rethinking Token-Level Policy Optimization for Multimodal Chain-of-Thought [73.39221516441624]
マルチモーダル・チェーン・オブ・ソート(CoT)推論は、推論軌道を構築するために大きな視覚言語モデルを必要とする。
既存のReinforcement Learning with Verifiable Rewards (RLVR) 法は、様々な視覚的接地度を区別することなく、CoTを均一に扱う。
本稿では,隠れ状態の類似性に先立って認識を導き,トークンのエントロピーと統合する知覚探索ポリシー最適化(PEPO)を提案する。
論文 参考訳(メタデータ) (2026-03-24T06:38:00Z) - Insight-V++: Towards Advanced Long-Chain Visual Reasoning with Multimodal Large Language Models [65.4947731385794]
基礎画像中心モデルであるInsight-Vから進化した統合多エージェント視覚推論フレームワークを提案する。
空間的時間的推論を強化し、評価ロバスト性を向上させる2つの新しいアルゴリズムST-GRPOとJ-GRPOを導入する。
LLaVA-NeXTやQwen2.5-VLといったベースモデルの実験は、挑戦的な画像とビデオの推論ベンチマーク間で大きなパフォーマンス向上を示している。
論文 参考訳(メタデータ) (2026-03-18T15:28:07Z) - Perception-Aware Multimodal Spatial Reasoning from Monocular Images [57.42071289037214]
単眼画像からの空間的推論は 自律運転には不可欠です
現在のヴィジュアルランゲージモデル(VLM)は、微粒な幾何学的知覚に苦慮している。
本稿では,VLMを明示的な対象中心の接地能力を持つ知覚認識型マルチモーダル推論フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-07T02:05:12Z) - PaLMR: Towards Faithful Visual Reasoning via Multimodal Process Alignment [29.229662966154507]
PaLMRは結果だけでなく、推論プロセス自体も整合するフレームワークです。
Qwen2.5-VL-7Bの実験から,本手法は幻覚の推論を著しく低減し,視覚的推論の忠実度を向上することが示された。
これらの結果から,PaLMRはプロセス整合型マルチモーダル推論への原則的かつ実践的な経路であることが明らかとなった。
論文 参考訳(メタデータ) (2026-02-28T04:33:11Z) - CIR-CoT: Towards Interpretable Composed Image Retrieval via End-to-End Chain-of-Thought Reasoning [93.05917922306196]
Composed Image Retrieval (CIR) は、参照画像と修正テキストから対象画像を見つけることを目的としている。
CIR-CoTは、明示的なChain-of-Thought (CoT)推論を統合するために設計された最初のエンドツーエンド検索指向MLLMである。
論文 参考訳(メタデータ) (2025-10-09T09:41:45Z) - Vad-R1: Towards Video Anomaly Reasoning via Perception-to-Cognition Chain-of-Thought [58.321044666612174]
Vad-R1は、ビデオ異常推論のためのエンドツーエンドのMLLMベースのフレームワークである。
我々は、異常を認識する人間の過程をシミュレートするパーセプション・トゥ・コグニション・チェーン・オブ・ワット(P2C-CoT)を設計する。
また,MLLMの異常推論能力を明示的に動機付ける改良型強化学習アルゴリズムAVA-GRPOを提案する。
論文 参考訳(メタデータ) (2025-05-26T12:05:16Z) - Diffusion Augmented Retrieval: A Training-Free Approach to Interactive Text-to-Image Retrieval [7.439049772394586]
Diffusion Augmented Retrieval (DAR)は、複数の中間表現を生成するフレームワークである。
DARの結果は微調整されたI-TIRモデルと同等だが、チューニングオーバーヘッドは発生しない。
論文 参考訳(メタデータ) (2025-01-26T03:29:18Z) - Cantor: Inspiring Multimodal Chain-of-Thought of MLLM [83.6663322930814]
視覚的コンテキスト獲得と論理的推論の集約は、視覚的推論タスクに取り組む上で重要であると我々は主張する。
我々はCantorと呼ばれる革新的なマルチモーダルCoTフレームワークを提案し、その特徴は知覚決定アーキテクチャである。
提案手法の有効性を実証し,マルチモーダルCoT性能の大幅な向上を示した。
論文 参考訳(メタデータ) (2024-04-24T17:59:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。