論文の概要: Learn to Think: Improving Multimodal Reasoning through Vision-Aware Self-Improvement Training

• arxiv url: http://arxiv.org/abs/2605.11931v1
• Date: Tue, 12 May 2026 10:44:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.803437
• Title: Learn to Think: Improving Multimodal Reasoning through Vision-Aware Self-Improvement Training
• Title（参考訳）: 視覚的自己改善トレーニングによるマルチモーダル推論の改善
• Abstract要約: 多モーダル大規模言語モデル(MLLM)の推論能力を改善するために、明示的推論トレースを用いた後学習が一般的である。 MLLMのマルチモーダル推論を強化するための視覚対応型自己改善学習フレームワークであるVISTAを提案する。
• 参考スコア（独自算出の注目度）: 82.17582358979884
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-training with explicit reasoning traces is common to improve the reasoning capabilities of Multimodal Large Language Models (MLLMs). However, acquiring high-quality reasoning traces is often costly and time-consuming. Hence, the self-improvement paradigm has emerged, enabling MLLMs to self-generate reasoning traces for training without external supervision. Despite its effectiveness, we reveal two shortcomings in the self-improvement training of MLLMs: 1) data imbalance, where simple samples are over-trained, but the challenging yet crucial samples are under-trained; 2) language prior bias, where MLLMs overly rely on linguistic priors while neglecting the visual cues. To this end, we propose VISTA, a vision-aware self-improvement training framework for enhancing the multimodal reasoning of MLLMs. Specifically, VISTA first introduces a prefix resampling strategy to reuse the partial correct reasoning traces for efficient data collection, and then designs a vision-aware attention score to quantify the model's focus on visual information. Extensive experiments show that VISTA can be applied to various post-training scenarios, i.e., supervised fine-tuning and preference learning, and effectively enhances the multimodal reasoning performance across various MLLMs and tasks, e.g., bringing up to +13.66% average performance gains for Qwen2.5-VL-3B-Instruct.
• Abstract（参考訳）: 明示的な推論トレースによるポストトレーニングは、MLLM(Multimodal Large Language Models)の推論能力を改善するために一般的である。 しかし、高品質な推論トレースを取得することは、しばしばコストと時間を要する。 そのため、自己改善パラダイムが出現し、MLLMは外部の監督なしにトレーニングのための推論トレースを自己生成することが可能になった。 MLLMの自己改善訓練における2つの欠点を明らかにする。 1) 単純なサンプルを過度に訓練するが、難しいが重要なサンプルを過度に訓練するデータ不均衡。 2) 言語優先バイアスでは,MLLMは視覚的手がかりを無視しながら,言語優先に過度に依存している。 そこで本稿では,MLLMのマルチモーダル推論を強化するための,視覚対応型自己改善学習フレームワークであるVISTAを提案する。 具体的には、VISTAはまず、効率的なデータ収集のために部分的正しい推論トレースを再利用するためのプレフィックス再サンプリング戦略を導入し、その後、視覚情報に対するモデルの焦点を定量化するために視覚認識の注意スコアを設計する。 広範囲な実験により、VISTAは様々な訓練後のシナリオ、すなわち教師付き微調整と嗜好学習に適用でき、Qwen2.5-VL-3B-インストラクトの平均性能が+13.66%に達するような様々なMLLMやタスクのマルチモーダル推論性能を効果的に向上できることが示された。

関連論文リスト

• From Seeing to Thinking: Decoupling Perception and Reasoning Improves Post-Training of Vision-Language Models [66.95781712577315]
  視覚言語モデル(VLM)における知覚と推論の相互作用について、3つの異なる訓練段階に分解して検討する。 提案手法を用いてトレーニングしたモデルでは,20.8%の精度で推論精度が1.5%向上した。
  論文  参考訳（メタデータ） (2026-05-19T17:58:40Z)
• Reflect to Inform: Boosting Multimodal Reasoning via Information-Gain-Driven Verification [55.357038267439684]
  Visual Re-Examination (VRE)は、MLLMが視覚的な入力を追加することなく推論中に自律的に視覚的イントロスペクションを実行することができる自己進化型トレーニングフレームワークである。 VREは推論精度と知覚信頼性を継続的に改善し、特にロングチェーン環境では幻覚を著しく低減する。
  論文  参考訳（メタデータ） (2026-03-27T12:22:13Z)
• Do MLLMs Really See It: Reinforcing Visual Attention in Multimodal LLMs [55.61018839017648]
  CoT(Chain-of- Thought)推論は、複雑な推論タスクにおいて、MLLM(Multimodal large language model)を大幅に改善した。 既存のアプローチは、主に長いテキスト推論軌道に依存し、安定した視覚的注意ポリシーを学ぶための限られたメカニズムを提供する。 地域レベルの視覚的注意に基づく報酬を導入する強化学習フレームワークを用いて訓練された視覚的推論モデルであるSAYOを提案する。
  論文  参考訳（メタデータ） (2026-02-09T03:33:23Z)
• Perception Before Reasoning: Two-Stage Reinforcement Learning for Visual Reasoning in Vision-Language Models [33.78309915588303]
  強化学習(RL)は、大規模言語モデル(LLM)の推論能力を引き出すのに非常に有効であることが証明されている。 視覚言語モデル(VLM)の知覚能力と推論能力を両立させる2段階強化学習フレームワークを提案する。 提案した2段階強化学習プロセスの後,視覚言語モデルであるPeBR-R1を得た。
  論文  参考訳（メタデータ） (2025-09-16T12:51:11Z)
• Perception-R1: Advancing Multimodal Reasoning Capabilities of MLLMs via Visual Perception Reward [77.34936657745578]
  本稿では,MLLMに視覚内容の正確な知覚を促す新しい視覚認識報酬を導入するPerception-R1を提案する。 本稿では,Perception-R1が1,442のトレーニングデータのみを用いて,ほとんどのベンチマークで最先端のパフォーマンスを実現することを示す。
  論文  参考訳（メタデータ） (2025-06-08T16:48:42Z)
• Evaluating Linguistic Capabilities of Multimodal LLMs in the Lens of Few-Shot Learning [15.919493497867567]
  本研究では,VALSEベンチマークを用いたマルチモーダル大規模言語モデル(MLLM)の性能評価を目的とした。 我々は,モデルサイズや事前学習データセットの異なる最先端MLLMの包括的評価を行った。
  論文  参考訳（メタデータ） (2024-07-17T11:26:47Z)
• VILA: On Pre-training for Visual Language Models [74.08039416548209]
  ステップ・バイ・ステップ制御可能な比較によるVLM事前学習の設計オプションについて検討した。 私たちは、最先端のモデルよりも一貫して優れたVisual LanguageモデルファミリであるVILAを構築します。
  論文  参考訳（メタデータ） (2023-12-12T18:58:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。