論文の概要: VisConf: Quality-Aware Consensus for Best-of-N in Vision-Language Model Reasoning
- arxiv url: http://arxiv.org/abs/2610.24526v1
- Date: Sat, 17 Oct 2026 07:34:47 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 11:59:48.903736
- Title: VisConf: Quality-Aware Consensus for Best-of-N in Vision-Language Model Reasoning
- Title(参考訳): VisConf:ビジョンランゲージモデル推論におけるベストオブNのための品質認識コンセンサス
- Abstract要約: VisConfは、視覚的エンゲージメントと候補校正された自己確信を乗算的に組み合わせた、ロールアウト品質スコアである。
本分析では, 正しい軌道が存在するが, 候補プールでは表現できない場合, 特に大きな利得を示す。
- 参考スコア(独自算出の注目度): 1.418049759769369
- License:
- Abstract: Best-of-N methods improve text-only LLM reasoning by sampling multiple trajectories before selecting an answer. For Vision-Language Models (VLMs), answer frequency and model confidence alone can be insufficient, as sampled generations also vary in their engagement with the visual input. We find that distributional confidence and visual attention are complementary indicators of rollout quality. Each is limited on its own, while trajectories that show strong signals in both are more likely to be correct. Motivated by this, we introduce VisConf, a rollout-quality score that multiplicatively combines visual engagement with candidate-calibrated Self-Certainty, penalizing rollouts that are weak in either signal. We incorporate Rank-Weighted Consensus (RWC), a tuning-free aggregation rule that converts within-question VisConf ranks into answer-level vote weights. Across three VLMs on MathVista, MMMU-Pro, and MMStar, VisConf with RWC consistently outperforms strong BoN baselines. Our analysis shows particularly large gains when correct trajectories are present but underrepresented in the candidate pool.
- Abstract(参考訳): Best-of-Nメソッドは、回答を選択する前に複数の軌跡をサンプリングすることで、テキストのみのLCM推論を改善する。
VLM(Vision-Language Models)では、サンプリングされた世代も視覚入力への関与が異なるため、応答周波数とモデルの信頼性だけでは不十分である。
分布信頼度と視覚的注意力はロールアウト品質の相補的な指標であることがわかった。
それぞれに制限があるが、どちらも強い信号を示す軌道は正しい可能性が高い。
両信号の弱いロールアウトに対して,視覚的エンゲージメントと候補校正された自己確実性を組み合わせた,ロールアウト品質スコアであるVisConfを導入する。
ランク・ウェイト・コンセンサス(RWC)は、VisConf内におけるランクを回答レベルの投票重みに変換するチューニング不要のアグリゲーションルールである。
MathVista、MMMU-Pro、MMStarの3つのVLMにおいて、RWCによるVisConfはBoNベースラインを一貫して上回っている。
本分析では, 正しい軌道が存在するが, 候補プールでは表現できない場合, 特に大きな利得を示す。
関連論文リスト
- PDCR: Perception-Decomposed Confidence Reward for Vision-Language Reasoning [80.94559742826083]
Reinforcement Learning with Verifiable Rewards (RLVR) は伝統的に、粗末で結果に基づく信号に依存している。
近年の研究では,高コストな外部モデルを必要としないステップレベルのガイダンスを提供することで,詳細なモデル固有の信号を提供することで,言語推論のトレーニングを効果的に向上することが示された。
一助文には有効であるが,この大域的な報酬を視覚言語推論(V-L)に適用することは準最適戦略である。
本稿では、報酬構造とタスクの不均一な性質を整合させることにより、この問題を解決するフレームワークであるパーセプション分解信頼回復(PDCR:Perception-Decomposed Confidence Reward)を提案する。
論文 参考訳(メタデータ) (2026-05-13T12:55:18Z) - Instinct vs. Reflection: Unifying Token and Verbalized Confidence in Multimodal Large Models [11.878003218072765]
MLLM(Multimodal Large Language Models)は、様々な知覚や推論タスクにおいて例外的な機能を示す。
二重チャネル信号とチャネル間の整合性を融合して正当性を推定するモノトーン信頼融合フレームワークを提案する。
各種オープンソースおよびクローズドソースMLLMの実験結果から,本手法は信頼性の高い推定値が得られることがわかった。
論文 参考訳(メタデータ) (2026-04-19T06:07:39Z) - Reinforce to Learn, Elect to Reason: A Dual Paradigm for Video Reasoning [17.78591587115095]
Reinforce to Learn, Elect to Reason (RLER) は、信頼できる回答から証拠を得るために学習を分離する二重パラダイムである。
RLERはすべてのベンチマークで最先端を達成し、ベースモデルよりも平均6.3%改善されている。
論文 参考訳(メタデータ) (2026-04-06T03:01:52Z) - Stabilizing Unsupervised Self-Evolution of MLLMs via Continuous Softened Retracing reSampling [19.22335478070254]
MLLM自己進化におけるCSRS(Continuous Softened Retracing ReSampling)を提案する。
具体的には,ロングテール推論経路の探索を拡大するために,アンカーポイントからモデルの再推論を行うRetracing Re-inference Mechanism (RRM)を提案する。
CSRSは,MathVisionなどのベンチマークにおけるQwen2.5-VL-7Bの推論性能を著しく向上することを示した。
論文 参考訳(メタデータ) (2026-04-04T08:52:43Z) - Locally Confident, Globally Stuck: The Quality-Exploration Dilemma in Diffusion Language Models [52.61023005303122]
低信頼度再マッシングは、誘導配列分布のエントロピーを制約しながら、品質のプロキシを改善することを示す。
我々は,デコード時に,この分布をほぼ対象とする簡易なインディペンデント・ハスティングス・サンプリング器を開発した。
論文 参考訳(メタデータ) (2026-04-01T02:01:30Z) - Same Answer, Different Representations: Hidden instability in VLMs [65.36933543377346]
本稿では,内部埋め込みドリフト,スペクトル感度,構造的滑らかさを計測する表現認識・周波数認識評価フレームワークを提案する。
このフレームワークを,SEEDBench,MMMU,POPEデータセットを対象とする最新のビジョン言語モデル(VLM)に適用する。
論文 参考訳(メタデータ) (2026-02-06T12:24:26Z) - Beyond Majority Voting: Towards Fine-grained and More Reliable Reward Signal for Test-Time Reinforcement Learning [12.354777054071379]
テスト時間強化学習は、多数決結果を擬似ラベルとして使用することにより、注釈付きデータへの依存を軽減する。
この投票戦略は、しばしば確認バイアスを引き起こし、スパース報酬に悩まされ、全体的なパフォーマンスが制限される。
これらの問題に対処するために,サブグループ固有のステップワイド信頼度重み付き擬似ラベル推定(SCOPE)を提案する。
論文 参考訳(メタデータ) (2025-12-17T07:21:54Z) - Enhancing the Outcome Reward-based RL Training of MLLMs with Self-Consistency Sampling [90.87033586963828]
マルチモーダル大言語モデル(MLLM)のステップ・バイ・ステップ推論を洗練させる手段としては,アウトカム・リワード強化学習(RL)が一般的であり,ますます重要になっている。
この問題を修正するために,自己整合サンプリング(SCS)を提案する。
Qwen2.5-VL-7B-インストラクトに基づいて、SCSは、無視できる余分な計算を伴う6つのマルチモーダルベンチマークにおいて、最大7.7ポイントの精度を向上する。
論文 参考訳(メタデータ) (2025-11-13T18:59:57Z) - Reinforcing Video Reasoning with Focused Thinking [65.85683941058916]
本稿では,集中的思考と深い報酬の粒度で視覚的推論を強化する新しいフレームワークであるTW-GRPOを提案する。
具体的には,高情報密度のトークンを優先するトークン重み付け機構を用いる。
また,シングルチョイスからマルチチョイスQAタスクにシフトすることで,RLトレーニングを再構築する。
論文 参考訳(メタデータ) (2025-05-30T15:42:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。