論文の概要: ReSight-SMC: Two-Stage Power Sampling via Island SMC with Visual Scouts

• arxiv url: http://arxiv.org/abs/2609.34905v1
• Date: Mon, 28 Sep 2026 11:09:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:46:10.060108
• Title: ReSight-SMC: Two-Stage Power Sampling via Island SMC with Visual Scouts
• Title（参考訳）: ReSight-SMC:アイランドSMCによる2段階パワーサンプリングとビジュアルスカウト
• Abstract要約: LVLM推論のための検証不要な2段階パワーサンプリングであるReSight-SMCを紹介する。 本稿では,ReSight-SMCが推理と知覚の両ベンチマーク群に対して,Power-SMCよりも強力な集約性能を実現することを示す。
• 参考スコア（独自算出の注目度）: 7.746644823524146
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Power sampling has emerged as a training-free approach to LLM reasoning, eliciting capabilities comparable to reinforcement learning by sharpening the model distribution over complete responses. Despite this success, power sampling remains underexplored in large vision-language models (LVLMs). We transfer Power-SMC to LVLM decoding by defining a sequence-power target conditioned on both the image and the prompt. This direct transfer provides a strong training-free baseline, but leaves two aspects of finite-particle multimodal inference unaddressed. At the particle level, global resampling can collapse genealogies, while particle-based power sampling does not diversify trajectories through distinct visual cues in multimodal decoding, limiting exploration under a finite particle budget. At the answer level, sequence-level sharpening makes distinct reasoning trajectories compete even when they support the same answer. We introduce ReSight-SMC, a verifier-free two-stage power sampler for LVLM inference. Its first stage uses ancestry-isolated SMC islands to preserve independent trajectory families and routes a bounded set of prefix-conditioned visual scouts to prefix-relevant image regions while discouraging redundant overlap. Each scout temporarily increases attention to the image tokens and emphasizes its routed region. Exact importance correction preserves the base LVLM sequence-power target. The second stage aggregates terminal importance mass by canonical answer, powers the answer marginal, and samples an answer together with a supporting trajectory. Across four LVLM backbones and five benchmarks, ReSight-SMC achieves stronger aggregate performance than Power-SMC over both the reasoning and perception benchmark groups. Without post-training, it remains competitive in aggregate with backbone-matched models trained using reinforcement learning.
• Abstract（参考訳）: パワーサンプリングは、LLM推論に対するトレーニング不要なアプローチとして現れ、完全応答上のモデル分布を鋭くすることで強化学習に匹敵する能力を引き出す。 この成功にもかかわらず、大規模な視覚言語モデル (LVLM) では電力サンプリングが過小評価されている。 我々は、画像とプロンプトの両方に条件付きシーケンスパワーターゲットを定義することで、Power-SMCをLVLMデコーディングに転送する。 この直接移動は、強い訓練のないベースラインを提供するが、有限粒子マルチモーダル推論の2つの側面を残している。 粒子レベルでは、大域的な再サンプリングは系譜を崩壊させるが、粒子ベースのパワーサンプリングは多モード復号法において異なる視覚的手がかりを通じて軌道を多様化せず、有限の粒子予算の下での探索を制限する。 答えレベルでは、シーケンスレベルのシャープ化は、同じ答えをサポートする場合でも、明確な推論トラジェクトリが競合する。 LVLM推論のための検証不要な2段階パワーサンプリングであるReSight-SMCを紹介する。 その第1段階は、系統分離されたSMC島を用いて、独立した軌道系を保存し、重複を防止しつつ、プレフィックス条件付き視覚スカウトの束縛されたセットをプレフィックス関連画像領域にルートする。 各スカウトは一時的に画像トークンへの注意を高め、ルートされた領域を強調する。 特別な重要度補正は、ベースLVLMシークエンスパワーターゲットを保存する。 第2段階は、終末重要質量を正準解で集約し、答の限界を握り、支持軌道と共に答えをサンプリングする。 4つのLVLMバックボーンと5つのベンチマークにまたがって、ReSight-SMCは、推論と知覚の両方のベンチマークグループよりもPower-SMCよりも強力な集約性能を達成する。 ポストトレーニングなしでは、強化学習を用いてトレーニングされたバックボーンマッチングモデルと競争力がある。

関連論文リスト

• AdaVSkip: Adaptive Visual Token Skipping Across Layers For Efficient MLLMs Inference [14.50173720268662]
  マルチモーダル・大規模言語モデル(MLLM)は、すべてのトランスフォーマー層にまたがる多数の視覚トークンを処理するために、かなりの計算を必要とする。 本稿では,AdaVSkipを提案する。AdaVSkipは各層に2つの軽量ルータを装備し,視覚トークンが通過するか否かを独立に判断する。 AdaVSkipは、計算量を大幅に減らしながら、強いタスク性能を維持している。
  論文  参考訳（メタデータ） (2026-09-14T07:07:51Z)
• Reinforcing Structured Chain-of-Thought for Video Understanding [49.3086326382764]
  概要駆動強化学習(SDRL)を紹介する。 SDRLは、Supervised Fine-Tuning (SFT)の必要性を回避したシングルステージのRLフレームワークである。 提案手法は、7つの公開ビデオQAデータセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2026-03-26T22:11:14Z)
• Self-Rewarding Sequential Monte Carlo for Masked Diffusion Language Models [58.946955321428845]
  本研究は自己回帰型モンテカルロ(SMC)を提示する。 提案アルゴリズムは,既存のMDLMのほとんどが信頼性に基づくサンプリング戦略に依存している点に起因している。 粒子重み付けのための自己回帰信号として軌道レベルの信頼性を導入する。
  論文  参考訳（メタデータ） (2026-02-02T09:21:45Z)
• Enhancing the Outcome Reward-based RL Training of MLLMs with Self-Consistency Sampling [90.87033586963828]
  マルチモーダル大言語モデル(MLLM)のステップ・バイ・ステップ推論を洗練させる手段としては,アウトカム・リワード強化学習(RL)が一般的であり,ますます重要になっている。 この問題を修正するために,自己整合サンプリング(SCS)を提案する。 Qwen2.5-VL-7B-インストラクトに基づいて、SCSは、無視できる余分な計算を伴う6つのマルチモーダルベンチマークにおいて、最大7.7ポイントの精度を向上する。
  論文  参考訳（メタデータ） (2025-11-13T18:59:57Z)
• FreeRet: MLLMs as Training-Free Retrievers [21.04237443940747]
  FreeRetは、任意のMLLMを2段階のレトリバーに変換するプラグイン・アンド・プレイフレームワークである。 MMEBとMMEB-V2のベンチマークでは、FreeRetは何百万ものペアでトレーニングされたモデルよりも大幅に優れています。
  論文  参考訳（メタデータ） (2025-09-29T11:28:42Z)
• Satori: Reinforcement Learning with Chain-of-Action-Thought Enhances LLM Reasoning via Autoregressive Search [57.28671084993782]
  大規模言語モデル(LLM)は、様々な領域にまたがる顕著な推論能力を示している。 近年の研究では、テスト時間計算の増加はLLMの推論能力を高めることが示されている。 そこで我々は,1)COAT推論形式を内部化するための小規模な形式調整段階,2)強化学習を活用した大規模自己改善段階を提案する。
  論文  参考訳（メタデータ） (2025-02-04T17:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。