論文の概要: ST-Veto: Spatio-Temporal Token Veto for Diffusion MLLMs via Taylor Prediction and Visual Grounding

• arxiv url: http://arxiv.org/abs/2607.17884v1
• Date: Mon, 20 Jul 2026 12:35:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.614629
• Title: ST-Veto: Spatio-Temporal Token Veto for Diffusion MLLMs via Taylor Prediction and Visual Grounding
• Title（参考訳）: ST-Veto:テイラー予測と視覚接地による拡散MLLM用時空間トケベット
• Abstract要約: 視覚言語モデル(VLM)は、チェーン・オブ・ソート(Chain-of-Thought)による強力な推論を実現するが、高いシーケンシャル世代コスト、エラーの蓄積、限定的な自己補正を実現する。 本研究では,各拡散段階における全てのトークン位置を観測する能力を活用する,トレーニング不要なスポーティ・テンポラルトークンベト (ST-Veto) を提案する。 ST-Vetoは標準の復号法やVLMの推論手法を一貫して上回り、トレーニングや生成コストを伴わずに9%の精度向上を実現している。
• 参考スコア（独自算出の注目度）: 8.353470785473425
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision Language Models (VLMs) achieve strong reasoning with Chain-of-Thought (CoT) prompting but incur high sequential-generation cost, error accumulation, and limited self-correction. Diffusion Multimodal Large Language Models (dMLLMs) unmask tokens in an order-agnostic process, improving efficiency and enabling iterative refinement, yet their reasoning and how to enhance it remain underexplored. We propose a training-free method, Spatio-Temporal Token Veto (ST-Veto), which leverages the ability to observe all token positions at each diffusion step. Rather than relying only on current-step confidence, ST-Veto vetoes temporally unstable tokens via second-order Taylor prediction of confidence dynamics and filters weakly grounded tokens using image-attention mass, swapping them with safer candidates. Across multiple dMLLMs and multimodal reasoning benchmarks, ST-Veto consistently outperforms standard decoding policies and prior VLM reasoning methods, improving accuracy by up to 9% with no additional training or generation cost. Analyses show that ST-Veto steers generation toward higher-confidence, better-grounded paths.
• Abstract（参考訳）: 視覚言語モデル(VLM)は、Chain-of-Thought(CoT)による強力な推論を実現する。 Diffusion Multimodal Large Language Models (dMLLM) は、順序に依存しないプロセスでトークンをアンマスクし、効率を改善し、反復的な洗練を可能にする。 本研究では,各拡散段階における全てのトークン位置を観測する能力を活用する,トレーニング不要なスポーティ・テンポラルトークンベト (ST-Veto) を提案する。 現状の信頼のみに頼るのではなく、ST-Vetoは2階目のテイラー・テイラーによる信頼ダイナミクスの予測を通じて時間的に不安定なトークンを検証し、イメージアテンション質量を用いて弱接地トークンをフィルタし、より安全な候補に置き換える。 複数のdMLLMとマルチモーダル推論ベンチマークにおいて、ST-Vetoは標準復号法とVLM以前の推論法を一貫して上回り、追加のトレーニングや生成コストなしで9%の精度向上を実現している。 分析によると、ST-Vetoはより信頼度が高く、より地味な経路に進化する。

関連論文リスト

• Escaping Confidence Trap: Evolutionary Decoding for Mathematical Reasoning in Diffusion LLMs [69.52853771994451]
  我々はLLaDA 2.0の復号軌道を解析し、繰り返し拡散信頼トラップを同定する。 本稿では,拡散復号化を進化過程とみなす訓練不要なテスト時間スケーリングフレームワークである進化復号法を提案する。
  論文  参考訳（メタデータ） (2026-08-01T11:48:25Z)
• Capturing Token Tendencies for Training-Free Token Pruning in Multimodal Large Language Models [86.02826269126308]
  本稿では,局所スナップショット決定から時間軌道モデリング問題へのプルーニングを高める新しいフレームワークであるTrend-Aware Pruningを提案する。 これにより、"ラトブルーミング"トークンを選択的に再活性化する動的修正機構が実現される。
  論文  参考訳（メタデータ） (2026-07-30T15:07:00Z)
• StochasT: Learning with Stochastic Turn Depth for Visual Instruction Tuning [31.347649780181545]
  LVLM(Large Vision-Language Models)は、視覚インストラクション・チューニング(Visual Instruction Tuning, VIT)に大きく依存している。 既存のベンチマークでは、孤立したシングルターンシナリオでLVLMを評価する。 本稿では,LVLMのロバスト性を測定するために,Balanced Latin Squareをベースとした,困難なベンチマークに依存しない評価機構を提案する。
  論文  参考訳（メタデータ） (2026-07-01T05:34:07Z)
• Accelerating Multimodal Large Language Models with Prior-Corrected Token Reduction [42.23525789989544]
  MLLM(Multimodal Large Language Models)において、しばしば注意がモデルによって引き起こされる。 我々は,タスク条件付き注意をモデル誘発前と区別するために,事前補正トークン削減(PriorTR)を提案する。 PriorTRは、強いトレーニングのないベースラインよりも精度と効率のトレードオフを一貫して改善する。
  論文  参考訳（メタデータ） (2026-06-23T05:24:50Z)
• Learning Unmasking Policies for Diffusion Language Models [33.44995119635116]
  言語モデル(dLLM)は、多くのタスクにおいて、自己回帰的な処理の下流のパフォーマンスにマッチする。 特別なマスクトークンで満たされたバッファが、モデルの語彙からサンプリングされたトークンに徐々に置き換えられる。 本研究では,強化学習を用いたサンプリング手順の訓練を提案する。
  論文  参考訳（メタデータ） (2025-12-09T20:44:33Z)
• Directional Reasoning Injection for Fine-Tuning MLLMs [51.53222423215055]
  マルチモーダルな大言語モデル(MLLM)は急速に進歩しているが、その推論能力は強いテキストのみのモデルよりも遅れていることが多い。 このギャップを埋める既存の方法は、大規模マルチモーダル推論データや強化学習の監督された微調整に依存している。 この問題を解決するために,DRIFT(Directional Reasoning Injection for Fine-Tuning)を提案する。
  論文  参考訳（メタデータ） (2025-10-16T18:06:46Z)
• Cautious Next Token Prediction [62.74127603725369]
  我々は、CNTP(Cautious Next Token Prediction)と呼ばれる新しいトレーニングフリーデコード戦略を提案する。 復号過程において、モデルが特定のステップで比較的高い予測エントロピーを持つ場合、独立にステップから始まる複数の試行をサンプリングし、句読点に遭遇する際に停止する。 提案するCNTPアプローチは,既存の標準復号方式よりも明確なマージンで一貫した性能を発揮することを示す。
  論文  参考訳（メタデータ） (2025-07-03T05:49:18Z)
• Not all tokens are created equal: Perplexity Attention Weighted Networks for AI generated text detection [49.15148871877941]
  大規模言語モデル(LLM)の検出に理論的に魅力的なアプローチを提供する次点分布出力 本稿では,LLMの最後の隠蔽状態を用いて,列長の次トーケン分布のメトリクスに基づく一連の特徴量の重み付けを行うパープレキシティ注意重み付けネットワーク(PAWN)を提案する。 PAWNは、トレーニング可能なパラメータのごく一部を持つ最強のベースラインよりも、競争力があり、より優れた分散性能を示している。
  論文  参考訳（メタデータ） (2025-01-07T17:00:49Z)
• FIRP: Faster LLM inference via future intermediate representation prediction [54.897493351694195]
  FIRPはデコードステップ毎に1つではなく複数のトークンを生成する。 いくつかのモデルとデータセットで1.9x-3xのスピードアップ比を示す広範な実験を行った。
  論文  参考訳（メタデータ） (2024-10-27T15:53:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。