論文の概要: When Do Fewer Visual Tokens Accelerate Multimodal Inference? A Break-Even Study Across Decision Locations and Hardware

• arxiv url: http://arxiv.org/abs/2608.03649v1
• Date: Tue, 04 Aug 2026 13:33:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:23.220075
• Title: When Do Fewer Visual Tokens Accelerate Multimodal Inference? A Break-Even Study Across Decision Locations and Hardware
• Title（参考訳）: 視力低下はマルチモーダル推論を加速させるか? 決定位置とハードウェア間のブレーク・エヴュー
• Abstract要約: 視覚トークンが少ないため、エンドツーエンドのレイテンシが低い。 我々は、意思決定のオーバーヘッド、共有作業、および各ポリシーが回避できるオペレータを考慮に入れた再現可能なプロトコルを用いて、ブレークフェアを評価する。
• 参考スコア（独自算出の注目度）: 1.2103414068933553
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fewer visual tokens do not guarantee lower end-to-end latency. We evaluate break-even with a reproducible protocol that accounts for decision overhead, shared work, and the operators each policy can avoid. A stage-level decomposition reconciles these components with measured end-to-end latency. In a 30-example pilot, the two tested autoregressive probes remain slower than Full despite state reuse. A lightweight post-vision predictor yields paired confidence intervals below zero on RTX 3090 and A100 and remains significant after a conservative all-pairs Holm correction. A pre-vision image-size rule also yields intervals below zero on both GPUs, although neither comparison remains significant after the same correction. Pre-vision routing has a structural opportunity unavailable to post-vision pruning: it can avoid preprocessing and vision encoding. On A100, this opportunity outweighs a nearly eightfold larger downstream token reduction by the post-vision policy. Reported quality is conditional on examples answered correctly by Full and is not benchmark accuracy.
• Abstract（参考訳）: 視覚トークンが少ないため、エンドツーエンドのレイテンシが低い。 我々は、意思決定のオーバーヘッド、共有作業、および各ポリシーが回避できるオペレータを考慮に入れた再現可能なプロトコルを用いて、ブレークフェアを評価する。 ステージレベルの分解は、これらのコンポーネントを計測されたエンドツーエンドのレイテンシで分解する。 30回の試験では、テストされた2つの自動回帰プローブは州の再利用にもかかわらずフルよりも遅いままだった。 軽量のポストビジョン予測器は、RTX 3090 と A100 でゼロ以下にペア化された信頼区間を出力し、保守的な全ペアホルム補正の後も重要なままである。 プリビジョン画像サイズルールは、両方のGPUで0未満の間隔を出力するが、どちらの比較も同じ修正の後も重要ではない。 プレビジョンルーティングは、プレプロセスやビジョンエンコーディングを避けることができる。 A100では、この機会は、ポストビジョンポリシーによって、下流のトークンの減少が約8倍になる。 報告された品質はFullによって正しく答えられた例で条件付きであり、ベンチマークの正確さではない。

関連論文リスト

• CFR without Unbiasedness: Deterministic Guarantees for Persistent Public-Chance Schedules [1.0390646006106319]
  均一な非負の加法的公切断に対する決定論的目標移動定理を確立する。 定理のコンポーネント解決形式は、実行トレースを数値的なエクスプロイラビリティ証明に変換する。 ディープ・スタディでは、32から64のフルカットの成果予算が交差し、その後、完全なカバレッジが支配される。
  論文  参考訳（メタデータ） (2026-08-14T09:28:35Z)
• Stage-Replay Divergence Follows the KV Cache: Fixed-Prefix Precision Controls and Bidirectional Cache Transplantation [51.56484100374058]
  Stage-replayは中間トークンプレフィックスを再構築し、プレフィックスに最初に到達したデコーダ状態からの継続として、新しいプリフィル継続を処理する。 一致した200itemの実験では、保持されたライブキャッシュと同一の整数トークンのワンショットプリフィルを比較し、両側に正確なレプリカを配置する。
  論文  参考訳（メタデータ） (2026-07-30T16:41:40Z)
• Exactness Matters for Physical Rule Enforcement [4.230349220081444]
  より強い物理ルールの執行がいつ信頼できるか、いつそれが流通シフトの源となるかは、まだ不明である。 この問題は作用素の正確性(すなわち、補修写像が対象多様体上の恒等写像であるかどうか)を通して研究する。 制御ミスマッチ、スクリーニングされたクリーンアップ、アダプティブゲーティング、および外部バックボーンチェックは、最適な近似登録操作ポイントが生またはほぼ同一であることを示す。
  論文  参考訳（メタデータ） (2026-05-08T07:59:59Z)
• Nondeterminism-Aware Optimistic Verification for Floating-Point Neural Networks [11.159101812934503]
  不均一加速器上での浮動小数点実行のための非決定論的アウェア最適検証プロトコル NAOをPyTorch互換ランタイムとして実装し、現在Horeskyテストネット上にデプロイされているコントラクト層を運用しています。
  論文  参考訳（メタデータ） (2025-10-15T21:10:39Z)
• Distributed Training under Packet Loss [8.613477072763404]
  信頼性の低いコネクションを利用するとレイテンシが低下するが、パケットを落としてモデルの精度と収束を犠牲にする可能性がある。 そこで本研究では,パケット損失の正確性と収束性を保証する原理的なエンドツーエンドソリューションを提案する。 この研究は、コミュニケーション効率の高いプロトコルと、現代の大規模モデルの訓練で要求される精度と保証のギャップを埋めるものである。
  論文  参考訳（メタデータ） (2025-07-02T11:07:20Z)
• One Sample is Enough to Make Conformal Prediction Robust [53.78604391939934]
  共形予測は, 1つのランダムな摂動入力に対して前方通過しても, ある程度の堅牢性が得られることを示す。 提案手法は,入力毎に多数のパス(例えば100回程度)を使用するSOTA法と比較して,平均セットサイズが小さいロバストな集合を返す。
  論文  参考訳（メタデータ） (2025-06-19T19:14:25Z)
• Robust Conformal Prediction with a Single Binary Certificate [58.450154976190795]
  コンフォーマル予測(CP)は、任意のモデルの出力を、真のラベルを(調整可能な)高い確率でカバーすることを保証した予測セットに変換する。 我々は,MCサンプルが著しく低い場合でも,より小さな集合を生成する頑健な共形予測を提案する。
  論文  参考訳（メタデータ） (2025-03-07T08:41:53Z)
• On the Convergence of FedProx with Extrapolation and Inexact Prox [55.2480439325792]
  我々は、各クライアントが特定の演算子を正確に計算するという仮定なしに、FedExProxの挙動を調査する。 不完全性は解の近傍に収束することを示す。 我々の理論的洞察は総合的な数値実験によって検証される。
  論文  参考訳（メタデータ） (2024-10-02T10:42:27Z)
• Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
  STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。 市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。 結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
  論文  参考訳（メタデータ） (2023-08-08T19:38:15Z)
• Selective Network Linearization for Efficient Private Inference [49.937470642033155]
  本稿では,予測精度を維持しつつReLUを選択的に線形化する勾配に基づくアルゴリズムを提案する。 その結果、現在の技術よりも4.25%$の精度(so-ReLUは50K)、または2.2times$のレイテンシ(so-accuracyは70%)が低いことがわかった。
  論文  参考訳（メタデータ） (2022-02-04T19:00:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。