論文の概要: FastJEV: Understanding Redundancy for Compact JEV Inference

• arxiv url: http://arxiv.org/abs/2610.11379v1
• Date: Thu, 08 Oct 2026 07:11:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.854447
• Title: FastJEV: Understanding Redundancy for Compact JEV Inference
• Title（参考訳）: FastJEV: コンパクトなJEV推論のための冗長性を理解する
• Abstract要約: JEVモデルは、候補者を直接採点することで、マルチモーダルな決定を行う。 JEV評価は、一致するトークン履歴、重複した推論状態を繰り返し、完全なバックボーンを実行することができる。 共有には、後続のブランチの保存状態が必要であるため、履歴の再利用と状態ストレージを共同で管理します。
• 参考スコア（独自算出の注目度）: 48.031042955286885
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: JEV models make multimodal decisions by directly scoring candidates. Although the common context is encoded once, candidate evaluation can still repeat matching token histories, duplicate inference states, and execute the full backbone. In this paper, we study these sources of redundancy and present FastJEV for compact candidate evaluation. We jointly organize history reuse and state storage, since sharing computation requires preserving states for later branches. We first introduce shared context anchoring to reuse recurrent initial states and omit unused final recurrent caches. We extend this reuse through candidate prefix sharing, retaining the intermediate states needed by subsequent branches. To further reduce the depth of these paths, we apply decision guided pruning based on relative score changes measured on a small unlabeled set. Our method retains full context encoding and all candidates without additional training. We evaluate FastJEV across three OmniJev model sizes on five public benchmarks and reconstructed LIBERO-10 offline questions. At the selected pruning budgets, the complete method reduces candidate depth by 43.75% to 45.83%, while retaining 93.66% to 97.52% of the original task scores on average across the six evaluation sets. Through controlled experiments, we show how candidate overlap and branching structure affect the execution cost of history reuse. In our implementation, candidate prefix sharing can reduce repeated computation while increasing latency. These findings motivate designing sharing granularity and execution schedules together for efficient JEV inference.
• Abstract（参考訳）: JEVモデルは、候補者を直接採点することで、マルチモーダルな決定を行う。 共通コンテキストは一度エンコードされるが、候補評価は一致するトークン履歴、重複推論状態を繰り返し、完全なバックボーンを実行することができる。 本稿では,これらの冗長性源とFastJEVをコンパクトな候補評価のために検討する。 共有計算は、後続のブランチの保存状態を必要とするため、履歴の再利用と状態記憶を共同で行う。 まず、共有コンテキストアンカーを導入し、リカレント初期状態を再利用し、未使用の最終的な再カレントキャッシュを省略する。 我々は、この再利用を候補プレフィックス共有を通じて拡張し、後続のブランチに必要な中間状態を保持する。 これらの経路の深さをさらに小さくするため、小さな未ラベル集合で測定された相対的なスコア変化に基づいて決定誘導プルーニングを適用する。 提案手法は,追加の訓練を受けずに,全コンテキストエンコーディングと全ての候補を保持できる。 我々は,3つのOmniJevモデルサイズのFastJEVを5つの公開ベンチマークで評価し,LIBERO-10のオフライン質問を再構築した。 選抜予算において、完全な方法は候補の深さを43.75%から45.83%に減らし、6つの評価セットの平均で93.66%から97.52%に維持する。 制御された実験を通して、候補の重複と分岐構造が履歴再利用の実行コストにどのように影響するかを示す。 この実装では、待ち時間を増やしながら繰り返し計算を削減できる。 これらの知見は、効率的なJEV推論のために、粒度と実行スケジュールを共有する設計を動機付けている。

関連論文リスト

• Loopy: Low-Bit Quantization Framework for Looped Language Models [13.719382065156083]
  後学習量子化(PTQ)は、ループ言語モデルのメモリフットプリントと推論コストを削減できる。 再帰的な深度認識の目的を通じて共有コア量子化を定式化するPTQフレームワークであるLoopyを提案する。 8つの設定で、Loopyは異なるベースライン間で最先端の結果を達成する。
  論文  参考訳（メタデータ） (2026-10-04T14:35:37Z)
• Reliable Self-Evolution with Imperfect Proxy Rewards [16.399895274621297]
  大規模言語モデル(LLM)に基づく自己進化探索は、科学的発見への有望なアプローチである。 各候補者の高忠実度評価は、一部のドメインでは違法に高価である。 これは、より信頼性の高い自己進化探索のための統計的に校正された報酬間隔を動機付けている。
  論文  参考訳（メタデータ） (2026-10-02T08:07:27Z)
• Visual Jev: Accurate and Efficient Decisions from Shared Visual Context [12.758717256689424]
  Visual Jevはイメージと公開コンテキストを一度エンコードし、独立した質問サフィックスをバッチとして実行し、バックボーンの言語モデルヘッドから候補確率を読み取る。 4つのベンチマークで、回答監督後トレーニングは70.6%から76.1%に上昇する。 一致した型付きヘッド制御は、言語モデルヘッドの読み出しに対して一貫した精度の優位性を提供しない。
  論文  参考訳（メタデータ） (2026-09-22T08:12:29Z)
• Panini: Continual Learning in Token Space via Structured Memory [4.979820180013486]
  言語モデルは、トレーニングされていないコンテンツを推論するために、ますます使われています。 一般的なアプローチは検索拡張生成(RAG)であり、これは動詞の文書を(チャンクとして)外部に保存し、推論時に関連するサブセットのみを取得する。 本稿では,基本モデルを固定したままで,新たな経験を外部セマンティックメモリ状態に統合することで学習を行う,人間のような非パラメトリック連続学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-16T19:58:03Z)
• DeepPrune: Parallel Scaling without Inter-trace Redundancy [53.62015294143274]
  並列推論トレースの80%以上は、実質的な無駄な計算を代表して、同じ最終回答をもたらす。 動的プルーニングによる効率的な並列スケーリングを実現する新しいフレームワークであるDeepPruneを提案する。 我々の研究は並列推論のための新しい標準を確立し、高性能推論をより効率的にする。
  論文  参考訳（メタデータ） (2025-10-09T17:24:54Z)
• Gumbel Reranking: Differentiable End-to-End Reranker Optimization [61.16471123356738]
  RAGシステムは関連する文書を識別するためにリランカーに依存している。 注釈付きクエリ-ドキュメントペアが不足しているため、これらのモデルの微調整は依然として難しい。 我々は,トレーニングと推論のギャップを最小限に抑えることを目的とした,リランカーのためのエンドツーエンドのトレーニングフレームワークであるGumbel Re rankを提案する。
  論文  参考訳（メタデータ） (2025-02-16T13:23:39Z)
• Candidate Set Re-ranking for Composed Image Retrieval with Dual Multi-modal Encoder [45.60134971181856]
  合成画像検索は、参照画像とテキストペアからなる所定のマルチモーダルユーザクエリに最もよく一致する画像を見つけることを目的としている。 既存の方法では、コーパス全体へのイメージ埋め込みをプリコンプリートし、これらを、テスト時にクエリテキストによって修正された参照イメージ埋め込みと比較する。 両スキームの利点を2段階モデルで組み合わせることを提案する。
  論文  参考訳（メタデータ） (2023-05-25T17:56:24Z)
• ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
  Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。 本稿では,リランカを利用してリコールを改善する手法を提案する。
  論文  参考訳（メタデータ） (2023-05-19T15:30:33Z)
• Rethinking Space-Time Networks with Improved Memory Coverage for Efficient Video Object Segmentation [68.45737688496654]
  各オブジェクトのマスク特徴を再エンコードすることなく,フレーム間の直接対応性を確立する。 対応によって、現在のクエリフレーム内の全てのノードは、過去の特徴を連想的に集約することによって推測される。 すべてのメモリノードにコントリビュートする機会があることを検証し、そのような多彩な投票がメモリ効率と推論精度の両方に有益であることを示した。
  論文  参考訳（メタデータ） (2021-06-09T16:50:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。