論文の概要: Sparse Planning in Visual World Models via Cost Gradients
- arxiv url: http://arxiv.org/abs/2610.10274v1
- Date: Wed, 07 Oct 2026 15:40:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.009895
- Title: Sparse Planning in Visual World Models via Cost Gradients
- Title(参考訳): コスト勾配によるビジュアルワールドモデルにおけるスパースプランニング
- Abstract要約: トークンベースのワールドモデルでは,詳細な遅延計画が可能だが,空間トークングリッドの処理が繰り返し行われるため,アクション検索は高価である。
トレーニング不要で目標条件付きセレクタであるCOSTGRADを導入し,各入力トークンに対して,計画コストの勾配基準で空間トークンをランク付けする。
AdaLNで条件付き予測器を50ドル間隔で設定すると、COSTGRADは4つの連続制御ベンチマークのうち3つの完全な計画に一致または超える。
- 参考スコア(独自算出の注目度): 10.388161474891303
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Token-based world models enable fine-grained latent planning, but repeatedly processing large spatial token grids makes action search expensive. We introduce COSTGRAD, a training-free, goal-conditioned selector that ranks spatial tokens by the gradient norm of the planning cost with respect to each input token. By deriving importance from the downstream control objective, COSTGRAD targets tokens that matter for planning rather than merely for prediction. On AdaLN-conditioned predictors at $50\%$ sparsity, COSTGRAD matches or exceeds full-token planning on three of four continuous-control benchmarks, while giving a measured $2.6\times$ wall-clock speedup per environment planning step. Combining token sparsity with reduced CEM search increases this to a $\sim 5\times$ total speedup while still exceeding the full-token baseline. We also identify an architecture-dependent failure mode: in a matched AdaLN-vs-concat comparison, concat maintains comparable full-token performance but pure COSTGRAD loses its advantage over random selection. This difference tracks action-pathway drift: gradient-selected removal produces less drift than random removal on AdaLN, but more on concat. These results highlight selector-architecture compatibility as a design axis for sparse world-model planning. Project page and demos: https://ycxuyingchen.github.io/costgrad/
- Abstract(参考訳): トークンベースのワールドモデルでは,詳細な遅延計画が可能だが,空間トークングリッドの処理が繰り返し行われるため,アクション検索は高価である。
トレーニング不要で目標条件付きセレクタであるCOSTGRADを導入し,各入力トークンに対して,計画コストの勾配基準で空間トークンをランク付けする。
COSTGRADは、下流制御の目的から重要性を導き出すことによって、単に予測ではなく、計画上重要なトークンをターゲットにしている。
AdaLNで条件付き予測器を50\%の間隔で使用した場合、COSTGRADは4つの連続制御ベンチマークのうち3つの完全な計画と一致し、環境計画毎に2.6\times$wall-clock speedupを提供する。
CEM検索の削減とトークンの空白化が相まって、これは完全なベースラインを超えながら、$\sim 5\times$トータルスピードアップになる。
一致したAdaLN-vs-concat比較では、concatは同等の性能を維持しているが、純粋なCOSTGRADはランダム選択よりも優位性を失う。
勾配選択された除去は、AdaLNでランダムに除去するよりもドリフトが少ないが、Concatではより少ない。
これらの結果は、スパースワールド・モデル・プランニングの設計軸としてセレクタ・アーキテクチャの互換性を強調している。
プロジェクトページとデモ:https://ycxuyingchen.github.io/ Costgrad/
関連論文リスト
- UltraMatch: Transport Path Routing for Ultra-Fast and Memory-Efficient Image Matching [76.1295726577623]
UltraMatchは、超効率的でスケーラブルなセミセンスマッチングフレームワークである。
これは、候補マッチングパスのごく一部だけをルーティングすることで、高密度トークンレベルのマッチングの二次計算とメモリコストをバイパスする。
論文 参考訳(メタデータ) (2026-09-29T08:15:55Z) - Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning [76.50676105904442]
遅延テストタイムスケーリングは、推論中に隠れた状態を精錬することで推論を改善する。
既存のメソッドは通常、編集可能な潜在トークンすべてに単一のスカラー報酬を適用する。
Token-Disentangled Latent Test-Time Scalingは、潜在精錬トークンを認識できる推論時間フレームワークである。
論文 参考訳(メタデータ) (2026-09-28T14:10:01Z) - Accelerating Mixed Discrete-Continuous Motion Planning via Neural Graphs of Convex Sets [4.288763738857392]
衝突のないナビゲーションやコンタクトリッチな操作などの動作計画問題は、最適化問題として自然に定式化することができる。
Graphs of Convex Sets (GCS)フレームワークは実用的なソリューションを提供する。
我々は、名目GCSが必要とするコストのかかる凸緩和ステップを、グラフ注意ネットワークを経由する単一のフォワードパスに置き換える。
ランキングネットワークは、これらの候補を推定コストで注文する。
論文 参考訳(メタデータ) (2026-08-15T22:51:56Z) - Less Tokens, Better Forecasts: Sparse Residual Routing for Efficient Weather Prediction [24.266851703305004]
Viベースの天気予報モデルは、近くの大気グリッドポイントが時間とともに同様の値や領域を含む場合であっても、すべての空間トークンにわたって計算を適用する。
パラメータフリーなプラグインルーティングモジュールであるSparse-Reslimを導入する。
ERA5の解像度は0.25textdegree標準と2つのモデルファミリ、決定論的トランスフォーマーと拡散モデルまでで、Sparse-Reslimは評価変数の予測精度を著しく向上し、コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-07-02T23:43:01Z) - Label-Free Cross-Task LoRA Merging with Null-Space Compression [50.63908869296697]
我々は,ラベルフリーで出力に依存しない手法であるNull-Space Compression (NSC) Mergingを紹介した。
NSCは、従来のメソッドがタスクのサブセットに収まるバランスの取れたゲインを持つ20の異種視覚タスクに対して、最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-03-27T11:34:41Z) - Time Is All It Takes: Spike-Retiming Attacks on Event-Driven Spiking Neural Networks [87.16809558673403]
スパイキングニューラルネットワーク(SNN)は離散スパイクで計算し、時間構造を利用する。
イベント駆動SNNにおけるスパイク数と振幅を保存しながら、既存のスパイクを繰り返すタイミングのみの敵について検討する。
論文 参考訳(メタデータ) (2026-02-03T09:06:53Z) - SCOPE: Saliency-Coverage Oriented Token Pruning for Efficient Multimodel LLMs [59.415473779171315]
textbfSaliency-textbfCoverage textbfOriented token textbfPruning for textbfEfficient MLLMs。
論文 参考訳(メタデータ) (2025-10-28T09:29:37Z) - ZETA: Leveraging Z-order Curves for Efficient Top-k Attention [22.90397380324185]
本稿では,全シーケンスに対する過去のトークンの並列クエリを可能にするZETAを提案する。
ZETA は合成textscMulti-Query Associative Recall タスクにおける標準注意性能と一致する。
論文 参考訳(メタデータ) (2025-01-24T15:33:05Z) - Nearly Minimax Optimal Reward-free Reinforcement Learning [88.75843804630772]
本稿では、特にバッチ強化学習に適した報酬不要強化学習フレームワークと、複数の報酬関数に対するポリシーを必要とするシナリオについて検討する。
textbfStaged textbfSampling + textbfTruncated textbfPlanning (algoname) という新しい効率的なアルゴリズムを提供しています。
論文 参考訳(メタデータ) (2020-10-12T17:51:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。