論文の概要: Freeze What Is Settled, Cache What Is Smooth: Spatial Freezing Keeps Step Caching in Its Low-Error Regime
- arxiv url: http://arxiv.org/abs/2610.34177v1
- Date: Sun, 25 Oct 2026 09:13:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.552044
- Title: Freeze What Is Settled, Cache What Is Smooth: Spatial Freezing Keeps Step Caching in Its Low-Error Regime
- Title(参考訳): 落ち着いたものを冷やし、スムーズなものをキャッシュする「空間凍結」
- Abstract要約: Qwen-Image-2.1では、凍結はトークンを除去する以上の効果がある。
開発に適合するステップ毎のコストモデルは、中央値エラーが4.0%であるホールドアウト遅延を予測する。
結果、FreezePlanは5つのステップを完了し、残りの予算をTaylorSeerに渡します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Instruction-based image editors built on diffusion transformers run tens of denoising steps. Training-free acceleration either reuses features across steps (step caching) or stops computing the regions an edit leaves untouched (region freezing), and the two have been combined before. We ask how a high speed-up target should be split between them. On Qwen-Image-2.1, freezing does more than remove tokens: it lowers the cost of every step, so the step cache can reach the same overall speed-up with a conservative threshold that keeps its error small. A per-step cost model fitted on development runs predicts held-out latency with a median error of 4.0% and reproduces the speed ceilings of the region methods we re-implemented (2.73$\times$ predicted vs. 2.70$\times$ measured for RegionE). Driving frozen tokens to the model's one-step $x_0$ estimate beats returning them to the reference image on every development sample, and in 90% of measured cases the composed error stays below the sum of the two individual errors. The resulting method, FreezePlan, keeps five full steps and gives the rest of the budget to TaylorSeer. On a pre-registered test split it runs 5.05$\times$ faster end to end at 29.8 dB PSNR to the original output, with no significant drop in a VLM judge score; TaylorSeer at 5.02$\times$ reaches 23.5 dB. The curve extends to 5.99$\times$ at 28.0 dB. Swapping in the region selectors of prior methods under our schedule lowers median PSNR by only 0.5--0.6 dB, which places the gain in the schedule and budget split rather than in the selector.
- Abstract(参考訳): 拡散トランスフォーマー上に構築されたインストラクションベースのイメージエディタは、数十のデノゲーションステップを実行する。
トレーニング不要のアクセラレーションは、ステップ(ステップキャッシュ)をまたいで機能を再利用するか、未修正(リージョン凍結)のリージョンの計算を停止する。
高速目標をどうやって分割すべきかを問う。
Qwen-Image-2.1では、凍結はトークンを取り除く以上の効果がある: ステップ毎のコストを下げるため、ステップキャッシュはエラーを小さくする保守的なしきい値で、全体として同じスピードアップに達することができる。
開発に適合するステップ毎のコストモデルは、中央値エラー4.0%で保留遅延を予測し、再実装したリージョンメソッドの速度天井を再現する(2.73$\times$ predict vs. 2.70$\times$ measured for RegionE)。
モデルの1ステップの$x_0$推定値に凍結トークンを駆動すると、すべての開発サンプルの参照イメージに返される。
結果、FreezePlanは5つのステップを完了し、残りの予算をTaylorSeerに渡します。
事前登録されたテストスプリットでは、29.8dBのPSNRで5.05$\times$で終了し、VLMの審査スコアは大幅に低下せず、TaylorSeerは5.02$\times$で23.5dBに達した。
曲線は5.99$\times$ 28.0 dBまで伸びる。
スケジュール下での領域セレクタのスワップは、中央値のPSNRを0.5-0.6dB以下に低下させ、セレクタよりもスケジュールと予算の分割に利益を分配する。
関連論文リスト
- Randomized Momentum Transport with Cheap Predictors [43.7624716532625]
モーメント法は運動量に輸送補正を加えることで勾配を追跡する。
ランダム化された運動量輸送を導入し、確率で補正する。
修正の4分の1をクエリすると、MNIST1Dで18ドルから43%の最終的なトレーニング損失が減少し、CIFAR-10上でのHessian-vectorトランスポートのテスト精度が1.5ドルポイント向上する。
論文 参考訳(メタデータ) (2026-10-09T16:04:53Z) - Training on the Future: A Delay-Aware Audit of Test-Time Adaptation for Time-Series Forecasting [4.579532022199158]
時系列予測のためのテスト時間適応手法は、着信地真理から、デプロイされたモデルまたはそれを取り巻く小さなアダプタを更新する。
我々はリークフリーのハーネスを構築し、予測起源のラベル$s$がリリースされ、ステップ$s+d$で$d ge H$でのみ更新されます。
論文 参考訳(メタデータ) (2026-10-08T16:16:58Z) - LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization [60.59339465850602]
本論文では、8ビットのリカレント状態量子化の下で、ほぼ無作為な性能を実現する学習不要なLeapQuantを提案する。
LeapQuantは、推論中にメモリと計算コストを大幅に削減することを示す。
FP32ベースラインに匹敵する精度で、カーネルレベルでは2.05--3.70$times$、エンドツーエンドの推論では1.47$times$となる。
論文 参考訳(メタデータ) (2026-09-29T17:59:34Z) - What Should We Freeze? Guarded Freezing: Connectivity Shapes the Fine-Tuning of Pretrained Models [0.0]
我々は、選択した凍結コアを分離できる場合を分析し、除去値を提案する。
VGG-8では、トレーニング可能なニューロンから凍結したコアへの切断経路が、このスコアを用いた選択に有用であることを示す。
我々は,各重み入力を局所更新モデルで更新することによる出力乱れのフォワード専用プロキシであるドリフト値の導出を行う。
論文 参考訳(メタデータ) (2026-09-26T00:56:28Z) - A Convergence Framework for Deep $V$-Learning: Error Propagation and Sharp Action-Gap Bounds [0.0]
更新エラーを、フィッティング、遷移再利用、ターゲット構築、リプレイ、アクション選択、探索の6つの残差に分解する。
次数$n-$の統計的誤差境界に対して、最適連続割り当てと、制約された最適値の係数2$以内の整数割り当てを導出する。
これらの結果から, FIFO/インターリーブされたSGDに対して, 厳密な動作スコアを有する固定水平生成-リセット近似-ERM法に対して, 期待されるポリシ-ロス一貫性が得られた。
論文 参考訳(メタデータ) (2026-09-16T15:03:46Z) - Decay versus dephasing in Rydberg analog optimization: exchange rate, mechanism, and schedule design [0.05427878000393745]
ノイズレスリドバーグ原子最適化はデコヒーレンスとデフォーカスの観点から研究されている。
一階摂動理論はノイズのない伝播だけで$$を再現する。
コストモデル全体がノイズを伴わないため、ノイズのないシミュレーションをすることなく、スケジュールをデバイスのチャネルミックスに調整することができる。
論文 参考訳(メタデータ) (2026-08-30T15:41:02Z) - LoRIF: Low-Rank Influence Functions for Scalable Training Data Attribution [62.830878652285406]
トレーニングデータ属性は、モデルの予測に最も影響したトレーニング例を特定する。
LoRIFは、両方のボトルネックに対処するために、勾配の低ランク構造を利用する。
数百万のサンプルでデータセットでトレーニングされた0.1Bから70Bパラメータのモデルで、LoRIFは最大20$timesのストレージ削減とクエリ時の高速化を実現している。
論文 参考訳(メタデータ) (2026-01-29T16:18:34Z) - CarBoN: Calibrated Best-of-N Sampling Improves Test-time Reasoning [62.56541355300587]
本稿では,高逆推論経路に向けてモデルを適応的に修正する一般的なテスト時間校正フレームワークを提案する。
本フレームワークでは,まず解空間を探索し,次にロジットの校正を学習する二相法であるCarBoNを提案する。
MATH-500とAIME-2024の実験では、CarBoNは効率を向上し、同じ精度に達するために最大4倍のロールアウトが可能である。
論文 参考訳(メタデータ) (2025-10-17T14:04:37Z) - Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic
Shortest Path [80.60592344361073]
線形混合遷移カーネルを用いた最短経路(SSP)問題について検討する。
エージェントは繰り返し環境と対話し、累積コストを最小化しながら特定の目標状態に到達する。
既存の作業は、イテレーションコスト関数の厳密な下限や、最適ポリシーに対する期待長の上限を仮定することが多い。
論文 参考訳(メタデータ) (2024-02-14T07:52:00Z) - Efficient Spatially Sparse Inference for Conditional GANs and Diffusion
Models [92.24727170517335]
既存の深部生成モデルは、未編集領域を含む出力全体をスクラッチから再合成する傾向がある。
本稿では,編集領域の計算を選択的に行う汎用手法である空間スパース推論(SSI)を提案する。
本稿では,Sparse Incremental Generative Engine (SIGE) を提案する。
論文 参考訳(メタデータ) (2022-11-03T17:59:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。