論文の概要: Koopman Observers for Diffusion Acceleration: Correcting Feature Forecasts with Shallow Measurements
- arxiv url: http://arxiv.org/abs/2610.10366v1
- Date: Wed, 07 Oct 2026 16:35:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.040816
- Title: Koopman Observers for Diffusion Acceleration: Correcting Feature Forecasts with Shallow Measurements
- Title(参考訳): 拡散加速のためのクープマンオブザーバ:浅度測定による特徴予測の補正
- Abstract要約: 凍結拡散モデルの高速化を目的とした観測補正型クープマンフレームワークを提案する。
加速サンプリングの間、これらの演算子は高価な深い特徴の進化を予測する。
観測された浅い特徴の革新は予測された状態を補正する。
- 参考スコア(独自算出の注目度): 2.457872341625575
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Feature caching accelerates diffusion sampling by replacing expensive network evaluations with predictions from previously computed activations. However, forecasts based only on past features cannot directly incorporate changes in the current denoising state. We investigate whether inexpensive, freshly computed features can serve as observations for correcting these predictions. We introduce an observation-corrected Koopman framework for accelerating frozen diffusion models. Using calibration trajectories, we identify finite-dimensional, time-dependent Koopman approximations that jointly describe the increments of shallow and deep network features. During accelerated sampling, these operators predict the evolution of expensive deep features, while innovations in the observed shallow features correct the predicted state. Periodic full evaluations refresh the observer, and all generative-model parameters remain unchanged. This formulation enables controlled comparisons of temporal prediction and observation correction. Across three 10,000-image runs per dataset, our method reduces paired Inception-feature MSE by $19.9\%$ on CIFAR-10 and $11.9\%$ on a ten-class ImageNet subset relative to channelwise affine prediction under the same four-partial-step schedule. Matched ablations attribute additional reductions of $4.54\%$ and $4.67\%$ to observation correction. The observer achieves $1.89\times$ and $1.85\times$ measured speedups over DDIM-50, supporting improved reference-sampler fidelity without retraining the denoiser.
- Abstract(参考訳): 特徴キャッシングは、高価なネットワーク評価を以前計算されたアクティベーションの予測に置き換えることで、拡散サンプリングを加速する。
しかし、過去の特徴のみに基づく予測は、現在の認知状態の変化を直接組み込むことはできない。
我々は,これらの予測を補正するための観測として,安価で新しく計算された特徴が有効であるかどうかを考察する。
凍結拡散モデルの高速化を目的とした観測補正型クープマンフレームワークを提案する。
キャリブレーショントラジェクトリを用いて,浅層および深層ネットワークの特徴の増大を共同で記述する有限次元時間依存クープマン近似を同定する。
加速サンプリングの間、これらの演算子は高価な深い特徴の進化を予測し、観測された浅い特徴の革新は予測された状態を補正する。
周期的な完全な評価はオブザーバをリフレッシュし、生成モデルパラメータはすべて変わらないままである。
この定式化により、時間的予測と観測補正の制御された比較が可能となる。
提案手法は,データセット毎の1万イメージの実行に対して,CIFAR-10では19.9\%,同じ4段階のスケジュールでチャネルワイドアフィン予測に比較して10クラスのImageNetサブセットでは11.9\%,それぞれペアのインセプション機能MSEを19.9\%削減する。
一致したアブレーションは、観測補正のためにさらに4.54 %$と4.67 %$の削減がある。
観測者は1.89\times$と1.85\times$測定スピードアップをDDIM-50で達成し、デノイザーをリトレーニングすることなく参照サンプラーフィデリティの改善をサポートする。
関連論文リスト
- Disagree to Accelerate: Closing the Loop on Diffusion Feature Forecasts [18.247977457930556]
トレーニング不要な特徴予測は、スキップステップにおける特徴予測によって拡散サンプリングを加速する。
キャッシュ自体から信頼性が観察可能であることを示す。
トレーニング不要な2つの応答を持つクローズドループコントローラであるRACERを紹介する。
論文 参考訳(メタデータ) (2026-08-03T06:08:30Z) - Multimodal Transformer Based Generic Mixture Density Network for Scattering Timescale Estimation of Fast Radio Bursts [0.7632410926487435]
本稿では,MT-GMDN (Multimodal Transformer Based Generic Mixture Density Network) という深層学習手法を提案する。
MT-GMDN は CHIME/FRB cattwo から$sim3500$ FRB のトレーニングを行い,トレーニング中の検証やトレーニング完了後のテストのために一部の FRB を保有した。
モデルは、測定可能な散乱を伴う事象に対する期待値の$$$$に対して94%$の判定係数(R2$)を、テストにおいて90%$の優れたリコール値で達成する。
論文 参考訳(メタデータ) (2026-06-02T13:01:08Z) - IMPA-Net: Meteorology-Aware Multi-Scale Attention and Dynamic Loss for Extreme Convective Radar Nowcasting [2.405586180193259]
気象レーダー観測による対流降雨の短距離予測は、厳しい気象警報に不可欠である。
本稿では, 入力, アーキテクチャ, 損失関数レベルにおいて, 気象インフォームド設計による制限に対処する決定論的0-2時間放送フレームワークIMPA-Netを提案する。
論文 参考訳(メタデータ) (2026-04-27T09:30:07Z) - Adaptive Spectral Feature Forecasting for Diffusion Sampling Acceleration [58.19554276924402]
スペクトル拡散特徴予測器(Spectrum)を提案する。
我々はFLUX.1で4.79$times$スピードアップ、Wan2.1-14Bで4.67$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-03-02T08:59:11Z) - The Forecast After the Forecast: A Post-Processing Shift in Time Series [17.131164796761446]
本稿では,デプロイされた時系列予測器を再トレーニングせずに強化する軽量でアーキテクチャに依存しない手法を提案する。
$$-Adapterは2つのインターフェイスで小さな有界モジュールを学習する。
入力を介して粗い水平対応マスクを学習して重要な特徴を選択することで、機能セレクタとして機能する。
また、不確実性を測定するために分布校正器としても使用できる。
論文 参考訳(メタデータ) (2026-01-28T05:55:04Z) - Robust Representation Consistency Model via Contrastive Denoising [83.47584074390842]
ランダムな平滑化は、敵の摂動に対する堅牢性を証明する理論的保証を提供する。
拡散モデルは、ノイズ摂動サンプルを浄化するためにランダムな平滑化に成功している。
我々は,画素空間における拡散軌跡に沿った生成的モデリングタスクを,潜在空間における識別的タスクとして再構成する。
論文 参考訳(メタデータ) (2025-01-22T18:52:06Z) - Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。
入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。
CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
論文 参考訳(メタデータ) (2022-07-13T14:13:49Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳(メタデータ) (2021-03-23T17:48:56Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。