論文の概要: Spectral-Guided Diffusion: Accelerating Inference via Static Spectral Layer Scheduling

• arxiv url: http://arxiv.org/abs/2609.29505v1
• Date: Mon, 24 Aug 2026 17:43:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.049656
• Title: Spectral-Guided Diffusion: Accelerating Inference via Static Spectral Layer Scheduling
• Title（参考訳）: スペクトル誘導拡散:静的スペクトル層スケジューリングによる推論の高速化
• Abstract要約: SCR/フロベニウスは、ランダム、深さ、ノルム、安定ランク、およびフロベニウスの安定ランクスケジュールよりも品質を保っていることを示す。 SCR/フロベニウスはレイヤーステップの予算で、ランダム、深さ、ノルム、安定なランク、安定なランクのスケジュールよりも品質を保っている。
• 参考スコア（独自算出の注目度）: 6.908972852063454
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion inference repeatedly evaluates the same large network. We ask whether pretrained weights alone can identify residual branches that need not be recomputed throughout the trajectory. Our \textbf{Spectral Concentration Ratio (SCR)} measures leading-versus-tail singular-value energy. Combined with Frobenius magnitude, it yields an offline sensitivity proxy and a deterministic lifetime for each scheduled unit. A frozen unit reuses its cached residual-branch update while the current residual stream and all external conditioning continue to propagate. The method needs no router, calibration prompts, or input-dependent search. At matched layer-step budgets, SCR/Frobenius preserves quality better than random, depth, norm, stable-rank, and Frobenius--stable-rank schedules on LLaDA-8B, DiT-XL/2, U-ViT-L, and SDXL. Broader LLaDA tests cover retrieval, reasoning, code, summarization, and open-ended generation; matched-horizon controls retain the ranking down to ten denoising steps. The complete captured-graph system reaches $2.8\times$--$3.0\times$ wall-clock speedup over eager inference. This is a systems-level number: on LLaDA, padded graph execution already gives $2.7\times$, while eliminating inactive branch work raises it to $3.0\times$. The perturbation analysis motivates pre-norm attention and MLP components under explicit local assumptions; results on AdaLN, U-shaped, convolutional, and cross-attention blocks are empirical transfer, not certified guarantees.
• Abstract（参考訳）: 拡散推論は、同じ大きなネットワークを何度も評価する。 トレーニング済みの重量だけで、軌道全体を通して再計算する必要のない残枝を特定できるかどうかを問う。 我々の textbf{Spectral concentration Ratio (SCR) は、逆尾特異値エネルギーを測定する。 フロベニウス等級と組み合わせると、各スケジュール単位に対してオフライン感度プロキシと決定論的寿命が得られる。 凍結されたユニットはキャッシュされた残枝更新を再利用し、現在の残枝ストリームと全ての外部条件が伝播し続ける。 ルータ、キャリブレーションプロンプト、入力依存検索は不要である。 SCR/フロベニウスは、LLaDA-8B、DiT-XL/2、U-ViT-L、SDXLのランダム、ディープ、ノルム、安定ランク、フロベニウスの安定ランクのスケジュールよりも高い品質を保っている。 より広いLLaDAテストでは、検索、推論、コード、要約、そしてオープンエンドジェネレーションをカバーしている。 完全なキャプチャーグラフシステムは、熱心な推論よりも2.8\times$--$3.0\times$wall- clock speedupに達する。 LLaDAでは、パッド付きグラフの実行で既に$2.7\times$が与えられ、非アクティブなブランチ処理を排除すれば$3.0\times$に上昇する。 AdaLN, U字型, 畳み込み, クロスアテンションブロックの結果は実証的な伝達であり, 保証されていない。

関連論文リスト

• Certified Inference and Training for Deep Equilibrium Networks: A Continuation Framework with Polynomial Complexity Guarantees [0.0]
  我々は、Deep equilibrium Network(DEQ)における推論とトレーニングのための認定された継続フレームワークを開発する。 推論のために、入力ホモトピーは供給された開始根から平衡を選択し、丸いトラッカーが定量的条件下でそれに従う。 訓練のために、プログラム可能な休眠可能な双線形ランクワンチャネルは、出力保存された残留整列修復を提供する。
  論文  参考訳（メタデータ） (2026-09-15T01:15:58Z)
• Stability-Constrained Approximation in Spline KANs: Exact Layer Balancing and Budget-Compatible Saturation [51.56484100374058]
  我々は、ハードレイヤーワイドリプシッツ予算の下で近似を研究する。 構成条件下では、対応するレイヤエラーをキャンセルする必要はないことを示す。 クラスのすべての作用素に対して、安定した深さ-$L$タワーが存在し、累積誤差の定数分を実現できる。
  論文  参考訳（メタデータ） (2026-09-14T20:17:04Z)
• Spectral Pre-Filtering for Context-Adaptive Sensor Fusion: A Four-Role FFT-GDCB Integration for High-Stakes Decision Systems [0.0]
  文脈適応カルマンフィルタは、彼らのノイズ共分散行列 Q と R をオンライン回帰を通じてイノベーション残差から校正する。 我々は,この問題を$O(Nlog N)$コストで解決し,さらに3つの役割を「無償で」提供する4ロールFFTプレフィルタを導入する。 これにより、単一の$O(Nlog N)$ FFTコールは4つのダウンストリーム消費者に提供され、センサフュージョンまたは価格パイプの計算予算の0.1%に収まる。
  論文  参考訳（メタデータ） (2026-08-22T15:57:25Z)
• Sample-Adaptive Latent Rewards for Uncertainty-Guided Diffusion Post-Training [51.18425726646089]
  我々は、画像とビデオの拡散モデルのための統合潜在空間フレームワークであるtextscSUREを提案する。 報酬分布を学習し、信頼性を直接利用して、密集したポストトレーニングをガイドする。 textscSURE-REFLは評価手法の中で最も高いVBench品質、セマンティック、総得点を達成する。
  論文  参考訳（メタデータ） (2026-08-06T14:55:42Z)
• Active Quantum Kernel Acquisition for Gaussian Process Regression [30.032230630492155]
  量子カーネル分類に関する最近の研究は、カーネルエントリに不均一にショットを割り当てることによって、ターゲット精度に到達するために必要なショット予算を削減できることを示した。 我々はこのアイデアをガウス過程(GP)回帰(英語版)に拡張し、下流の量(全スペクトル後方分散、対数行列、辺縁確率)が、符号のみの分類出力よりも厳密なカーネルエラーに結合する設定とする。 我々は、3つの閉形式のペアレベル感性予測結合 $|_i_j|$, leave-one-out residual, and marginal-likelihood gradient を導出し、それらをネイマン型最小値に差し込む。
  論文  参考訳（メタデータ） (2026-06-27T09:40:20Z)
• Dead-Direction Signatures: A Cheap Spectral Reading of Singular Complexity [5.67642958049511]
  特異学習理論は、損失特異点の幾何学を通して深いネットワークの複雑さを特徴づける。 単体構造をもつ安価でクローズドなスペクトル読影器であるDeadDirection Signatures (DDS)を紹介する。 それぞれが選択された層でネットワークの活性化行列またはサンプル単位のフィッシャーグラムを読み、後鎖スペクトル線型代数を置き換える。
  論文  参考訳（メタデータ） (2026-06-19T06:49:09Z)
• Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
  モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。 State-of-the-art merging method formulate merging as a layer-wise interference problem。 本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:00:47Z)
• Scaling Attention via Feature Sparsity [50.64995497733461]
  超長期のコンテキストにトランスフォーマーをスケールすることは、自己注意のコスト$O(n2 d)$コストによってボトルネックとなる。 本稿では,高次元表現性を維持するために,クエリとキーを$k$sparseコードとして表現するスパース特徴注意法を提案する。 GPT-2とQwen3の事前トレーニングで、SFAは密度の高いベースラインにマッチし、最高2.5タイムのスピードを向上し、FLOPとKVキャッシュを50%近く削減した。
  論文  参考訳（メタデータ） (2026-03-17T08:41:50Z)
• Network-Optimised Spiking Neural Network for Event-Driven Networking [2.5941336499463383]
  スパイキングニューラルネットワークは、異常検出、ローカルルーティング制御、エッジでの混雑管理など、時間クリティカルなネットワークタスクに適したイベント駆動型計算を提供する。 本稿では,正規化された待ち行列の占有状態と回復資源を符号化したコンパクトな2変数ユニットであるNetwork-Optimized Spiking (NOS)を紹介する。 我々は、データ駆動初期化、リセットシャープネスに基づくホモトピーによる代理段階トレーニング、リソース制約されたデプロイメントのための境界のトポロジによる明確な安定性チェックのガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-09-27T22:31:24Z)
• Variance-Dependent Regret Bounds for Linear Bandits and Reinforcement Learning: Adaptivity and Computational Efficiency [90.40062452292091]
  本稿では,不整合雑音を持つ線形帯域に対する計算効率のよい最初のアルゴリズムを提案する。 我々のアルゴリズムは未知のノイズの分散に適応し、$tildeO(d sqrtsum_k = 1K sigma_k2 + d)$ regretを達成する。 また、強化学習において、線形混合マルコフ決定過程(MDP)に対する分散適応アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-21T00:17:24Z)
• Sharper Convergence Guarantees for Asynchronous SGD for Distributed and Federated Learning [77.22019100456595]
  通信周波数の異なる分散計算作業者のトレーニングアルゴリズムを示す。 本研究では,より厳密な収束率を$mathcalO!!(sigma2-2_avg!)とする。 また,不均一性の項は,作業者の平均遅延によっても影響されることを示した。
  論文  参考訳（メタデータ） (2022-06-16T17:10:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。