論文の概要: FeRA: Frequency-Energy Constrained Routing for Effective Diffusion Adaptation Fine-Tuning
- arxiv url: http://arxiv.org/abs/2511.17979v1
- Date: Sat, 22 Nov 2025 08:46:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-25 18:34:24.565097
- Title: FeRA: Frequency-Energy Constrained Routing for Effective Diffusion Adaptation Fine-Tuning
- Title（参考訳）: FeRA:効率的な拡散適応微調整のための周波数エネルギー制約ルーティング
- Authors: Bo Yin, Xiaobin Hu, Xingyu Zhou, Peng-Tao Jiang, Yue Liao, Junwei Zhu, Jiangning Zhang, Ying Tai, Chengjie Wang, Shuicheng Yan,
- Abstract要約: FeRAは、効果的な拡散適応微調整のための包括的な周波数エネルギーの枠組みを確立する。
アダプタベースのチューニングスキームとシームレスに統合され、拡散バックボーンと解像度にわたってうまく一般化される。
- 参考スコア（独自算出の注目度）: 124.5975705334805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models have achieved remarkable success in generative modeling, yet how to effectively adapt large pretrained models to new tasks remains challenging. We revisit the reconstruction behavior of diffusion models during denoising to unveil the underlying frequency energy mechanism governing this process. Building upon this observation, we propose FeRA, a frequency driven fine tuning framework that aligns parameter updates with the intrinsic frequency energy progression of diffusion. FeRA establishes a comprehensive frequency energy framework for effective diffusion adaptation fine tuning, comprising three synergistic components: (i) a compact frequency energy indicator that characterizes the latent bandwise energy distribution, (ii) a soft frequency router that adaptively fuses multiple frequency specific adapter experts, and (iii) a frequency energy consistency regularization that stabilizes diffusion optimization and ensures coherent adaptation across bands. Routing operates in both training and inference, with inference time routing dynamically determined by the latent frequency energy. It integrates seamlessly with adapter based tuning schemes and generalizes well across diffusion backbones and resolutions. By aligning adaptation with the frequency energy mechanism, FeRA provides a simple, stable, and compatible paradigm for effective and robust diffusion model adaptation.
- Abstract（参考訳）: 拡散モデルは生成的モデリングにおいて顕著な成功を収めてきたが、大規模な事前学習されたモデルを新しいタスクに効果的に適応する方法は依然として困難である。
本稿では,この過程を規定する周波数エネルギー機構を明らかにするために,デノナイズ中の拡散モデルの再構成挙動を再考する。
本研究では,周波数駆動型微細チューニングフレームワークFeRAを提案し,パラメータの更新と拡散の固有周波数エネルギーの進行を一致させる。
FeRAは3つの相乗的成分からなる効果的な拡散適応微調整のための包括的周波数エネルギーフレームワークを確立する。
(i)遅延帯域エネルギー分布を特徴付ける小型の周波数エネルギー指標
二 複数の周波数特定アダプタの専門家を適応的に融合させるソフト周波数ルータ
三 拡散最適化を安定させ、帯域間のコヒーレント適応を確保する周波数エネルギー整合正則化。
ルーティングはトレーニングと推論の両方で動作し、推論時間ルーティングは遅延周波数エネルギーによって動的に決定される。
アダプタベースのチューニングスキームとシームレスに統合され、拡散バックボーンと解像度にわたってうまく一般化される。
周波数エネルギー機構に適応を合わせることで、FeRAは効果的で堅牢な拡散モデル適応のための単純で安定で互換性のあるパラダイムを提供する。
関連論文リスト
- Neural Beamforming with Doppler-Aware Sparse Attention for High Mobility Environments [35.90167049594104]
深層学習に基づくビームフォーミングは、チャネル状態情報からビームフォーミングウェイトへの非線形マッピングの代替を提供する。
トランスフォーマーベースのモデルは、時間と周波数にまたがる長距離依存をモデル化できるため、特に効果的である。
近年の研究では、チャンネルダイナミクスを無視したパターンをしばしば採用するが、維持中の複雑さを減少させるスパースアテンション機構によってこの問題に対処している。
論文 参考訳（メタデータ） (2025-11-05T16:51:26Z) - SDAR: A Synergistic Diffusion-AutoRegression Paradigm for Scalable Sequence Generation [62.14510717860079]
本稿では, 自己回帰モデルの学習効率を, 拡散の並列推論能力で統一するSynergistic Diffusion-Autoregressionパラダイムを提案する。
SDARは、十分に訓練された自己回帰モデル(AR)を、簡潔でデータ効率のよい適応を通じてブロックワイズ拡散モデルに変換する、軽量なパラダイム変換を実行する。
この知見に基づいて、SDARは最小コストで効率的なAR-拡散変換を実現し、並列生成を可能にしながら、ARレベルのパフォーマンスを維持する。
論文 参考訳（メタデータ） (2025-10-07T17:29:28Z) - Frequency Regulation for Exposure Bias Mitigation in Diffusion Models [15.61368627978836]
逆過程における予測ノイズサンプルのエネルギーは、前方過程における摂動サンプルと比較して連続的に減少する。
我々はウェーブレット変換を利用した動的周波数制御機構を導入し、低周波サブバンドと高周波サブバンドを別々に調整する。
我々は厳密な数学的形態の露出バイアスを導出する。
論文 参考訳（メタデータ） (2025-07-14T08:58:38Z) - Broad Spectrum Coherent Frequency Conversion with Kinetic Inductance Superconducting Metastructures [7.527714650292084]
パラメトリック周波数変換器(PFC)は、量子情報キャリア間の周波数ギャップをブリッジする上で重要な役割を果たす。
本稿では、広帯域周波数モード間のパラメトリック周波数変換のためのマルチモード運動的メタ構造について述べる。
論文 参考訳（メタデータ） (2025-03-12T04:42:38Z) - Online Event-Triggered Switching for Frequency Control in Power Grids with Variable Inertia [5.344266377824671]
再生可能エネルギー資源の電力グリッドへの統合は、時間とともに変化するシステムの慣性と周波数力学の連続的な劣化につながった。
有望な解決策は、周波数偏差に応じて出力設定点を調整することにより、再生可能発電機や電池エネルギー貯蔵などのエネルギー資源を一次周波数制御に使用することである。
時間変化慣性下での周波数ダイナミクスを非線形スイッチングシステムとしてモデル化し、各モードの周波数ダイナミクスを非線形揺動方程式で記述し、異なるモードが異なる慣性レベルを表す。
ニューラルネットワークの集合から最も適切なコントローラを選択するためのオンラインイベントトリガースイッチングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-08-27T22:44:33Z) - RF-Diffusion: Radio Signal Generation via Time-Frequency Diffusion [15.175370227353406]
RF信号の時間・周波数・複素値領域における情報入力を可能にするため,新しい時間周波数拡散理論を導入する。
RF拡散(RF-Diffusion)は、多種多様な高品質かつ時系列のRFデータを生成する汎用的なソリューションである。
また、5Gネットワークにおいて、Wi-Fiセンシングシステムを強化し、チャネル推定を行う上で、RF拡散の汎用性を示す。
論文 参考訳（メタデータ） (2024-04-14T04:56:05Z) - Diffusion Probabilistic Model Made Slim [128.2227518929644]
軽量画像合成のためのスリム拡散確率モデル(DPM)のカスタマイズ設計を提案する。
一連の条件および非条件画像生成タスクにおける遅延拡散モデルと比較して,計算複雑性を8-18倍に削減する。
論文 参考訳（メタデータ） (2022-11-27T16:27:28Z) - Diffusion-GAN: Training GANs with Diffusion [135.24433011977874]
GAN(Generative Adversarial Network)は、安定してトレーニングすることが難しい。
フォワード拡散チェーンを利用してインスタンスノイズを生成する新しいGANフレームワークであるDiffusion-GANを提案する。
我々は,Diffusion-GANにより,最先端のGANよりも高い安定性とデータ効率で,よりリアルな画像を生成することができることを示す。
論文 参考訳（メタデータ） (2022-06-05T20:45:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。