論文の概要: Quality-Aware Modulation for Diffusion Transformers
- arxiv url: http://arxiv.org/abs/2606.30934v1
- Date: Mon, 29 Jun 2026 21:38:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.005757
- Title: Quality-Aware Modulation for Diffusion Transformers
- Title(参考訳): 拡散変圧器の品質制御
- Abstract要約: 品質表現モジュール(QRM)は、既存のモデル入力に基づいて品質認識表現を学習する。
実験にはQRMトレーニングの損失とアーキテクチャの短縮が含まれる。
- 参考スコア(独自算出の注目度): 19.565574162429066
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern text-to-image diffusion models, such as diffusion transformers (DiT), rely on timestep or prompt embeddings to modulate the strength of the denoising process in each timestep. While this modulation communicates the current noise level, it does not provide any quality-aware information, which can lead to generated images that are unaligned, visually inconsistent, and lacking in fidelity. In this paper, we propose the Quality Representation Module (QRM), a lightweight transformer module that learns a quality-aware representation based on existing model inputs, and produces a set of vectors $M_{qrm}$. These vectors adjust the adaptive LayerNorm modulation within the DiT transformer blocks, thereby injecting a quality-sensitive signal into the denoising parameters. The QRM introduces no significant changes to the sampling schedule or diffusion backbone. Experiments include ablations on QRM training losses and architectures, as well as empirical results demonstrating consistent image quality improvements over baseline DiT-based models.
- Abstract(参考訳): 拡散変圧器(DiT)のような現代のテキストから画像への拡散モデルでは、各時間ステップにおけるデノナイジング過程の強さを変調するために、時間ステップや即時埋め込みに依存している。
この変調は現在のノイズレベルを伝達するが、品質に配慮した情報は提供せず、不整合、視覚的不整合、忠実性に欠ける生成画像に繋がる可能性がある。
本稿では,既存のモデル入力に基づいて品質認識表現を学習する軽量トランスフォーマーモジュールであるQuality Representation Module (QRM)を提案し,ベクトルの集合を$M_{qrm}$で生成する。
これらのベクトルは、DiT変換器ブロック内の適応的なLayerNorm変調を調整し、品質に敏感な信号をデノナイジングパラメータに注入する。
QRMはサンプリングスケジュールや拡散バックボーンに大きな変更を加えない。
実験には、QRMトレーニングの損失とアーキテクチャの短縮や、ベースラインのDiTベースのモデルよりも一貫した画質改善を示す経験的な結果が含まれる。
関連論文リスト
- Freq-RemoteVAR: Next-Frequency Autoregressive Modeling for Remote Sensing Change Detection [14.222308941007674]
本稿では、周波数領域における構造的生成問題として変化検出を再構成する周波数自己回帰フレームワークを提案する。
本稿では、周波数トークン上で因果自己回帰モデリングを行う周波数VAR変換器を開発する。
CDD、GZ-CD、LEVIR-CDの実験は、Freq-Remoteが既存の手法より一貫して優れていることを示した。
論文 参考訳(メタデータ) (2026-07-28T14:59:56Z) - AIMC-Spec: A Benchmark Dataset for Automatic Intrapulse Modulation Classification under Variable Noise Conditions [4.448748938342291]
本稿では、スペクトログラムに基づく画像分類のための総合的な合成データセットであるAIMC-Specを紹介する。
5つの代表的なディープラーニングアルゴリズムを再実装し、統一的な入力形式で評価した。
その結果、周波数変調(FM)信号は位相やハイブリッドタイプよりも確実に分類された。
論文 参考訳(メタデータ) (2026-01-13T06:42:28Z) - Stable Flow: Vital Layers for Training-Free Image Editing [74.52248787189302]
拡散モデルはコンテンツ合成と編集の分野に革命をもたらした。
最近のモデルでは、従来のUNetアーキテクチャをDiffusion Transformer (DiT)に置き換えている。
画像形成に欠かせないDiT内の「硝子層」を自動同定する手法を提案する。
次に、実画像編集を可能にするために、フローモデルのための改良された画像反転手法を提案する。
論文 参考訳(メタデータ) (2024-11-21T18:59:51Z) - Efficient Diffusion Transformer with Step-wise Dynamic Attention Mediators [83.48423407316713]
本稿では,クエリとキーを別々に扱うために,追加の仲介者トークンを組み込んだ新しい拡散トランスフォーマーフレームワークを提案する。
本モデルでは, 正確な非曖昧な段階を呈し, 詳細に富んだ段階へと徐々に遷移する。
本手法は,最近のSiTと統合した場合に,最先端のFIDスコア2.01を達成する。
論文 参考訳(メタデータ) (2024-08-11T07:01:39Z) - Diffusion-Driven Semantic Communication for Generative Models with Bandwidth Constraints [66.63250537475973]
本稿では,帯域制限付き生成モデルのための,高度なVAEベースの圧縮を用いた拡散駆動型セマンティック通信フレームワークを提案する。
実験の結果,ピーク信号対雑音比 (PSNR) などの画素レベルの指標と,LPIPS (Learning Perceptual Image patch similarity) のような意味的指標が大幅に改善された。
論文 参考訳(メタデータ) (2024-07-26T02:34:25Z) - Transformer-based No-Reference Image Quality Assessment via Supervised
Contrastive Learning [36.695247860715874]
本稿では,新しいコントラスト学習 (Contrastive Learning, SCL) と NR-IQA モデル SaTQA を提案する。
まず、SCLによる大規模合成データセット上にモデルをトレーニングし、様々な歪みタイプとレベルの画像の劣化特徴を抽出する。
画像から歪み情報を抽出するために,CNNインダクティブバイアスとTransformerの長期依存性モデリング機能を組み合わせることで,マルチストリームブロック(MSB)を組み込んだバックボーンネットワークを提案する。
7つの標準IQAデータセットの実験結果から、SaTQAは合成データセットと認証データセットの両方において最先端の手法より優れていることが示された。
論文 参考訳(メタデータ) (2023-12-12T06:01:41Z) - DiffiT: Diffusion Vision Transformers for Image Generation [88.08529836125399]
ViT(Vision Transformer)は、特に認識タスクにおいて、強力なモデリング機能とスケーラビリティを実証している。
拡散型生成学習におけるViTの有効性について検討し、拡散ビジョン変換器(DiffiT)と呼ばれる新しいモデルを提案する。
DiffiTはパラメータ効率が大幅に向上した高忠実度画像を生成するのに驚くほど効果的である。
論文 参考訳(メタデータ) (2023-12-04T18:57:01Z) - f-DM: A Multi-stage Diffusion Model via Progressive Signal
Transformation [56.04628143914542]
拡散モデル(DM)は、最近、様々な領域で生成モデリングを行うためのSoTAツールとして登場した。
本稿では、プログレッシブ信号変換が可能なDMの一般化されたファミリであるf-DMを提案する。
我々は、ダウンサンプリング、ぼやけ、学習された変換を含む様々な機能を持つ画像生成タスクにf-DMを適用した。
論文 参考訳(メタデータ) (2022-10-10T18:49:25Z) - DisCoVQA: Temporal Distortion-Content Transformers for Video Quality
Assessment [56.42140467085586]
いくつかの時間的変動は時間的歪みを引き起こし、余分な品質劣化を引き起こす。
人間の視覚システムは、しばしば異なる内容のフレームに対して異なる注意を向ける。
本稿では, この2つの問題に対処するための, トランスフォーマーを用いたVQA手法を提案する。
論文 参考訳(メタデータ) (2022-06-20T15:31:27Z) - SUMD: Super U-shaped Matrix Decomposition Convolutional neural network
for Image denoising [0.0]
ネットワークに行列分解モジュール(MD)を導入し,グローバルなコンテキスト機能を確立する。
U字型アーキテクチャの多段階的プログレッシブ復元の設計に触発されて,MDモジュールをマルチブランチに統合する。
我々のモデル(SUMD)は、Transformerベースの手法で、同等の視覚的品質と精度が得られる。
論文 参考訳(メタデータ) (2022-04-11T04:38:34Z) - Toward Interactive Modulation for Photo-Realistic Image Restoration [16.610981587637102]
画像復元レベルの調整は、復元強度を表す因子を変更して復元画像を生成することを目指しています。
本稿では、変調タスクで高周波テクスチャを生成する制御可能なUnetGenerative Adversarial Network (CUGAN)を提案する。
論文 参考訳(メタデータ) (2021-05-07T07:05:56Z) - Bayesian Transformer Language Models for Speech Recognition [59.235405107295655]
トランスフォーマーで表現される最先端のニューラルネットワークモデル(LM)は非常に複雑である。
本稿では,トランスフォーマーLM推定のためのベイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2021-02-09T10:55:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。