論文の概要: Calibri: Enhancing Diffusion Transformers via Parameter-Efficient Calibration
- arxiv url: http://arxiv.org/abs/2603.24800v1
- Date: Wed, 25 Mar 2026 20:19:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-27 20:52:47.982783
- Title: Calibri: Enhancing Diffusion Transformers via Parameter-Efficient Calibration
- Title(参考訳): Calibri: パラメータ有効校正による拡散変換器の強化
- Authors: Danil Tokhchukov, Aysel Mirzoeva, Andrey Kuznetsov, Konstantin Sobolev,
- Abstract要約: Calibriは、DiTコンポーネントを最適に校正して生成品質を高めるパラメータ効率のアプローチである。
Calibriは、さまざまなテキスト・ツー・イメージモデルのパフォーマンスを一貫して改善する。
- 参考スコア(独自算出の注目度): 3.1037700656427627
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we uncover the hidden potential of Diffusion Transformers (DiTs) to significantly enhance generative tasks. Through an in-depth analysis of the denoising process, we demonstrate that introducing a single learned scaling parameter can significantly improve the performance of DiT blocks. Building on this insight, we propose Calibri, a parameter-efficient approach that optimally calibrates DiT components to elevate generative quality. Calibri frames DiT calibration as a black-box reward optimization problem, which is efficiently solved using an evolutionary algorithm and modifies just ~100 parameters. Experimental results reveal that despite its lightweight design, Calibri consistently improves performance across various text-to-image models. Notably, Calibri also reduces the inference steps required for image generation, all while maintaining high-quality outputs.
- Abstract(参考訳): 本稿では,Diffusion Transformer (DiTs) の隠れた可能性を明らかにする。
本研究は,ディノナイジングプロセスの詳細な解析を通じて,単一学習スケーリングパラメータの導入により,DiTブロックの性能が大幅に向上できることを実証する。
この知見に基づいて,DiT成分を最適に校正して生成品質を高めるパラメータ効率の高いアプローチであるCalibriを提案する。
カリブリは、DETキャリブレーションをブラックボックス報酬最適化問題として捉え、進化的アルゴリズムを用いて効率的に解き、たった100のパラメータを修正した。
実験の結果、軽量な設計にもかかわらず、Calibriは様々なテキスト・ツー・イメージモデルのパフォーマンスを一貫して改善していることがわかった。
特にCalibriは、高品質な出力を維持しながら、画像生成に必要な推論ステップを削減している。
関連論文リスト
- Iterative Camera-LiDAR Extrinsic Optimization via Surrogate Diffusion [5.931285305072944]
カメラとLiDARは自動運転車に不可欠なセンサーだ。
代理拡散に基づく多目的反復型フレームワークを提案する。
このフレームワークは、アーキテクチャの変更を必要とせずに、キャリブレーション手法の性能を向上させることができる。
論文 参考訳(メタデータ) (2025-06-17T16:44:51Z) - Accelerating Diffusion Transformer via Increment-Calibrated Caching with Channel-Aware Singular Value Decomposition [4.0594792247165]
拡散変換器(DiT)モデルは画像生成において顕著な成功を収めた。
Increment-calibrated cache, a training-free method for DiT accelerate。
本手法は45%以上を除去し,0.06 FID増加のコストでISを12倍に改善する。
論文 参考訳(メタデータ) (2025-05-09T06:56:17Z) - Feature Clipping for Uncertainty Calibration [24.465567005078135]
現代のディープニューラルネットワーク(DNN)は、しばしば過剰な自信に悩まされ、誤校正につながる。
この問題に対処するために,特徴クリッピング(FC)と呼ばれるポストホックキャリブレーション手法を提案する。
FCは特定の閾値に特徴値をクリップし、高い校正誤差サンプルのエントロピーを効果的に増加させる。
論文 参考訳(メタデータ) (2024-10-16T06:44:35Z) - Spectrum-Aware Parameter Efficient Fine-Tuning for Diffusion Models [73.88009808326387]
生成モデルのための新しいスペクトル対応適応フレームワークを提案する。
本手法は,事前学習した重みの特異値とその基底ベクトルを調節する。
本稿では,計算効率と表現能力のバランスをとるスペクトルオーソ分解適応(SODA)を提案する。
論文 参考訳(メタデータ) (2024-05-31T17:43:35Z) - On the Scalability of Diffusion-based Text-to-Image Generation [97.64837704129005]
拡散に基づくテキスト・ツー・イメージ(T2I)モデルのスケーリング特性について検討する。
モデルスケーリングでは、既存のUNet設計の性能を区別して、クロスアテンションの位置と量を求める。
データスケーリングの面では、単にデータセットのサイズではなく、トレーニングセットの品質と多様性が重要です。
論文 参考訳(メタデータ) (2024-04-03T17:34:28Z) - C-TPT: Calibrated Test-Time Prompt Tuning for Vision-Language Models via Text Feature Dispersion [54.81141583427542]
深層学習において,ラベル付きデータを必要としない微調整手法としてテスト時間適応が注目されている。
本稿では,CLIPの固有特性を利用したテスト時プロンプトチューニング時の校正について検討する。
そこで本研究では,C-TPT(Calibrated Test-time Prompt Tuning)という,キャリブレーションの強化によるテスト時間中のプロンプトの最適化手法を提案する。
論文 参考訳(メタデータ) (2024-03-21T04:08:29Z) - E^2VPT: An Effective and Efficient Approach for Visual Prompt Tuning [55.50908600818483]
新しいタスクのための微調整された大規模な事前学習型ビジョンモデルは、パラメーター集約化が進んでいる。
本稿では,大規模なトランスフォーマーモデル適応のための効果的かつ効率的なビジュアルプロンプトチューニング(E2VPT)手法を提案する。
提案手法は2つのベンチマークにおいて,最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2023-07-25T19:03:21Z) - Parameterized Temperature Scaling for Boosting the Expressive Power in
Post-Hoc Uncertainty Calibration [57.568461777747515]
我々は新しいキャリブレーション手法であるパラメタライズド温度スケーリング(PTS)を導入する。
最新のポストホックキャリブレータの精度保持性能は、その本質的な表現力によって制限されることを実証します。
当社の新しい精度保存手法が,多数のモデルアーキテクチャやデータセット,メトリクスにおいて,既存のアルゴリズムを一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2021-02-24T10:18:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。