論文の概要: Improving Training-free Conditional Diffusion Model via Fisher Information

• arxiv url: http://arxiv.org/abs/2404.18252v2
• Date: Tue, 12 Nov 2024 08:01:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-13 13:17:03.311636
• Title: Improving Training-free Conditional Diffusion Model via Fisher Information
• Title（参考訳）: 漁業情報による無訓練条件拡散モデルの改善
• Authors: Kaiyu Song, Hanjiang Lai,
• Abstract要約: 条件に応じて高品質なサンプルを生成するための,フィッシャー情報に基づく新しい条件拡散モデルを提案する。 本研究では,各生成段階における条件のインフォメーション性を測定するために,フィッシャー情報が重みとして機能することを示す。 実験の結果,提案したFICDは,ほとんどのベースラインと同じサンプリングステップで最大2倍のスピードアップを提供できることがわかった。
• 参考スコア（独自算出の注目度）: 7.3604864243987365
• License:
• Abstract: Training-free conditional diffusion models have received great attention in conditional image generation tasks. However, they require a computationally expensive conditional score estimator to let the intermediate results of each step in the reverse process toward the condition, which causes slow conditional generation. In this paper, we propose a novel Fisher information-based conditional diffusion (FICD) model to generate high-quality samples according to the condition. In particular, we further explore the conditional term from the perspective of Fisher information, where we show Fisher information can act as a weight to measure the informativeness of the condition in each generation step. According to this new perspective, we can control and gain more information along the conditional direction in the generation space. Thus, we propose the upper bound of the Fisher information to reformulate the conditional term, which increases the information gain and decreases the time cost. Experimental results also demonstrate that the proposed FICD can offer up to 2x speed-ups under the same sampling steps as most baselines. Meanwhile, FICD can improve the generation quality in various tasks compared to the baselines with a low computation cost.
• Abstract（参考訳）: 条件付き条件付き拡散モデルは条件付き画像生成タスクにおいて大きな注目を集めている。 しかし、計算コストのかかる条件スコア推定器が必要であり、各ステップの中間結果を逆の過程に向けることで条件生成が遅くなる。 本稿では,その条件に応じて高品質なサンプルを生成するための新しいFisher Information-based Conditional diffusion (FICD)モデルを提案する。 特に、フィッシャー情報の観点から条件項をさらに探求し、各生成ステップにおける条件の情報量を測定するために、フィッシャー情報が重みとして機能することを示す。 この新たな視点により、生成空間の条件方向に沿って、より多くの情報を制御および取得することができる。 そこで本稿では,情報ゲインを増大させ,時間的コストを低減させる条件項を再構成するフィッシャー情報の上界を提案する。 また,提案したFICDは,ほとんどのベースラインと同じサンプリングステップで最大2倍のスピードアップを提供できることを示した。 一方、FICDは、計算コストの低いベースラインに比べて、様々なタスクにおける生成品質を向上させることができる。

関連論文リスト

• Schr\"odinger bridge based deep conditional generative learning [0.0]
  我々は条件分布を学習するための新しいSchr"odinger Bridgeに基づく深層生成手法を提案する。 本手法を低次元および高次元条件生成問題に適用する。
  論文  参考訳（メタデータ） (2024-09-25T19:08:13Z)
• Don't drop your samples! Coherence-aware training benefits Conditional diffusion [17.349357521783062]
  Coherence-Aware Diffusion (CAD) は条件情報のコヒーレンスを拡散モデルに統合する新しい手法である。 CADは理論的に健全であり,様々な条件生成タスクに対して実験的に有効であることを示す。
  論文  参考訳（メタデータ） (2024-05-30T17:57:26Z)
• Bridging the Gap: Addressing Discrepancies in Diffusion Model Training for Classifier-Free Guidance [1.6804613362826175]
  拡散モデルは、生成モデルにおいて重要な進歩として現れている。 本稿では,従来の訓練方法と所望の条件付きサンプリング行動との相違点を明らかにすることを目的とする。 トレーニング目標とサンプリング行動との整合性を向上する改良された損失関数を導入する。
  論文  参考訳（メタデータ） (2023-11-02T02:03:12Z)
• CADS: Unleashing the Diversity of Diffusion Models through Condition-Annealed Sampling [27.795088366122297]
  Condition-Annealed Diffusion Sampler (CADS) は任意の事前学習モデルとサンプリングアルゴリズムで使用することができる。 本研究では,様々な条件生成タスクにおける拡散モデルの多様性を向上することを示す。
  論文  参考訳（メタデータ） (2023-10-26T12:27:56Z)
• Instructed Diffuser with Temporal Condition Guidance for Offline Reinforcement Learning [71.24316734338501]
  テンポラリ・コンポラブル・ディフューザ(TCD)を用いた実効時間条件拡散モデルを提案する。 TCDは、相互作用シーケンスから時間情報を抽出し、時間条件で生成を明示的にガイドする。 提案手法は,従来のSOTAベースラインと比較して最高の性能を達成または一致させる。
  論文  参考訳（メタデータ） (2023-06-08T02:12:26Z)
• Conditional Generation from Unconditional Diffusion Models using Denoiser Representations [94.04631421741986]
  本稿では,学習したデノイザネットワークの内部表現を用いて,事前学習した非条件拡散モデルを新しい条件に適用することを提案する。 提案手法により生成した合成画像を用いたTiny ImageNetトレーニングセットの強化により,ResNetベースラインの分類精度が最大8%向上することを示す。
  論文  参考訳（メタデータ） (2023-06-02T20:09:57Z)
• Collapse by Conditioning: Training Class-conditional GANs with Limited Data [109.30895503994687]
  非条件学習を活用することにより、観測モード崩壊を効果的に防止する条件付きGAN(cGAN)のトレーニング戦略を提案する。 我々のトレーニング戦略は、無条件のGANから始まり、徐々に条件情報をジェネレータと目的関数に注入する。 安定したトレーニングだけでなく,高品質な画像を生成するために,限られたデータでcGANを訓練する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-17T18:59:23Z)
• PriorGrad: Improving Conditional Denoising Diffusion Models with Data-Driven Adaptive Prior [103.00403682863427]
  条件拡散モデルの効率を改善するために, PreGrad を提案する。 PriorGradはデータとパラメータの効率を向上し、品質を向上する。
  論文  参考訳（メタデータ） (2021-06-11T14:04:03Z)
• Improving Maximum Likelihood Training for Text Generation with Density Ratio Estimation [51.091890311312085]
  本稿では,テキスト生成で遭遇する大規模なサンプル空間において,効率よく安定な自動回帰シーケンス生成モデルのトレーニング手法を提案する。 本手法は,品質と多様性の両面で,最大類似度推定や他の最先端シーケンス生成モデルよりも安定に優れている。
  論文  参考訳（メタデータ） (2020-07-12T15:31:24Z)
• On Leveraging Pretrained GANs for Generation with Limited Data [83.32972353800633]
  生成的敵ネットワーク(GAN)は、しばしば(人間によって)実際の画像と区別できない非常に現実的な画像を生成することができる。 このように生成されたほとんどの画像はトレーニングデータセットには含まれておらず、GAN生成データでトレーニングセットを増強する可能性を示唆している。 我々は、大規模なデータセットで事前訓練された既存のGANモデルを活用し、トランスファーラーニングの概念に従って追加の知識を導入する。 限られたデータを用いた生成における提案手法の有効性を示すため, 広範囲な実験を行った。
  論文  参考訳（メタデータ） (2020-02-26T21:53:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。