論文の概要: Selective Guidance: Are All the Denoising Steps of Guided Diffusion Important?

• arxiv url: http://arxiv.org/abs/2305.09847v1
• Date: Tue, 16 May 2023 23:30:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-18 18:12:45.583174
• Title: Selective Guidance: Are All the Denoising Steps of Guided Diffusion Important?
• Title（参考訳）: 選択的指導: 誘導拡散の分別ステップは、すべて重要か?
• Authors: Pareesa Ameneh Golnari, Zhewei Yao, Yuxiong He
• Abstract要約: 本研究では,安定拡散誘導推論パイプラインの最適化の影響について検討した。 本研究では、条件付き雑音に対する雑音計算の制限と非条件付き雑音計算の除去を提案する。 最適化を最後のイテレーションの50%に拡張することで、推論時間を約20.3%短縮できることがわかった。
• 参考スコア（独自算出の注目度）: 20.430058046202326
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This study examines the impact of optimizing the Stable Diffusion (SD) guided inference pipeline. We propose optimizing certain denoising steps by limiting the noise computation to conditional noise and eliminating unconditional noise computation, thereby reducing the complexity of the target iterations by 50%. Additionally, we demonstrate that later iterations of the SD are less sensitive to optimization, making them ideal candidates for applying the suggested optimization. Our experiments show that optimizing the last 20% of the denoising loop iterations results in an 8.2% reduction in inference time with almost no perceivable changes to the human eye. Furthermore, we found that by extending the optimization to 50% of the last iterations, we can reduce inference time by approximately 20.3%, while still generating visually pleasing images.
• Abstract（参考訳）: 本研究では,安定拡散(SD)誘導推論パイプラインの最適化の影響について検討した。 本稿では,雑音計算を条件付き雑音に制限し,非条件付き雑音計算をなくし,目的の繰り返しの複雑さを50%減らし,特定の雑音処理を最適化することを提案する。 さらに、後続のSDの繰り返しは最適化に敏感でなく、提案した最適化を適用する上で理想的な候補となることを示した。 実験の結果, 最後の20%のループ繰り返しを最適化すると, 推測時間が8.2%減少し, 人間の目にはほとんど変化がないことがわかった。 さらに、前回のイテレーションの50%に最適化を拡張することで、推論時間を約20.3%短縮し、視覚的に満足な画像を生成することができることがわかった。

関連論文リスト

• Iterative Reasoning Preference Optimization [84.15992372132507]
  生成したChain-of-Thought(CoT)候補間の嗜好を最適化するための反復的アプローチを開発する。 このスキームの繰り返し繰り返しにおける推論の改善を示す。 例えば、GSM8Kは55.6%から81.6%に大きく改善され、精度は88.7%となり、32のサンプルのうち多数が投票した。
  論文  参考訳（メタデータ） (2024-04-30T17:28:05Z)
• ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
  外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。 Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
  論文  参考訳（メタデータ） (2024-04-05T13:58:51Z)
• Accelerated Parameter-Free Stochastic Optimization [28.705054104155973]
  本研究では,滑らかな凸最適化のための近似速度を求める手法を提案する。 問題パラメータに関する事前の知識は要らない。 本実験は, 凸問題に対する一貫した強い性能と, ニューラルネットワークトレーニングにおける混合結果を示す。
  論文  参考訳（メタデータ） (2024-03-31T12:21:57Z)
• Accelerating Diffusion-based Combinatorial Optimization Solvers by Progressive Distillation [43.60874566377421]
  本稿では, 脱臭過程において少ないステップで推算を高速化するために, プログレッシブ蒸留法を提案する。 実験結果から, 徐々に蒸留したモデルでは0.019%の性能低下を伴わず, 16倍の速度で推算できることがわかった。
  論文  参考訳（メタデータ） (2023-08-12T21:25:24Z)
• Resetting the Optimizer in Deep RL: An Empirical Study [10.907980864371213]
  深層強化学習における最適値関数の近似に着目する。 この単純な修正により,Atariベンチマークにおける深部RLの性能が大幅に向上することが実証された。
  論文  参考訳（メタデータ） (2023-06-30T17:53:50Z)
• Provable Stochastic Optimization for Global Contrastive Learning: Small Batch Does Not Harm Performance [53.49803579981569]
  各正の対と全ての負の対をアンカーポイントで対比する、コントラスト学習のグローバルな目的を考える。 SimCLRのような既存のメソッドは、十分な結果を得るために大きなバッチサイズを必要とする。 本稿では,SogCLRという表現のグローバルコントラスト学習を解くためのメモリ効率の最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-02-24T22:16:53Z)
• Predict and Optimize: Through the Lens of Learning to Rank [9.434400627011108]
  ノイズコントラスト推定は、ソリューションキャッシュのランク付けを学習する場合とみなすことができる。 また、最適化問題を解くことなく、閉じた形で区別できるペアワイズとリストワイズランキングの損失関数も開発する。
  論文  参考訳（メタデータ） (2021-12-07T10:11:44Z)
• An Efficient Batch Constrained Bayesian Optimization Approach for Analog Circuit Synthesis via Multi-objective Acquisition Ensemble [11.64233949999656]
  MACE(Multi-objective Acquisition Function Ensemble)を用いた並列化可能なベイズ最適化アルゴリズムを提案する。 提案アルゴリズムは,バッチサイズが15のときの非制約最適化問題に対する微分進化(DE)と比較して,シミュレーション全体の時間を最大74倍削減することができる。 制約付き最適化問題に対して,提案アルゴリズムは,バッチサイズが15の場合に,重み付き改善に基づくベイズ最適化(WEIBO)アプローチと比較して最大15倍の高速化を実現することができる。
  論文  参考訳（メタデータ） (2021-06-28T13:21:28Z)
• Stochastic Optimization Forests [60.523606291705214]
  標準的なランダムな森林アルゴリズムのように予測精度を向上させるために分割するのではなく、分割を選択した木を栽培し、下流の意思決定品質を直接最適化することで、森林決定政策の訓練方法を示す。 概略分割基準は、各候補分割に対して正確に最適化された森林アルゴリズムに近い性能を保ちながら、100倍のランニング時間を短縮できることを示す。
  論文  参考訳（メタデータ） (2020-08-17T16:56:06Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)
• Private Stochastic Convex Optimization: Optimal Rates in Linear Time [74.47681868973598]
  本研究では,凸損失関数の分布から得られた個体群損失を最小化する問題について検討する。 Bassilyらによる最近の研究は、$n$のサンプルを与えられた過剰な人口損失の最適境界を確立している。 本稿では,余剰損失に対する最適境界を達成するとともに,$O(minn, n2/d)$グラデーション計算を用いて凸最適化アルゴリズムを導出する2つの新しい手法について述べる。
  論文  参考訳（メタデータ） (2020-05-10T19:52:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。