論文の概要: Denoising as Projection: Constrained Optimization with Gradient-Guided Diffusion

• arxiv url: http://arxiv.org/abs/2608.29507v1
• Date: Sun, 30 Aug 2026 01:48:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.984934
• Title: Denoising as Projection: Constrained Optimization with Gradient-Guided Diffusion
• Title（参考訳）: 射影としてのDenoising: 勾配誘導拡散による制約付き最適化
• Abstract要約: そこで本研究では,Stein denoising演算子がデータ幾何への近似射影として作用できるという観測に基づいて,簡易なプロジェクテッド・グラディエント誘導拡散更新法について検討する。 我々は、この更新を、学習可能なジオメトリに対する制約付き最適化のための、不正確な予測段階的手法として分析する。
• 参考スコア（独自算出の注目度）: 8.32006713455785
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models are increasingly used not only for sampling from learned data distributions, but also for generating samples that optimize task-specific objectives. A common approach is to guide the reverse diffusion process using gradients of an external objective. However, when the data distribution is supported on a structured feasible set, such as a manifold or a constraint set, gradient guidance can move samples away from the learned data geometry. In this paper, we study a simple projected-gradient-guided diffusion update based on the observation that the Stein denoising operator can act as an approximate projection onto the data geometry. The proposed update incorporates the objective gradient inside the denoising step, yielding an inference-time method that uses only a pretrained denoiser and gradient evaluations. We analyze this update as an inexact projected-gradient method for constrained optimization over learned feasible geometries. Our theory covers three settings: linear manifolds, compact convex feasible sets, and compact Riemannian submanifolds. In all these settings, we prove descent and finite-time convergence guarantees. Numerical experiments support the theoretical interpretation and illustrate how the proposed update balances objective descent with preservation of the learned geometry.
• Abstract（参考訳）: 拡散モデルは、学習したデータ分布からサンプリングするだけでなく、タスク固有の目的を最適化するサンプルを生成するためにも使われるようになっている。 一般的なアプローチは、外部目的の勾配を用いて逆拡散過程を導くことである。 しかし、データ分布が多様体や制約セットのような構造化可能な集合上でサポートされている場合、勾配ガイダンスはサンプルを学習したデータ幾何学から遠ざけることができる。 本稿では,データ幾何への近似射影としてステイン復調演算子が作用できるという観測に基づいて,簡易なプロジェクテッド・グラディエント誘導拡散更新について検討する。 提案した更新では, 目標勾配をデノライズステップ内に組み込んで, 事前学習したデノライザのみを用いた推論時間法と勾配評価を行う。 我々は、この更新を、学習可能なジオメトリに対する制約付き最適化のための、不正確な予測段階的手法として分析する。 我々の理論は、線型多様体、コンパクト凸可能集合、コンパクトリーマン部分多様体の3つの設定を含んでいる。 これらすべての設定において、降下と有限時間収束を保証する。 数値実験は理論的な解釈を支持し、提案された更新が目的の降下と学習した幾何学の保存とのバランスをいかに表すかを説明する。

関連論文リスト

• Stochastic Gradient Optimization with Model-Assisted Sampling [0.0]
  本稿では, サーベイサンプリング理論を用いて, ミニバッチ勾配を解釈するモデル支援サンプリングフレームワークを提案する。 本研究の目的は,機械学習の最適化とサンプリング理論の橋渡しであり,サンプルベース推定と分散低減を両立させることである。
  論文  参考訳（メタデータ） (2026-06-25T15:39:19Z)
• Geometry-Aware Dataset Condensation for Diffusion Model Training [103.45641113998839]
  幾何学的分布アライメント問題として,実部分集合選択を再構成することを提案する。 本手法は,一方的な部分的最適輸送を組み込むことで,コンパクトな部分集合を全データ分布に選択的に整列させる。 拡散変形, 部分集合サイズ, 画像解像度, 訓練ラウンドにおける実験により, 本手法が優れた忠実度と分布範囲を実現することを示す。
  論文  参考訳（メタデータ） (2026-06-04T08:53:58Z)
• Predictable Gradient Manifolds in Deep Learning: Temporal Path-Length and Intrinsic Rank as a Complexity Regime [0.0]
  経験的に、訓練軌道に沿って、しばしば時間的に予測可能であり、低次元の部分空間内で進化する。 我々は、予測可能な次元勾配の測定可能なフレームワークを通して、この観測を定式化する。 本稿では,適応勾配,ランク認識追跡,および実トレーニング実行の計測可能な特性に基づく予測に基づく設計について紹介する。
  論文  参考訳（メタデータ） (2026-01-07T11:23:55Z)
• On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
  既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。 本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
  論文  参考訳（メタデータ） (2025-10-22T18:25:43Z)
• A Historical Trajectory Assisted Optimization Method for Zeroth-Order Federated Learning [24.111048817721592]
  フェデレートラーニングは分散勾配降下技術に大きく依存している。 勾配情報が得られない状況では、勾配をゼロ次情報から推定する必要がある。 勾配推定法を改善するための非等方的サンプリング法を提案する。
  論文  参考訳（メタデータ） (2024-09-24T10:36:40Z)
• Gradient Guidance for Diffusion Models: An Optimization Perspective [45.6080199096424]
  本稿では,ユーザ特定目的の最適化に向けて,事前学習した拡散モデルを適用するための勾配ガイダンスの形式について検討する。 我々は,その最適化理論とアルゴリズム設計を体系的に研究するために,誘導拡散の数学的枠組みを確立する。
  論文  参考訳（メタデータ） (2024-04-23T04:51:02Z)
• Gradient-Based Feature Learning under Structured Data [57.76552698981579]
  異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。 バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。 特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
  論文  参考訳（メタデータ） (2023-09-07T16:55:50Z)
• Interpreting and Improving Diffusion Models from an Optimization Perspective [4.5993996573872185]
  我々はこの観測を用いて、ユークリッド距離関数に適用された近似勾配勾配勾配として拡散モデルを解釈する。 本稿では,理論結果からの洞察を用いてDDIMを一般化した新しい勾配推定サンプリング手法を提案する。
  論文  参考訳（メタデータ） (2023-06-08T00:56:33Z)
• Deep learning: a statistical viewpoint [120.94133818355645]
  ディープラーニングは、理論的観点からいくつかの大きな驚きを明らかにしました。 特に、簡単な勾配法は、最適でないトレーニング問題に対するほぼ完全な解決策を簡単に見つけます。 我々はこれらの現象を具体的原理で補うと推測する。
  論文  参考訳（メタデータ） (2021-03-16T16:26:36Z)
• Self-Tuning Stochastic Optimization with Curvature-Aware Gradient Filtering [53.523517926927894]
  サンプルごとのHessian-vector積と勾配を用いて、自己チューニングの二次構造を構築する。 モデルに基づく手続きが雑音勾配設定に収束することを証明する。 これは自己チューニング二次体を構築するための興味深いステップである。
  論文  参考訳（メタデータ） (2020-11-09T22:07:30Z)
• Path Sample-Analytic Gradient Estimators for Stochastic Binary Networks [78.76880041670904]
  二進的アクティベーションや二進的重みを持つニューラルネットワークでは、勾配降下によるトレーニングは複雑である。 そこで本研究では,サンプリングと解析近似を併用した新しい推定法を提案する。 勾配推定において高い精度を示し、深部畳み込みモデルにおいてより安定かつ優れた訓練を行うことを示す。
  論文  参考訳（メタデータ） (2020-06-04T21:51:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。