論文の概要: Multidimensional Adaptive Coefficient for Inference Trajectory Optimization in Flow and Diffusion
- arxiv url: http://arxiv.org/abs/2404.14161v3
- Date: Fri, 06 Jun 2025 13:50:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-09 17:28:42.592165
- Title: Multidimensional Adaptive Coefficient for Inference Trajectory Optimization in Flow and Diffusion
- Title(参考訳): 流れと拡散における推論軌道最適化のための多次元適応係数
- Authors: Dohoon Lee, Jaehyun Park, Hyunwoo J. Kim, Kyogu Lee,
- Abstract要約: フローモデルと拡散モデルは、様々なタスクにおいて強い性能と訓練安定性を示してきた。
フローおよび拡散モデルのためのプラグインモジュールである多次元適応係数(MAC)を提案する。
- 参考スコア(独自算出の注目度): 26.876236866996422
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Flow and diffusion models have demonstrated strong performance and training stability across various tasks but lack two critical properties of simulation-based methods: freedom of dimensionality and adaptability to different inference trajectories. To address this limitation, we propose the Multidimensional Adaptive Coefficient (MAC), a plug-in module for flow and diffusion models that extends conventional unidimensional coefficients to multidimensional ones and enables inference trajectory-wise adaptation. MAC is trained via simulation-based feedback through adversarial refinement. Empirical results across diverse frameworks and datasets demonstrate that MAC enhances generative quality with high training efficiency. Consequently, our work offers a new perspective on inference trajectory optimality, encouraging future research to move beyond vector field design and to leverage training-efficient, simulation-based optimization.
- Abstract(参考訳): フローモデルと拡散モデルは、様々なタスクに対して強い性能と訓練安定性を示してきたが、シミュレーションベースの手法の2つの重要な特性、つまり次元の自由と異なる推論軌道への適応性は欠如している。
この制限に対処するために,従来の一次元係数を多次元に拡張し,推論軌道ワイド適応を可能にするフローおよび拡散モデルのためのプラグインモジュールである多次元適応係数(MAC)を提案する。
MACは、シミュレーションベースのフィードバックを通じて、敵の洗練を通じて訓練される。
さまざまなフレームワークやデータセットにまたがる実証的な結果は、MACが高いトレーニング効率で生成品質を向上させることを示す。
その結果,予測軌道最適性に関する新たな視点が得られ,ベクトル場設計を超越し,学習効率の高いシミュレーションに基づく最適化の活用が期待できる。
関連論文リスト
- Training Neural ODEs Using Fully Discretized Simultaneous Optimization [2.290491821371513]
ニューラルネットワークの正規微分方程式(Neural ODEs)の学習には、各エポックにおける微分方程式の解法が必要であるため、計算コストが高い。
特に、コロケーションに基づく完全に離散化された定式化を採用し、大規模な非線形最適化にIPOPT-aソルバを用いる。
この結果から,(コロケーションをベースとした)同時ニューラルODE訓練パイプラインの可能性が示唆された。
論文 参考訳(メタデータ) (2025-02-21T18:10:26Z) - Invertible Solution of Neural Differential Equations for Analysis of
Irregularly-Sampled Time Series [4.14360329494344]
本稿では,不規則な時系列データと不完全時系列データの複雑度を扱うために,ニューラル微分方程式(NDE)に基づく非可逆解を提案する。
計算負荷を低く抑えながら可逆性を確保するニューラルフローを用いたニューラル制御微分方程式(Neural Controlled Differential Equations, ニューラルCDE)の変動について提案する。
我々のアプローチの核となるのは拡張された二重潜在状態アーキテクチャであり、様々な時系列タスクにおいて高精度に設計されている。
論文 参考訳(メタデータ) (2024-01-10T07:51:02Z) - Analyzing and Enhancing the Backward-Pass Convergence of Unrolled
Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。
本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。
Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文 参考訳(メタデータ) (2023-12-28T23:15:18Z) - Neural Dynamical Operator: Continuous Spatial-Temporal Model with Gradient-Based and Derivative-Free Optimization Methods [0.0]
本稿では、空間と時間の両方で連続的なニューラルダイナミクス演算子と呼ばれるデータ駆動モデリングフレームワークを提案する。
神経力学演算子の鍵となる特徴は、空間的および時間的離散化の両方に関して分解能不変性である。
提案手法は,ハイブリッド最適化方式により,より長期統計量の予測が可能であることを示す。
論文 参考訳(メタデータ) (2023-11-20T14:31:18Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - Semi-supervised Learning of Partial Differential Operators and Dynamical
Flows [68.77595310155365]
本稿では,超ネットワーク解法とフーリエニューラル演算子アーキテクチャを組み合わせた新しい手法を提案する。
本手法は, 1次元, 2次元, 3次元の非線形流体を含む様々な時間発展PDEを用いて実験を行った。
その結果、新しい手法は、監督点の時点における学習精度を向上し、任意の中間時間にその解を補間できることを示した。
論文 参考訳(メタデータ) (2022-07-28T19:59:14Z) - A theoretical and empirical study of new adaptive algorithms with
additional momentum steps and shifted updates for stochastic non-convex
optimization [0.0]
適応最適化アルゴリズムは学習分野の鍵となる柱を表現していると考えられる。
本稿では,異なる非滑らかな目的問題に対する適応運動量法を提案する。
論文 参考訳(メタデータ) (2021-10-16T09:47:57Z) - Second-Order Neural ODE Optimizer [11.92713188431164]
微分プログラミングと呼ばれる特定の連続時間OC手法は、同じO(1)メモリコストで高次デリバティブに対して下位のODEを導出するために適用可能であることを示す。
この手法は,壁面時間における1次ベースラインよりもはるかに高速に収束する。
また,ニューラルODEの統合時間や2次フィードバックポリシなど,アーキテクチャの直接的な最適化も実現している。
論文 参考訳(メタデータ) (2021-09-29T02:58:18Z) - Optimization on manifolds: A symplectic approach [127.54402681305629]
本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。
我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
論文 参考訳(メタデータ) (2021-07-23T13:43:34Z) - A Discrete Variational Derivation of Accelerated Methods in Optimization [68.8204255655161]
最適化のための異なる手法を導出できる変分法を導入する。
我々は1対1の対応において最適化手法の2つのファミリを導出する。
自律システムのシンプレクティシティの保存は、ここでは繊維のみに行われる。
論文 参考訳(メタデータ) (2021-06-04T20:21:53Z) - DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。
我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4~19倍のスピードアップを観測した。
論文 参考訳(メタデータ) (2021-01-15T00:13:33Z) - Adaptive Sampling of Pareto Frontiers with Binary Constraints Using
Regression and Classification [0.0]
本稿では,二項制約を持つブラックボックス多目的最適化問題に対する適応最適化アルゴリズムを提案する。
本手法は確率的回帰モデルと分類モデルに基づいており,最適化目標のサロゲートとして機能する。
また,予想される超体積計算を高速化するために,新しい楕円形トランケーション法を提案する。
論文 参考訳(メタデータ) (2020-08-27T09:15:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。