論文の概要: Diffeomorphic Optimization

• arxiv url: http://arxiv.org/abs/2607.00947v1
• Date: Wed, 01 Jul 2026 13:46:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.921641
• Title: Diffeomorphic Optimization
• Title（参考訳）: 微分同相最適化
• Abstract要約: 生成モデルは、高次元空間内の低次元多様体上のデータ分布を学習する。 これは、$mathcalO(2)$補正までのデータ上の勾配降下と等価であり、軌道を1次元に維持することを示す。
• 参考スコア（独自算出の注目度）: 7.066746852538784
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative models learn data distributions that reside on a low-dimensional manifold within a higher-dimensional ambient space. Optimizing differentiable objectives on this manifold is challenging: the ambient loss landscape is high-dimensional, rugged, and non-convex. Direct gradient descent, blind to the manifold's geometry, quickly drifts off it. Diffeomorphic optimization starts from the observation that diffusion and flow models provide a map from the data manifold to a much simpler base space in which we perform gradient descent. Using differential geometry, we show this is equivalent to Riemannian gradient descent on the data manifold up to $\mathcal{O}(λ^2)$ corrections, keeping trajectories on-manifold by construction and yielding a smoother optimization surface. For protein design, we extend diffeomorphic optimization to the matrix Lie groups $\mathrm{SO}(3)$ and $\mathrm{SE}(3)$, deriving an autograd-compatible $\mathrm{SO}(3)$ gradient and a generalized adjoint-state method for backpropagation through Lie-group ODE solvers. Diffeomorphic optimization improves over tuned guidance on secondary-structure targeting with FrameFlow ($91.3\%$ vs. $63.3\%$ of residues in the Ramachandran target), outperforms OC-Flow on peptide binding affinity at $2\times$ the speed, and reduces Rosetta energies by thousands of units across the PDB test set for structures with hundreds of residues.
• Abstract（参考訳）: 生成モデルは、高次元空間内の低次元多様体に存在するデータ分布を学習する。 この多様体上で微分可能な目的を最適化することは困難であり、周囲のロスランドスケープは高次元で頑丈で非凸である。 多様体の幾何に盲目な直勾配降下は、すぐに退散する。 微分同相最適化は、拡散とフローモデルがデータ多様体から勾配降下を行うより単純な基底空間への写像を提供するという観察から始まる。 微分幾何学を用いて、これはデータ多様体上のリーマン勾配降下と$\mathcal{O}(λ^2)$の補正と等価であることを示す。 タンパク質設計では、微分同相最適化を行列 Lie 群 $\mathrm{SO}(3)$ および $\mathrm{SE}(3)$ に拡張し、オートグラデーション互換 $\mathrm{SO}(3)$ 勾配と、リー群 ODE ソルバによるバックプロパゲーションの一般化された随伴状態法を導出する。 Diffeomorphic Optimization は FrameFlow (91.3\% vs. 63.3\%$) による二次構造ターゲティングのチューニングによるガイダンスの改善、ペプチド結合親和性に対する OC-Flow の 2 倍の速度で OC-Flow を上回り、何百もの残基を持つ構造体に対する PDB テストセットの数千単位のエネルギーを低減させる。

関連論文リスト

• FlatVPR: Plug-and-play Geo-linear Residual Adapter for Geometric Rectification of Foundation Model Feature Manifolds [0.7734726150561086]
  FlatVPR'は、視覚的位置認識における地図軽量性と位置決め精度のトレードオフを橋渡しする。 本手法は, 数学的に接地したプルバック平坦性損失を用いて, 多様体曲率を明示的に抑制する。 NCLTデータセットの実験では、アダプタの適用によってパフォーマンスが大幅に向上することを示した。
  論文  参考訳（メタデータ） (2026-06-01T05:56:59Z)
• Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds [61.14405512940818]
  Scoreベースの生成モデルは高次元空間で訓練されていることを示す。 有限固有アンカーとガウス・ニュートンによる最も近い射影座標のReLU実装を用いる。
  論文  参考訳（メタデータ） (2026-05-15T10:20:05Z)
• Towards Scalable Persistence-Based Topological Optimization [44.16669776030478]
  永続性に基づく位相最適化は、点クラウド $X の部分集合 mathbbRd$ を $L(X) = ell(mathrmDgm(X))$ という形の目的を最小化することによって変形する。 実際、最適化は2つの結合した問題によって制限される: 永続ホモロジーは典型的にはサブサンプル上で計算され、結果として生じる位相勾配は非常にスパースであり、非ゼロ更新を受けるアンカーポイントはわずかである。
  論文  参考訳（メタデータ） (2026-05-09T15:47:20Z)
• StelLA: Subspace Learning in Low-rank Adaptation using Stiefel Manifold [51.93627542334909]
  低ランク適応(LoRA)は大規模事前訓練モデルのパラメータ効率向上手法として広く採用されている。 3要素分解$U!SVtop$を使用するLoRAの幾何学的拡張を提案する。
  論文  参考訳（メタデータ） (2025-10-02T11:59:13Z)
• Efficient Diffusion Models for Symmetric Manifolds [25.99200001269046]
  本稿では,$d$次元対称空間に対する効率的な拡散モデル設計のためのフレームワークを提案する。 マンデラ対称性は拡散が「平均ケース」リプシッツ条件を満たすことを保証する。 本モデルは,学習速度において先行手法より優れ,合成データセットのサンプル品質が向上する。
  論文  参考訳（メタデータ） (2025-05-27T18:12:29Z)
• FFT-based Dynamic Subspace Selection for Low-Rank Adaptive Optimization of Large Language Models [49.397861654088636]
  低次元空間へのSVD/QRベースの勾配射影を近似する2段階の手順を提案する。 当社の戦略はランタイムの高速化とメモリ使用量の削減を,さまざまなモデルサイズで最大25%削減できることが示されています。
  論文  参考訳（メタデータ） (2025-05-23T14:37:00Z)
• 3DGS-LM: Faster Gaussian-Splatting Optimization with Levenberg-Marquardt [65.25603275491544]
  3DGS-LM, 3D Gaussian Splatting(3DGS)の再構築を高速化する新しい手法を提案する。 提案手法は, 元の3DGSよりも20%高速であり, 再構成品質の最適化が可能である。
  論文  参考訳（メタデータ） (2024-09-19T16:31:44Z)
• Global $\mathcal{L}^2$ minimization at uniform exponential rate via geometrically adapted gradient descent in Deep Learning [1.4050802766699084]
  本稿では,ディープラーニング(DL)ネットワークにおける教師あり学習のシナリオについて考察する。 DLネットワークの出力層におけるユークリッド計量に対する勾配流を選択する。
  論文  参考訳（メタデータ） (2023-11-27T02:12:02Z)
• Scaling Riemannian Diffusion Models [68.52820280448991]
  非自明な多様体上の高次元タスクにスケールできることを示す。 我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
  論文  参考訳（メタデータ） (2023-10-30T21:27:53Z)
• ELRA: Exponential learning rate adaption gradient descent optimization method [83.88591755871734]
  我々は, 高速(指数率), ab initio(超自由)勾配に基づく適応法を提案する。 本手法の主な考え方は,状況認識による$alphaの適応である。 これは任意の次元 n の問題に適用でき、線型にしかスケールできない。
  論文  参考訳（メタデータ） (2023-09-12T14:36:13Z)
• IKOL: Inverse kinematics optimization layer for 3D human pose and shape estimation via Gauss-Newton differentiation [44.00115413716392]
  本稿では3次元ポーズ形状推定のための逆運動層(IKOL)を提案する。 IKOLは、既存の回帰ベースのメソッドよりもはるかに多い。 より正確な3Dポーズ推定を提供する。
  論文  参考訳（メタデータ） (2023-02-02T12:43:29Z)
• Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with Variance Reduction and its Application to Optimization [50.83356836818667]
  勾配ランゲヴィン・ダイナミクスは非エプス最適化問題を解くための最も基本的なアルゴリズムの1つである。 本稿では、このタイプの2つの変種、すなわち、分散還元ランジュバンダイナミクスと再帰勾配ランジュバンダイナミクスを示す。
  論文  参考訳（メタデータ） (2022-03-30T11:39:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。