論文の概要: Generative Modeling on Lie Groups via Euclidean Generalized Score Matching

• arxiv url: http://arxiv.org/abs/2502.02513v1
• Date: Tue, 04 Feb 2025 17:32:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 14:57:28.699266
• Title: Generative Modeling on Lie Groups via Euclidean Generalized Score Matching
• Title（参考訳）: ユークリッド一般化スコアマッチングによるリー群の生成モデリング
• Authors: Marco Bertolini, Tuan Le, Djork-Arné Clevert,
• Abstract要約: ユークリッドの楽譜に基づく拡散過程をリー群上の生成的モデリングに拡張する。 我々のアプローチはリー代数表現の直和として分解されるランゲヴィン力学をもたらす。 軌道空間の有効次元を小さくすることで,リー群の適切な選択が学習効率を向上させることを示す。
• 参考スコア（独自算出の注目度）: 5.257115841810259
• License:
• Abstract: We extend Euclidean score-based diffusion processes to generative modeling on Lie groups. Through the formalism of Generalized Score Matching, our approach yields a Langevin dynamics which decomposes as a direct sum of Lie algebra representations, enabling generative processes on Lie groups while operating in Euclidean space. Unlike equivariant models, which restrict the space of learnable functions by quotienting out group orbits, our method can model any target distribution on any (non-Abelian) Lie group. Standard score matching emerges as a special case of our framework when the Lie group is the translation group. We prove that our generalized generative processes arise as solutions to a new class of paired stochastic differential equations (SDEs), introduced here for the first time. We validate our approach through experiments on diverse data types, demonstrating its effectiveness in real-world applications such as SO(3)-guided molecular conformer generation and modeling ligand-specific global SE(3) transformations for molecular docking, showing improvement in comparison to Riemannian diffusion on the group itself. We show that an appropriate choice of Lie group enhances learning efficiency by reducing the effective dimensionality of the trajectory space and enables the modeling of transitions between complex data distributions. Additionally, we demonstrate the universality of our approach by deriving how it extends to flow matching.
• Abstract（参考訳）: ユークリッドの楽譜に基づく拡散過程をリー群上の生成的モデリングに拡張する。 一般化スコアマッチングの形式主義を通じて、我々のアプローチはリー代数表現の直和として分解されるランゲヴィン力学を導き、ユークリッド空間で作用しながらリー群上の生成過程を可能にする。 群軌道を商化することで学習可能関数の空間を制限する同変モデルとは異なり、我々の手法は任意の(非アベリア)リー群上の任意の対象分布をモデル化することができる。 標準スコアマッチングは、リー群が翻訳群であるとき、我々のフレームワークの特別なケースとして現れる。 一般化された生成過程は、ここで初めて導入されたペア型確率微分方程式(SDE)の解として生じることを証明している。 分子ドッキングのためのSO(3)誘導分子コンホメータ生成やリガンド特異的なグローバルSE(3)変換のモデル化といった実世界の応用において,本手法の有効性を示すとともに,グループ自体のリーマン拡散と比較して改善したことを示す。 本稿では, 軌跡空間の有効次元性を低減し, 複雑なデータ分布間の遷移をモデル化することにより, リー群の適切な選択が学習効率を向上させることを示す。 さらに、フローマッチングにどのように拡張するかを導出することで、我々のアプローチの普遍性を実証する。

関連論文リスト

• Learning Divergence Fields for Shift-Robust Graph Representations [73.11818515795761]
  本研究では,相互依存データに対する問題に対して,学習可能な分散場を持つ幾何学的拡散モデルを提案する。 因果推論によって新たな学習目標が導出され、ドメイン間で無神経な相互依存の一般化可能なパターンを学習するためのモデルが導出される。
  論文  参考訳（メタデータ） (2024-06-07T14:29:21Z)
• Task Groupings Regularization: Data-Free Meta-Learning with Heterogeneous Pre-trained Models [83.02797560769285]
  Data-Free Meta-Learning (DFML)は、トレーニング済みモデルのコレクションから、元のデータにアクセスせずに知識を抽出することを目的としている。 現在の手法は、事前訓練されたモデル間の不均一性を見落とし、タスクの衝突による性能低下につながることが多い。
  論文  参考訳（メタデータ） (2024-05-26T13:11:55Z)
• Lie Group Decompositions for Equivariant Neural Networks [12.139222986297261]
  コンボリューションカーネルをパラメータ化してアフィン変換に対する同変モデルを構築する方法を示す。 我々は,ベンチマークアフィン不変分類タスクにおいて,モデルのロバスト性と分布外一般化能力を評価する。
  論文  参考訳（メタデータ） (2023-10-17T16:04:33Z)
• Geometric Neural Diffusion Processes [55.891428654434634]
  拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。 これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
  論文  参考訳（メタデータ） (2023-07-11T16:51:38Z)
• DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained Diffusion [66.21290235237808]
  本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。 任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。 各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-01-23T15:18:54Z)
• Local versions of sum-of-norms clustering [77.34726150561087]
  本手法はボールモデルにおいて任意に閉じた球を分離できることを示す。 我々は、不連結連結集合のクラスタリングで発生する誤差に定量的な有界性を証明した。
  論文  参考訳（メタデータ） (2021-09-20T14:45:29Z)
• Inference post Selection of Group-sparse Regression Models [2.1485350418225244]
  条件推論は、自動モデル選択からのデータが推論のために再利用されるとき、バイアスに対処するための厳密なアプローチを提供する。 本稿では,線形モデル内の不確実性を評価するための統計的に一貫したベイズ的枠組みを開発する。 遺伝子、タンパク質、遺伝的変異体、神経画像計測がそれぞれ生物学的経路、分子機能、調節領域、認知的役割によってグループ化された場合、これらのモデルはグループスパース学習アルゴリズムの有用なクラスによって選択される。
  論文  参考訳（メタデータ） (2020-12-31T15:43:26Z)
• LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
  群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。 我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。 任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
  論文  参考訳（メタデータ） (2020-12-20T11:02:49Z)
• Variational Optimization on Lie Groups, with Examples of Leading (Generalized) Eigenvalue Problems [10.203602318836444]
  この記事ではリー群上の関数の滑らかな最適化について考察する。 ベクトル空間におけるNAG変分原理をリー群に一般化することにより、局所最適収束を保証する連続リー-NAGダイナミクスが得られる。
  論文  参考訳（メタデータ） (2020-01-27T19:00:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。