論文の概要: GeoAda: Efficiently Finetune Geometric Diffusion Models with Equivariant Adapters
- arxiv url: http://arxiv.org/abs/2507.02085v1
- Date: Wed, 02 Jul 2025 18:44:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-04 15:37:15.087509
- Title: GeoAda: Efficiently Finetune Geometric Diffusion Models with Equivariant Adapters
- Title(参考訳): GeoAda: 等変アダプタを用いた高効率微粒幾何拡散モデル
- Authors: Wanjia Zhao, Jiaqi Han, Siyi Gu, Mingjian Jiang, James Zou, Stefano Ermon,
- Abstract要約: 制御された生成タスクに対してフレキシブルかつパラメータ効率の良い微調整を可能にするSE(3)-equivariant Adapter framework(GeoAda)を提案する。
GeoAdaは、過剰適合と破滅的な忘れを緩和しながら、モデルの幾何的一貫性を保っている。
我々は、フレーム制御、グローバル制御、サブグラフ制御、広範囲のアプリケーションドメインを含む多様な幾何学的制御タイプにまたがるGeoAdaの適用性を実証する。
- 参考スコア(独自算出の注目度): 61.51810815162003
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Geometric diffusion models have shown remarkable success in molecular dynamics and structure generation. However, efficiently fine-tuning them for downstream tasks with varying geometric controls remains underexplored. In this work, we propose an SE(3)-equivariant adapter framework ( GeoAda) that enables flexible and parameter-efficient fine-tuning for controlled generative tasks without modifying the original model architecture. GeoAda introduces a structured adapter design: control signals are first encoded through coupling operators, then processed by a trainable copy of selected pretrained model layers, and finally projected back via decoupling operators followed by an equivariant zero-initialized convolution. By fine-tuning only these lightweight adapter modules, GeoAda preserves the model's geometric consistency while mitigating overfitting and catastrophic forgetting. We theoretically prove that the proposed adapters maintain SE(3)-equivariance, ensuring that the geometric inductive biases of the pretrained diffusion model remain intact during adaptation. We demonstrate the wide applicability of GeoAda across diverse geometric control types, including frame control, global control, subgraph control, and a broad range of application domains such as particle dynamics, molecular dynamics, human motion prediction, and molecule generation. Empirical results show that GeoAda achieves state-of-the-art fine-tuning performance while preserving original task accuracy, whereas other baselines experience significant performance degradation due to overfitting and catastrophic forgetting.
- Abstract(参考訳): 幾何学拡散モデルは分子動力学と構造生成において顕著な成功を収めた。
しかし、様々な幾何学的制御を持つ下流タスクに対して効率よく微調整を施すことは、まだ未定である。
そこで本研究では,SE(3)-equivariant Adapter framework(GeoAda)を提案する。
制御信号はまず結合演算子を通して符号化され、次に選択された事前訓練されたモデル層のトレーニング可能なコピーで処理され、最後にデカップリング演算子を介して投影され、その後同変のゼロ初期化畳み込みによって投影される。
これらの軽量アダプターモジュールのみを微調整することで、GeoAdaはモデルの幾何的整合性を保ち、過度な適合と破滅的な忘れを緩和する。
提案したアダプタがSE(3)-等分散を維持していることを理論的に証明し、事前学習された拡散モデルの幾何学的帰納バイアスが適応の間も無傷であることを保証する。
フレーム制御,グローバル制御,サブグラフ制御,および粒子動力学,分子動力学,人体運動予測,分子生成などの幅広い応用領域を含む,多様な幾何学的制御タイプにまたがるGeoAdaの適用性を示す。
実験の結果,GeoAdaは従来のタスク精度を保ちながら最先端の微調整性能を達成し,他のベースラインは過度な適合や破滅的な忘れ込みによる大幅な性能劣化を経験していることがわかった。
関連論文リスト
- GAGrasp: Geometric Algebra Diffusion for Dexterous Grasping [3.9108453320793326]
本稿では, ゆるやかなグリップ生成のための新しいフレームワークであるGAGraspを提案する。
本手法は,SE(3)対称性制約を直接アーキテクチャに符号化することにより,データとパラメータの効率を向上する。
我々は、物理インフォームド・リファインメント・レイヤを組み込み、生成したグリップが物理的に妥当で安定であることを保証する。
論文 参考訳(メタデータ) (2025-03-06T06:00:55Z) - Bridging Geometric States via Geometric Diffusion Bridge [79.60212414973002]
本稿では,初期および対象の幾何状態を正確にブリッジする新しい生成モデリングフレームワークであるGeometric Diffusion Bridge (GDB)を紹介する。
GDBは、幾何学的状態の接続のためにDoobの$h$-transformの修正版から派生した同変拡散ブリッジを使用している。
我々はGDBが既存の最先端のアプローチを超越し、幾何学的状態を正確にブリッジするための新しい経路を開くことを示す。
論文 参考訳(メタデータ) (2024-10-31T17:59:53Z) - Geometric Trajectory Diffusion Models [58.853975433383326]
生成モデルは3次元幾何学システムの生成において大きな可能性を示してきた。
既存のアプローチは静的構造のみで動作し、物理系は常に自然界において動的であるという事実を無視する。
本研究では3次元軌跡の時間分布をモデル化する最初の拡散モデルである幾何軌道拡散モデル(GeoTDM)を提案する。
論文 参考訳(メタデータ) (2024-10-16T20:36:41Z) - Aero-Nef: Neural Fields for Rapid Aircraft Aerodynamics Simulations [1.1932047172700866]
本稿では,メッシュ領域上での定常流体力学シミュレーションの代理モデルを学習する手法を提案する。
提案したモデルは, 異なる流れ条件に対して非構造領域に直接適用することができる。
顕著なことに、RANS超音速翼データセット上の高忠実度解法よりも5桁高速な推論を行うことができる。
論文 参考訳(メタデータ) (2024-07-29T11:48:44Z) - GGAvatar: Geometric Adjustment of Gaussian Head Avatar [6.58321368492053]
GGAvatarは、複雑なアイデンティティを持つ動的ヘッドアバターを堅牢にモデル化するために設計された、新しい3Dアバター表現である。
GGAvatarは高忠実なレンダリングを生成でき、視覚的品質と定量的メトリクスにおいて最先端の手法より優れている。
論文 参考訳(メタデータ) (2024-05-20T12:54:57Z) - Learning Modulated Transformation in GANs [69.95217723100413]
生成逆数ネットワーク(GAN)のジェネレータに、変調変換モジュール(Modulated transformation module, MTM)と呼ばれるプラグアンドプレイモジュールを装備する。
MTMは、可変位置で畳み込み操作を適用可能な潜在符号の制御下で空間オフセットを予測する。
挑戦的なTaiChiデータセット上での人為的な生成に向けて、StyleGAN3のFIDを21.36から13.60に改善し、変調幾何変換の学習の有効性を実証した。
論文 参考訳(メタデータ) (2023-08-29T17:51:22Z) - Automatic Parameterization for Aerodynamic Shape Optimization via Deep
Geometric Learning [60.69217130006758]
空力形状最適化のための形状パラメータ化を完全に自動化する2つの深層学習モデルを提案する。
どちらのモデルも、深い幾何学的学習を通じてパラメータ化し、人間の事前知識を学習された幾何学的パターンに埋め込むように最適化されている。
2次元翼の形状最適化実験を行い、2つのモデルに適用可能なシナリオについて論じる。
論文 参考訳(メタデータ) (2023-05-03T13:45:40Z) - GeoMol: Torsional Geometric Generation of Molecular 3D Conformer
Ensembles [60.12186997181117]
分子グラフからの分子の3Dコンホメーラーアンサンブルの予測は、化学情報学と薬物発見の領域において重要な役割を担っている。
既存の生成モデルは、重要な分子幾何学的要素のモデリングの欠如を含むいくつかの欠点がある。
エンド・ツー・エンド、非自己回帰、SE(3)不変の機械学習手法であるGeoMolを提案し、3Dコンバータを生成する。
論文 参考訳(メタデータ) (2021-06-08T14:17:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。