論文の概要: Learning Infinitesimal Generators of Continuous Symmetries from Data

• arxiv url: http://arxiv.org/abs/2410.21853v1
• Date: Tue, 29 Oct 2024 08:28:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-30 13:41:54.883336
• Title: Learning Infinitesimal Generators of Continuous Symmetries from Data
• Title（参考訳）: データから連続対称性の無限小生成子を学習する
• Authors: Gyeonghoon Ko, Hyunsu Kim, Juho Lee,
• Abstract要約: 1-パラメータ群で定義された変換に基づく新しい対称性学習アルゴリズムを提案する。 この手法は最小限の帰納バイアスに基づいて構築され、リー群に根付いた一般的な対称性だけでなく、非線形発生器由来の対称性にまで拡張される。
• 参考スコア（独自算出の注目度）: 15.42275880523356
• License:
• Abstract: Exploiting symmetry inherent in data can significantly improve the sample efficiency of a learning procedure and the generalization of learned models. When data clearly reveals underlying symmetry, leveraging this symmetry can naturally inform the design of model architectures or learning strategies. Yet, in numerous real-world scenarios, identifying the specific symmetry within a given data distribution often proves ambiguous. To tackle this, some existing works learn symmetry in a data-driven manner, parameterizing and learning expected symmetry through data. However, these methods often rely on explicit knowledge, such as pre-defined Lie groups, which are typically restricted to linear or affine transformations. In this paper, we propose a novel symmetry learning algorithm based on transformations defined with one-parameter groups, continuously parameterized transformations flowing along the directions of vector fields called infinitesimal generators. Our method is built upon minimal inductive biases, encompassing not only commonly utilized symmetries rooted in Lie groups but also extending to symmetries derived from nonlinear generators. To learn these symmetries, we introduce a notion of a validity score that examine whether the transformed data is still valid for the given task. The validity score is designed to be fully differentiable and easily computable, enabling effective searches for transformations that achieve symmetries innate to the data. We apply our method mainly in two domains: image data and partial differential equations, and demonstrate its advantages. Our codes are available at \url{https://github.com/kogyeonghoon/learning-symmetry-from-scratch.git}.
• Abstract（参考訳）: データ固有の対称性の爆発は、学習手順のサンプル効率と学習モデルの一般化を著しく向上させることができる。 データが基礎となる対称性を明らかにすると、この対称性を活用することで、モデルアーキテクチャや学習戦略の設計を自然に知ることができる。 しかし、多くの実世界のシナリオにおいて、与えられたデータ分布内の特定の対称性を特定することは、しばしば曖昧である。 これに取り組むために、いくつかの既存の研究は、データ駆動方式で対称性を学び、パラメータ化し、データを通して期待される対称性を学ぶ。 しかしながら、これらの方法はしばしば、定義済みリー群のような明示的な知識に依存し、通常は線型あるいはアフィン変換に制限される。 本稿では,一パラメータ群で定義された変換に基づく新しい対称性学習アルゴリズムを提案し,無限小生成器と呼ばれるベクトル場の方向に沿って連続的にパラメータ化変換を行う。 この手法は最小限の帰納バイアスに基づいて構築され、リー群に根付いた一般的な対称性だけでなく、非線形発生器由来の対称性にまで拡張される。 これらの対称性を学習するために、変換されたデータが与えられたタスクに対してまだ有効かどうかを調べるための妥当性スコアの概念を導入する。 妥当性スコアは、完全に微分可能で容易に計算可能であり、データに固有の対称性を実現する変換を効果的に検索できるように設計されている。 本手法は主に画像データと偏微分方程式の2つの領域に適用し,その利点を実証する。 我々のコードは \url{https://github.com/kogyeonghoon/learning-symmetric-from-scratch.git} で利用可能です。

関連論文リスト

• Symmetry Discovery for Different Data Types [52.2614860099811]
  等価ニューラルネットワークは、そのアーキテクチャに対称性を取り入れ、より高度な一般化性能を実現する。 本稿では,タスクの入出力マッピングを近似したトレーニングニューラルネットワークによる対称性発見手法であるLieSDを提案する。 我々は,2体問題,慣性行列予測のモーメント,トップクォークタグ付けといった課題におけるLieSDの性能を検証した。
  論文  参考訳（メタデータ） (2024-10-13T13:39:39Z)
• SymmetryLens: A new candidate paradigm for unsupervised symmetry learning via locality and equivariance [0.0]
  我々は、生データから始まる新しい教師なし対称性学習法を開発した。 この対称性と局所性の結合は,エントロピー推定のために開発された特別な最適化手法とともに,高度に安定なシステムをもたらすことを実証する。 私たちが考える対称性の作用は群表現であるが、このアプローチは非可換リー群のより一般的な非線形作用に一般化される可能性があると信じている。
  論文  参考訳（メタデータ） (2024-10-07T17:40:51Z)
• A Generative Model of Symmetry Transformations [44.87295754993983]
  我々はデータの近似対称性を明示的に捉えることを目的とした生成モデルを構築した。 我々は、アフィンおよび色変換の下で対称性を捕捉する能力を実証的に実証した。
  論文  参考訳（メタデータ） (2024-03-04T11:32:18Z)
• Latent Space Symmetry Discovery [31.28537696897416]
  本稿では,非線形群作用の対称性を発見できる新しい生成モデルであるLatent LieGANを提案する。 本モデルでは,群作用に関する条件下で非線形対称性を表現できることが示されている。 LaLiGANはまた、方程式発見や長期予測を含む下流のタスクに有用な構造化された潜在空間をもたらす。
  論文  参考訳（メタデータ） (2023-09-29T19:33:01Z)
• Regularizing Towards Soft Equivariance Under Mixed Symmetries [23.603875905608565]
  混合近似対称性を持つデータセットのモデルを構築するための正規化器に基づく手法を提案する。 提案手法は,近似対称性のレベルを正確に発見しながら,従来の手法よりも精度が高いことを示す。
  論文  参考訳（メタデータ） (2023-06-01T05:33:41Z)
• Oracle-Preserving Latent Flows [58.720142291102135]
  我々はラベル付きデータセット全体にわたって複数の非自明な連続対称性を同時に発見するための方法論を開発する。 対称性変換と対応するジェネレータは、特別に構築された損失関数で訓練された完全連結ニューラルネットワークでモデル化される。 この研究における2つの新しい要素は、縮小次元の潜在空間の使用と、高次元のオラクルに関して不変な変換への一般化である。
  論文  参考訳（メタデータ） (2023-02-02T00:13:32Z)
• Generative Adversarial Symmetry Discovery [19.098785309131458]
  リーGANは対称性を解釈可能なリー代数基底として表現し、様々な対称性を発見できる。 学習された対称性は、予測の精度と一般化を改善するために、既存の同変ニューラルネットワークで容易に利用することができる。
  論文  参考訳（メタデータ） (2023-02-01T04:28:36Z)
• Deep Learning Symmetries and Their Lie Groups, Algebras, and Subalgebras from First Principles [55.41644538483948]
  ラベル付きデータセットに存在する連続した対称性群の検出と同定のためのディープラーニングアルゴリズムを設計する。 完全に接続されたニューラルネットワークを用いて、変換対称性と対応するジェネレータをモデル化する。 また,Lie群とその性質の数学的研究に機械学習アプローチを使うための扉を開く。
  論文  参考訳（メタデータ） (2023-01-13T16:25:25Z)
• Meta-Learning Symmetries by Reparameterization [63.85144439337671]
  データから対応するパラメータ共有パターンを学習し、等価性をネットワークに学習し、符号化する手法を提案する。 本実験は,画像処理タスクで使用される共通変換に等価性をエンコードして自動的に学習できることを示唆する。
  論文  参考訳（メタデータ） (2020-07-06T17:59:54Z)
• Inverse Learning of Symmetries [71.62109774068064]
  2つの潜在部分空間からなるモデルで対称性変換を学ぶ。 我々のアプローチは、情報ボトルネックと連続的な相互情報正規化器の組み合わせに基づいています。 我々のモデルは, 人工的および分子的データセットにおける最先端の手法より優れている。
  論文  参考訳（メタデータ） (2020-02-07T13:48:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。