Fugu-MT 論文翻訳(概要): Symmetry Breaking and Equivariant Neural Networks

論文の概要: Symmetry Breaking and Equivariant Neural Networks

arxiv url: http://arxiv.org/abs/2312.09016v2
Date: Fri, 22 Mar 2024 04:12:08 GMT
ステータス: 処理完了
システム内更新日: 2024-03-25 22:20:33.922737
Title: Symmetry Breaking and Equivariant Neural Networks
Title（参考訳）: 対称性の破れと同変ニューラルネット
Authors: Sékou-Oumar Kaba, Siamak Ravanbakhsh,
Abstract要約: 我々は「緩和された同注入」という新しい概念を導入する。我々は、この緩和を同変多層パーセプトロン(E-MLP)に組み込む方法を示す。対称性の破れの関連性は、様々な応用領域で議論される。
参考スコア（独自算出の注目度）: 17.740760773905986
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Using symmetry as an inductive bias in deep learning has been proven to be a principled approach for sample-efficient model design. However, the relationship between symmetry and the imperative for equivariance in neural networks is not always obvious. Here, we analyze a key limitation that arises in equivariant functions: their incapacity to break symmetry at the level of individual data samples. In response, we introduce a novel notion of 'relaxed equivariance' that circumvents this limitation. We further demonstrate how to incorporate this relaxation into equivariant multilayer perceptrons (E-MLPs), offering an alternative to the noise-injection method. The relevance of symmetry breaking is then discussed in various application domains: physics, graph representation learning, combinatorial optimization and equivariant decoding.
Abstract（参考訳）: ディープラーニングにおける帰納バイアスとして対称性を用いることは、サンプル効率の良いモデル設計の原則的なアプローチであることが証明されている。しかし、ニューラルネットワークにおける対称性と等価性の命令の関係は必ずしも明確ではない。ここでは、同変関数で生じる重要な制限、すなわち、個々のデータサンプルのレベルで対称性を破ることができないことを解析する。これに対し、この制限を回避できる「緩和同値」という新しい概念を導入する。さらに、この緩和を同変多層パーセプトロン(E-MLP)に組み込む方法を示し、ノイズ注入法に代わる方法を提案する。対称性の破れの関連性は、物理学、グラフ表現学習、組合せ最適化、等変復号といった様々な応用領域で議論される。

関連論文リスト

Approximate Equivariance in Reinforcement Learning [35.04248486334824]
等変ニューラルネットワークは強化学習において大きな成功を収めている。多くの問題において、近似対称性のみが存在しており、これは正確な対称性を不適切なものにしている。我々は、強化学習におけるほぼ同変のアルゴリズムを開発した。
論文参考訳（メタデータ） (2024-11-06T19:44:46Z)
Equivariant score-based generative models provably learn distributions with symmetries efficiently [7.90752151686317]
実験的な研究により、対称性を生成モデルに組み込むことで、より優れた一般化とサンプリング効率が得られることが示されている。我々は,ある群対称性に対して不変な分布を学習するためのスコアベース生成モデル(SGM)の最初の理論的解析と保証を提供する。
論文参考訳（メタデータ） (2024-10-02T05:14:28Z)
Learning Layer-wise Equivariances Automatically using Gradients [66.81218780702125]
畳み込みは等価対称性をニューラルネットワークにエンコードし、より優れた一般化性能をもたらす。対称性は、ネットワークが表現できる機能、事前に指定する必要、適応できない機能に対して、固定されたハード制約を提供する。私たちのゴールは、勾配を使ってデータから自動的に学習できるフレキシブル対称性の制約を可能にすることです。
論文参考訳（メタデータ） (2023-10-09T20:22:43Z)
Evaluating the Robustness of Interpretability Methods through Explanation Invariance and Equivariance [72.50214227616728]
解釈可能性法は、それらの説明が説明されたモデルを忠実に記述した場合にのみ有用である。特定の対称性群の下で予測が不変であるニューラルネットワークを考える。
論文参考訳（メタデータ） (2023-04-13T17:59:03Z)
The Surprising Effectiveness of Equivariant Models in Domains with Latent Symmetry [6.716931832076628]
領域対称性と正確に一致しない対称性制約を課すことは、環境における真の対称性を学ぶのに非常に有用であることを示す。ロボット操作・制御問題における教師付き学習と強化学習の両方において,同変モデルが潜在対称性を持つ領域における非同変手法を大幅に上回ることを示す。
論文参考訳（メタデータ） (2022-11-16T21:51:55Z)
Relaxing Equivariance Constraints with Non-stationary Continuous Filters [20.74154804898478]
提案したパラメータ化は、ニューラルネットワークの調整可能な対称性構造を可能にするビルディングブロックと考えることができる。 CIFAR-10 および CIFAR-100 画像分類タスクにおいて, ソフトな等式が試験精度の向上につながることを実験的に検証した。
論文参考訳（メタデータ） (2022-04-14T18:08:36Z)
Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文参考訳（メタデータ） (2022-04-07T17:59:19Z)
Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文参考訳（メタデータ） (2021-10-26T14:26:25Z)
Equivariant bifurcation, quadratic equivariants, and symmetry breaking for the standard representation of $S_n$ [15.711517003382484]
浅層学習者ニューラルネットワークの研究から発せられる質問に動機付けられ、ニューラルネットワークに関連する同変ダイナミクスのクラスにおいて、スパイラス・ミニマの分析法が開発されている。突発性ミニマは自然対称性の破れから生じるのではなく、より一般的な$S_n$-equivariantの分岐によって符号化できるランドスケープ幾何学の複雑な変形によって生じる。二次同変が存在する場合の一般分岐の結果も証明され、この研究はIhrig & Golubitsky と Chossat, Lauterback & の結果を拡張し、明らかにする。
論文参考訳（メタデータ） (2021-07-06T06:43:06Z)
Learning Equivariant Energy Based Models with Equivariant Stein Variational Gradient Descent [80.73580820014242]
本稿では,確率モデルに対称性を組み込むことにより,確率密度の効率的なサンプリングと学習の問題に焦点をあてる。まず、等変シュタイン変分勾配Descentアルゴリズムを導入する。これは、対称性を持つ密度からサンプリングするスタインの同一性に基づく同変サンプリング法である。我々はエネルギーベースモデルのトレーニングを改善し、スケールアップする新しい方法を提案する。
論文参考訳（メタデータ） (2021-06-15T01:35:17Z)
Learning Invariances in Neural Networks [51.20867785006147]
ネットワークパラメータや拡張パラメータに関して,拡張性よりも分布をパラメータ化し,トレーニング損失を同時に最適化する方法を示す。画像分類,回帰,セグメンテーション,分子特性予測における不均一性の正確なセットと範囲を,拡張の広い空間から復元することができる。
論文参考訳（メタデータ） (2020-10-22T17:18:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。