論文の概要: LieGG: Studying Learned Lie Group Generators

• arxiv url: http://arxiv.org/abs/2210.04345v1
• Date: Sun, 9 Oct 2022 20:42:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-11 18:41:13.377635
• Title: LieGG: Studying Learned Lie Group Generators
• Title（参考訳）: LieGG:学習リー群発電機の研究
• Authors: Artem Moskalev, Anna Sepliarskaia, Ivan Sosnovik, Arnold Smeulders
• Abstract要約: ニューラルネットワークに組み込まれた対称性は、データを保存して学習することで、幅広いタスクに対して非常に有益であるように思える。 本稿では,ニューラルネットワークが学習した対称性を抽出し,ネットワークの不変度を評価する手法を提案する。
• 参考スコア（独自算出の注目度）: 1.5293427903448025
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Symmetries built into a neural network have appeared to be very beneficial for a wide range of tasks as it saves the data to learn them. We depart from the position that when symmetries are not built into a model a priori, it is advantageous for robust networks to learn symmetries directly from the data to fit a task function. In this paper, we present a method to extract symmetries learned by a neural network and to evaluate the degree to which a network is invariant to them. With our method, we are able to explicitly retrieve learned invariances in a form of the generators of corresponding Lie-groups without prior knowledge of symmetries in the data. We use the proposed method to study how symmetrical properties depend on a neural network's parameterization and configuration. We found that the ability of a network to learn symmetries generalizes over a range of architectures. However, the quality of learned symmetries depends on the depth and the number of parameters.
• Abstract（参考訳）: ニューラルネットワークに組み込まれた対称性は、データを保存して学習することで、幅広いタスクに対して非常に有益であるように思える。 我々は、モデルに対称性が組み込まれていない場合、ロバストネットワークがデータから直接対称性を学習してタスク関数に適合させるのが有利である、という立場から離れる。 本稿では,ニューラルネットワークが学習した対称性を抽出し,ネットワークの不変度を評価する手法を提案する。 本手法では,データの対称性を事前に知ることなく,対応するリー群の生成元の形で学習不変性を明示的に検索することができる。 提案手法を用いて,ニューラルネットワークのパラメータ化と構成に依存する対称性について検討する。 ネットワークが対称性を学習する能力は、さまざまなアーキテクチャを一般化していることが分かりました。 しかし、学習対称性の質は、深さとパラメータの数に依存する。

関連論文リスト

• Learning Infinitesimal Generators of Continuous Symmetries from Data [15.42275880523356]
  1-パラメータ群で定義された変換に基づく新しい対称性学習アルゴリズムを提案する。 この手法は最小限の帰納バイアスに基づいて構築され、リー群に根付いた一般的な対称性だけでなく、非線形発生器由来の対称性にまで拡張される。
  論文  参考訳（メタデータ） (2024-10-29T08:28:23Z)
• Symmetry Discovery for Different Data Types [52.2614860099811]
  等価ニューラルネットワークは、そのアーキテクチャに対称性を取り入れ、より高度な一般化性能を実現する。 本稿では,タスクの入出力マッピングを近似したトレーニングニューラルネットワークによる対称性発見手法であるLieSDを提案する。 我々は,2体問題,慣性行列予測のモーメント,トップクォークタグ付けといった課題におけるLieSDの性能を検証した。
  論文  参考訳（メタデータ） (2024-10-13T13:39:39Z)
• The Empirical Impact of Neural Parameter Symmetries, or Lack Thereof [50.49582712378289]
  ニューラル・ネットワーク・アーキテクチャの導入により,ニューラル・パラメータ・対称性の影響について検討する。 我々は,パラメータ空間対称性を低減するために,標準的なニューラルネットワークを改良する2つの手法を開発した。 実験により,パラメータ対称性の経験的影響に関する興味深い観察がいくつか示された。
  論文  参考訳（メタデータ） (2024-05-30T16:32:31Z)
• Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
  我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。 我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。 本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
  論文  参考訳（メタデータ） (2024-05-22T17:23:15Z)
• A Unified Framework to Enforce, Discover, and Promote Symmetry in Machine Learning [5.1105250336911405]
  機械学習モデルに対称性を組み込むための統一理論および方法論の枠組みを提供する。 対称性の強制と発見は、リー微分の双線型構造に対して双対である線形代数的タスクであることを示す。 本稿では、リー微分と核ノルム緩和に基づく凸正規化関数のクラスを導入することで対称性を促進する新しい方法を提案する。
  論文  参考訳（メタデータ） (2023-11-01T01:19:54Z)
• Learning Lie Group Symmetry Transformations with Neural Networks [17.49001206996365]
  この研究は、データセットに存在する未知の対称性、すなわちリー群対称性変換の発見と特徴付けに焦点を当てている。 私たちのゴールは、変換グループとパラメータ値の分布を特徴づけることです。 その結果、どちらの設定でもアプローチの有効性が示された。
  論文  参考訳（メタデータ） (2023-07-04T09:23:24Z)
• Deep Learning Symmetries and Their Lie Groups, Algebras, and Subalgebras from First Principles [55.41644538483948]
  ラベル付きデータセットに存在する連続した対称性群の検出と同定のためのディープラーニングアルゴリズムを設計する。 完全に接続されたニューラルネットワークを用いて、変換対称性と対応するジェネレータをモデル化する。 また,Lie群とその性質の数学的研究に機械学習アプローチを使うための扉を開く。
  論文  参考訳（メタデータ） (2023-01-13T16:25:25Z)
• Learning to Learn with Generative Models of Neural Network Checkpoints [71.06722933442956]
  ニューラルネットワークのチェックポイントのデータセットを構築し,パラメータの生成モデルをトレーニングする。 提案手法は,幅広い損失プロンプトに対するパラメータの生成に成功している。 我々は、教師付きおよび強化学習における異なるニューラルネットワークアーキテクチャとタスクに本手法を適用した。
  論文  参考訳（メタデータ） (2022-09-26T17:59:58Z)
• Meta-Learning Symmetries by Reparameterization [63.85144439337671]
  データから対応するパラメータ共有パターンを学習し、等価性をネットワークに学習し、符号化する手法を提案する。 本実験は,画像処理タスクで使用される共通変換に等価性をエンコードして自動的に学習できることを示唆する。
  論文  参考訳（メタデータ） (2020-07-06T17:59:54Z)
• Detecting Symmetries with Neural Networks [0.0]
  ニューラルネットワークの埋め込み層における構造を広範囲に活用する。 我々は、対称性が存在するかどうかを特定し、入力中の対称性の軌道を特定する。 この例では、グラフの観点で新しいデータ表現を示す。
  論文  参考訳（メタデータ） (2020-03-30T17:58:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。