論文の概要: Group-invariant tensor train networks for supervised learning
- arxiv url: http://arxiv.org/abs/2206.15051v1
- Date: Thu, 30 Jun 2022 06:33:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-02 03:09:51.889742
- Title: Group-invariant tensor train networks for supervised learning
- Title(参考訳): 教師付き学習のためのグループ不変テンソルトレインネットワーク
- Authors: Brent Sprangers and Nick Vannieuwenhoven
- Abstract要約: 正規行列表現の作用の下で不変なテンソルの基底を構成するための新しい数値アルゴリズムを導入する。
その後、グループ不変テンソルをグループ不変テンソルトレインネットワークに結合し、教師付き機械学習モデルとして使用することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Invariance has recently proven to be a powerful inductive bias in machine
learning models. One such class of predictive or generative models are tensor
networks. We introduce a new numerical algorithm to construct a basis of
tensors that are invariant under the action of normal matrix representations of
an arbitrary discrete group. This method can be up to several orders of
magnitude faster than previous approaches. The group-invariant tensors are then
combined into a group-invariant tensor train network, which can be used as a
supervised machine learning model. We applied this model to a protein binding
classification problem, taking into account problem-specific invariances, and
obtained prediction accuracy in line with state-of-the-art deep learning
approaches.
- Abstract(参考訳): 不変性は最近、機械学習モデルにおいて強力な帰納バイアスであることが証明されている。
そのような予測モデルや生成モデルはテンソルネットワークである。
任意の離散群の正規行列表現の作用の下で不変となるテンソルの基底を構成するための新しい数値アルゴリズムを導入する。
この方法は、以前の手法よりも数桁高速である。
その後、グループ不変テンソルをグループ不変テンソルトレインネットワークに結合し、教師付き機械学習モデルとして使用することができる。
このモデルをタンパク質結合分類問題に適用し,問題固有の不変性を考慮し,最先端のディープラーニング手法による予測精度を得た。
関連論文リスト
- Learning equivariant tensor functions with applications to sparse vector recovery [5.557442038265024]
ローレンツ群とシンプレクティック群の対角作用に関して同変函数に着目する。
これらの特徴付けの背景にある私たちのゴールは、同変機械学習モデルを定義することです。
論文 参考訳(メタデータ) (2024-06-03T17:32:43Z) - Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。
我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。
また、異なるアンサンブルを区別する新しい問題も分析できます。
論文 参考訳(メタデータ) (2024-04-29T14:33:24Z) - A Nested Matrix-Tensor Model for Noisy Multi-view Clustering [5.132856740094742]
次数3のスパイクされたランク1テンソルモデルを拡張するネスト行列テンソルモデルを提案する。
理論的結果から,提案手法の正確な精度を予測できることが示唆された。
本分析では, モデルパラメータによって, 予期せぬ非自明な相転移現象を呈する。
論文 参考訳(メタデータ) (2023-05-31T16:13:46Z) - Self-Supervised Learning for Group Equivariant Neural Networks [75.62232699377877]
群同変ニューラルネットワーク(英: Group equivariant Neural Network)は、入力の変換で通勤する構造に制限されたモデルである。
自己教師型タスクには、同変プリテキストラベルと異変コントラスト損失という2つの概念を提案する。
標準画像認識ベンチマークの実験では、同変ニューラルネットワークが提案された自己教師型タスクを利用することを示した。
論文 参考訳(メタデータ) (2023-03-08T08:11:26Z) - Learning Invariant Weights in Neural Networks [16.127299898156203]
機械学習でよく使われるモデルの多くは、データ内の特定の対称性を尊重することを制約している。
本稿では,ニューラルネットワークにおける不変性学習の限界値の最小化により,このアプローチに準ずる重み空間を提案する。
論文 参考訳(メタデータ) (2022-02-25T00:17:09Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - Topographic VAEs learn Equivariant Capsules [84.33745072274942]
本稿では, 地理的に整理された潜伏変数を用いた深部生成モデルを効率的に学習するための新しい手法であるTopographic VAEを紹介する。
このようなモデルでは,MNIST上での桁数クラス,幅,スタイルなどの健全な特徴に応じて,その活性化を組織化することが実際に学べることが示される。
我々は、既存の群同変ニューラルネットワークの能力を拡張して、複素変換に近似した同値性を示す。
論文 参考訳(メタデータ) (2021-09-03T09:25:57Z) - Tensor-Train Networks for Learning Predictive Modeling of
Multidimensional Data [0.0]
有望な戦略は、物理的および化学的用途で非常に成功したテンソルネットワークに基づいています。
本研究では, 多次元回帰モデルの重みをテンソルネットワークを用いて学習し, 強力なコンパクト表現を実現することを示した。
TT形式の重みを計算力の低減で近似するための最小二乗を交互に行うアルゴリズムが提案されている。
論文 参考訳(メタデータ) (2021-01-22T16:14:38Z) - Learning Invariances in Neural Networks [51.20867785006147]
ネットワークパラメータや拡張パラメータに関して,拡張性よりも分布をパラメータ化し,トレーニング損失を同時に最適化する方法を示す。
画像分類,回帰,セグメンテーション,分子特性予測における不均一性の正確なセットと範囲を,拡張の広い空間から復元することができる。
論文 参考訳(メタデータ) (2020-10-22T17:18:48Z) - Generalizing Convolutional Neural Networks for Equivariance to Lie
Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。
同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文 参考訳(メタデータ) (2020-02-25T17:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。