論文の概要: Euclidean, Projective, Conformal: Choosing a Geometric Algebra for
Equivariant Transformers
- arxiv url: http://arxiv.org/abs/2311.04744v1
- Date: Wed, 8 Nov 2023 15:12:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-09 15:37:15.850982
- Title: Euclidean, Projective, Conformal: Choosing a Geometric Algebra for
Equivariant Transformers
- Title(参考訳): Euclidean, Projective, Conformal:等変変換器のための幾何学的代数の選択
- Authors: Pim de Haan, Taco Cohen and Johann Brehmer
- Abstract要約: 我々は、このアーキテクチャのバージョンをユークリッド、射影、および共形代数のために研究する。
最も単純なユークリッドアーキテクチャは計算的に安価であるが、対称性群が小さく、サンプリング効率が良くない。
共形代数と射影代数の改良版の両方が、強力でパフォーマンスの良いアーキテクチャを定義する。
- 参考スコア(独自算出の注目度): 18.72039044178459
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Geometric Algebra Transformer (GATr) is a versatile architecture for
geometric deep learning based on projective geometric algebra. We generalize
this architecture into a blueprint that allows one to construct a scalable
transformer architecture given any geometric (or Clifford) algebra. We study
versions of this architecture for Euclidean, projective, and conformal
algebras, all of which are suited to represent 3D data, and evaluate them in
theory and practice. The simplest Euclidean architecture is computationally
cheap, but has a smaller symmetry group and is not as sample-efficient, while
the projective model is not sufficiently expressive. Both the conformal algebra
and an improved version of the projective algebra define powerful, performant
architectures.
- Abstract(参考訳): Geometric Algebra Transformer (GATr) は射影幾何学的代数に基づく幾何学的深層学習のための汎用アーキテクチャである。
我々はこのアーキテクチャをブループリントに一般化し、幾何(またはクリフォード)代数を与えられたスケーラブルなトランスフォーマーアーキテクチャを構築することができる。
3次元データを表現するのに適したユークリッド代数、射影代数、共形代数のためのこのアーキテクチャのバージョンを研究し、それらを理論と実践で評価する。
最も単純なユークリッドアーキテクチャは計算的に安価であるが、対称性群が小さく、サンプル効率が良くないが、射影モデルは十分に表現できない。
共形代数と射影代数の改良版の両方が、強力でパフォーマンスの良いアーキテクチャを定義する。
関連論文リスト
- A Hitchhiker's Guide to Geometric GNNs for 3D Atomic Systems [87.30652640973317]
原子系の計算モデリングの最近の進歩は、これらを3次元ユークリッド空間のノードとして埋め込まれた原子を含む幾何学的グラフとして表現している。
Geometric Graph Neural Networksは、タンパク質構造予測から分子シミュレーション、物質生成まで、幅広い応用を駆動する機械学習アーキテクチャとして好まれている。
本稿では,3次元原子システムのための幾何学的GNNの分野について,包括的で自己完結した概要を述べる。
論文 参考訳(メタデータ) (2023-12-12T18:44:19Z) - Geometric Algebra Transformer [16.656636729960727]
幾何学的データに関わる問題は、物理学、化学、ロボット工学、コンピュータビジョンなど多くの分野において発生する。
対称性を尊重しながら、このような幅広い幾何学的タイプに適用できる単一のアーキテクチャは存在しない。
本稿では,幾何学データのための汎用アーキテクチャであるGeometric Algebra Transformer (GATr)を紹介する。
論文 参考訳(メタデータ) (2023-05-28T18:48:50Z) - Exploring Data Geometry for Continual Learning [64.4358878435983]
非定常データストリームのデータ幾何を探索することにより,新しい視点から連続学習を研究する。
提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何学を動的に拡張する。
実験により,本手法はユークリッド空間で設計したベースライン法よりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2023-04-08T06:35:25Z) - Geometric Clifford Algebra Networks [53.456211342585824]
本稿では,動的システムのモデリングのためのGeometric Clifford Algebra Networks (GCANs)を提案する。
GCANは幾何学的(クリフォード)代数を用いた対称性群変換に基づいている。
論文 参考訳(メタデータ) (2023-02-13T18:48:33Z) - Deep Learning Symmetries and Their Lie Groups, Algebras, and Subalgebras
from First Principles [55.41644538483948]
ラベル付きデータセットに存在する連続した対称性群の検出と同定のためのディープラーニングアルゴリズムを設計する。
完全に接続されたニューラルネットワークを用いて、変換対称性と対応するジェネレータをモデル化する。
また,Lie群とその性質の数学的研究に機械学習アプローチを使うための扉を開く。
論文 参考訳(メタデータ) (2023-01-13T16:25:25Z) - Frame Averaging for Equivariant Shape Space Learning [85.42901997467754]
形状空間学習に対称性を組み込む自然な方法は、形状空間(エンコーダ)への写像と形状空間(デコーダ)からの写像が関連する対称性に同値であることを問うことである。
本稿では,2つのコントリビューションを導入することで,エンコーダとデコーダの等価性を組み込む枠組みを提案する。
論文 参考訳(メタデータ) (2021-12-03T06:41:19Z) - Geometric Algebra Attention Networks for Small Point Clouds [0.0]
物理科学における問題は、2次元または3次元空間における比較的小さな点集合を扱う。
これらの小点雲上での深層学習のための回転・置換同変アーキテクチャを提案する。
物理, 化学, 生物学に関連するサンプル問題を, モデルを用いて解くことにより, これらのアーキテクチャの有用性を実証する。
論文 参考訳(メタデータ) (2021-10-05T22:52:12Z) - Learning from Protein Structure with Geometric Vector Perceptrons [6.5360079597553025]
幾何学的ベクトルパーセプトロンを導入し、標準密度層を拡張してユークリッドベクトルの集合を演算する。
本稿では,タンパク質構造から学習する際の2つの重要な問題として,モデル品質評価と計算タンパク質設計について述べる。
論文 参考訳(メタデータ) (2020-09-03T01:54:25Z) - DSG-Net: Learning Disentangled Structure and Geometry for 3D Shape
Generation [98.96086261213578]
DSG-Netは3次元形状の非交叉構造と幾何学的メッシュ表現を学習するディープニューラルネットワークである。
これは、幾何(構造)を不変に保ちながら構造(幾何学)のような不整合制御を持つ新しい形状生成アプリケーションの範囲をサポートする。
本手法は,制御可能な生成アプリケーションだけでなく,高品質な合成形状を生成できる。
論文 参考訳(メタデータ) (2020-08-12T17:06:51Z) - Polynomial algebras from $su(3)$ and the generic model on the two sphere [0.0]
リー代数に基づく超可積分系の構築は、長年にわたって導入されてきた。
これはまた、一般に有限生成二次代数の形式をとるそれらの関連対称性代数の構成のケースでもある。
2次元球面上の一般超可積分系の場合を再検討する新しい手法を開発した。
論文 参考訳(メタデータ) (2020-07-22T02:20:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。