論文の概要: Geometric Algebra Transformer
- arxiv url: http://arxiv.org/abs/2305.18415v3
- Date: Mon, 20 Nov 2023 08:31:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-22 19:24:35.508155
- Title: Geometric Algebra Transformer
- Title（参考訳）: 幾何代数変換器
- Authors: Johann Brehmer, Pim de Haan, S\"onke Behrends, Taco Cohen
- Abstract要約: 幾何学的データに関わる問題は、物理学、化学、ロボット工学、コンピュータビジョンなど多くの分野において発生する。
対称性を尊重しながら、このような幅広い幾何学的タイプに適用できる単一のアーキテクチャは存在しない。
本稿では,幾何学データのための汎用アーキテクチャであるGeometric Algebra Transformer (GATr)を紹介する。
- 参考スコア（独自算出の注目度）: 16.656636729960727
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Problems involving geometric data arise in physics, chemistry, robotics,
computer vision, and many other fields. Such data can take numerous forms, for
instance points, direction vectors, translations, or rotations, but to date
there is no single architecture that can be applied to such a wide variety of
geometric types while respecting their symmetries. In this paper we introduce
the Geometric Algebra Transformer (GATr), a general-purpose architecture for
geometric data. GATr represents inputs, outputs, and hidden states in the
projective geometric (or Clifford) algebra, which offers an efficient
16-dimensional vector-space representation of common geometric objects as well
as operators acting on them. GATr is equivariant with respect to E(3), the
symmetry group of 3D Euclidean space. As a Transformer, GATr is versatile,
efficient, and scalable. We demonstrate GATr in problems from n-body modeling
to wall-shear-stress estimation on large arterial meshes to robotic motion
planning. GATr consistently outperforms both non-geometric and equivariant
baselines in terms of error, data efficiency, and scalability.
- Abstract（参考訳）: 幾何学的データに関わる問題は、物理学、化学、ロボティクス、コンピュータビジョン、その他多くの分野で発生する。
このようなデータは、例えば点、方向ベクトル、翻訳、回転といった多くの形式を取ることができるが、これまでは、それらの対称性を尊重しながら、そのような様々な幾何学的タイプに適用できる単一のアーキテクチャは存在しない。
本稿では,幾何学データのための汎用アーキテクチャであるGeometric Algebra Transformer (GATr)を紹介する。
GATr は射影幾何学(またはクリフォード)代数における入力、出力、隠れ状態を表し、共通幾何学的対象の16次元ベクトル空間表現とそれらに作用する作用素を提供する。
GATr は E(3) に対して同変であり、3次元ユークリッド空間の対称性群である。
Transformerとしては、GATrは汎用性、効率的、スケーラブルである。
大規模動脈メッシュのn体モデリングから壁ハーストストレス推定,ロボット運動計画まで,gatrの問題点を実証する。
GATrは、エラー、データ効率、スケーラビリティの点で、非幾何学的ベースラインと等変ベースラインの両方を一貫して上回っている。
関連論文リスト
- Geometry Informed Tokenization of Molecules for Language Model Generation [85.80491667588923]
言語モデル(LM)を用いた三次元空間における分子生成の検討
分子グラフのトークン化は存在するが、3次元幾何学では、ほとんど探索されていない。
分子幾何学を$SE(3)$-invariant 1D離散配列に変換するGeo2Seqを提案する。
論文 参考訳（メタデータ） (2024-08-19T16:09:59Z) - Lorentz-Equivariant Geometric Algebra Transformers for High-Energy Physics [4.4970885242855845]
Lorentz Geometric Algebra Transformer (L-GATr)は高エネルギー物理のための新しい多目的アーキテクチャである。
L-GATrは、粒子物理学からの回帰および分類タスクで最初に実証された。
次に、L-GATrネットワークに基づく連続正規化フローであるローレンツ同変生成モデルを構築する。
論文 参考訳（メタデータ） (2024-05-23T17:15:41Z) - Transolver: A Fast Transformer Solver for PDEs on General Geometries [66.82060415622871]
本稿では, 離散化された測地の背後に隠れた本質的な物理状態を学習するTransolverについて述べる。
スライスから符号化された物理認識トークンに注意を向けることで、Transovlerは複雑な物理的相関を効果的に捉えることができる。
Transolverは6つの標準ベンチマークで22%の相対的な利得で一貫した最先端を実現し、大規模産業シミュレーションでも優れている。
論文 参考訳（メタデータ） (2024-02-04T06:37:38Z) - A Hitchhiker's Guide to Geometric GNNs for 3D Atomic Systems [87.30652640973317]
原子系の計算モデリングの最近の進歩は、これらを3次元ユークリッド空間のノードとして埋め込まれた原子を含む幾何学的グラフとして表現している。
Geometric Graph Neural Networksは、タンパク質構造予測から分子シミュレーション、物質生成まで、幅広い応用を駆動する機械学習アーキテクチャとして好まれている。
本稿では,3次元原子システムのための幾何学的GNNの分野について,包括的で自己完結した概要を述べる。
論文 参考訳（メタデータ） (2023-12-12T18:44:19Z) - Euclidean, Projective, Conformal: Choosing a Geometric Algebra for Equivariant Transformers [16.656636729960727]
我々は、このアーキテクチャのバージョンをユークリッド、射影、および共形代数のために研究する。
最も単純なユークリッドアーキテクチャは計算的に安価であるが、対称性群が小さく、サンプリング効率が良くない。
共形代数と射影代数の改良版の両方が、強力でパフォーマンスの良いアーキテクチャを定義する。
論文 参考訳（メタデータ） (2023-11-08T15:12:31Z) - GTA: A Geometry-Aware Attention Mechanism for Multi-View Transformers [63.41460219156508]
既存の位置符号化方式は3次元視覚タスクに最適であると主張する。
トークンの幾何学的構造を相対変換として符号化する幾何学的注意機構を提案する。
我々は、Geometric Transform Attention (GTA) と呼ばれる、最先端のトランスフォーマーベースNVSモデルの学習効率と性能を向上させることに留意している。
論文 参考訳（メタデータ） (2023-10-16T13:16:09Z) - Geometric Clifford Algebra Networks [53.456211342585824]
本稿では,動的システムのモデリングのためのGeometric Clifford Algebra Networks (GCANs)を提案する。
GCANは幾何学的(クリフォード)代数を用いた対称性群変換に基づいている。
論文 参考訳（メタデータ） (2023-02-13T18:48:33Z) - Geometry-Contrastive Transformer for Generalized 3D Pose Transfer [95.56457218144983]
この研究の直感は、与えられたメッシュ間の幾何学的不整合を強力な自己認識機構で知覚することである。
本研究では,グローバルな幾何学的不整合に対する3次元構造的知覚能力を有する新しい幾何学コントラスト変換器を提案する。
本稿では, クロスデータセット3次元ポーズ伝達タスクのための半合成データセットとともに, 潜時等尺正則化モジュールを提案する。
論文 参考訳（メタデータ） (2021-12-14T13:14:24Z) - Geometric Algebra Attention Networks for Small Point Clouds [0.0]
物理科学における問題は、2次元または3次元空間における比較的小さな点集合を扱う。
これらの小点雲上での深層学習のための回転・置換同変アーキテクチャを提案する。
物理, 化学, 生物学に関連するサンプル問題を, モデルを用いて解くことにより, これらのアーキテクチャの有用性を実証する。
論文 参考訳（メタデータ） (2021-10-05T22:52:12Z) - Symmetry-driven graph neural networks [1.713291434132985]
ノード座標に影響を及ぼすいくつかの変換に同値なグラフネットワークアーキテクチャを2つ導入する。
我々はこれらの機能を$n$次元の幾何学的オブジェクトからなる合成データセット上で実証する。
論文 参考訳（メタデータ） (2021-05-28T18:54:12Z) - Embed Me If You Can: A Geometric Perceptron [14.274582421372308]
多層超球パーセプトロン(MLHP)の拡張について紹介する。
我々のモデルは3次元テトリス形状の分類においてバニラ多層パーセプトロンよりも優れている。
論文 参考訳（メタデータ） (2020-06-11T15:25:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。