論文の概要: E(2) Equivariant Self-Attention for Radio Astronomy
- arxiv url: http://arxiv.org/abs/2111.04742v1
- Date: Mon, 8 Nov 2021 15:58:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-11 02:12:30.784853
- Title: E(2) Equivariant Self-Attention for Radio Astronomy
- Title(参考訳): E(2)ラジオ天文学における等価自己認識
- Authors: Micah Bowles, Matthew Bromley, Max Allen, Anna Scaife
- Abstract要約: 我々は、天文学における説明可能な電波銀河分類の問題に対処するために、グループ同変自己アテンションモデルを導入する。
本研究は,データの適合に要するエポック数が減少し,性能が向上することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work we introduce group-equivariant self-attention models to address
the problem of explainable radio galaxy classification in astronomy. We
evaluate various orders of both cyclic and dihedral equivariance, and show that
including equivariance as a prior both reduces the number of epochs required to
fit the data and results in improved performance. We highlight the benefits of
equivariance when using self-attention as an explainable model and illustrate
how equivariant models statistically attend the same features in their
classifications as human astronomers.
- Abstract(参考訳): 本研究では、天文学における説明可能な電波銀河分類の問題に対処するために、グループ同変自己アテンションモデルを導入する。
循環的および二面体的等分散の様々な順序を評価し,事前の等分散を含むことにより,データに適合するエポック数が減少し,性能が向上することを示す。
自己愛を説明可能なモデルとして用いる場合の等分散の利点を強調し、同変モデルが人間の天文学者と同じ特徴を統計的に満たしていることを示す。
関連論文リスト
- Deconstructing equivariant representations in molecular systems [6.841858294458366]
本稿では,QM9データセット上での単純な同変グラフ畳み込みモデルを用いた実験について報告する。
我々の重要な発見は、スカラー予測タスクでは、多くの既約表現はトレーニング中に単純に無視されることである。
経験的に,未使用の球面高調波の除去がモデル性能を向上させることを示す。
論文 参考訳(メタデータ) (2024-10-10T17:15:46Z) - The Benefits of Balance: From Information Projections to Variance Reduction [7.082773426322819]
表現の崩壊を避けるために通常使用される反復アルゴリズムは、疑わしい利益を享受できることを示す。
我々は、この分散還元効果を定量化する非漸近境界を提供し、それらを適切に定義されたマルコフ作用素の固有デカイに関連付ける。
コントラッシブなマルチモーダル学習と自己教師付きクラスタリングにおいて、様々な形式のデータバランシングが、この分散還元スキームのインスタンスとしてどのように解釈できるかを説明する。
論文 参考訳(メタデータ) (2024-08-27T13:48:15Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳(メタデータ) (2022-08-03T12:31:31Z) - On the Strong Correlation Between Model Invariance and Generalization [54.812786542023325]
一般化は、見えないデータを分類するモデルの能力をキャプチャする。
不変性はデータの変換におけるモデル予測の一貫性を測定する。
データセット中心の視点から、あるモデルの精度と不変性は異なるテストセット上で線形に相関している。
論文 参考訳(メタデータ) (2022-07-14T17:08:25Z) - ER: Equivariance Regularizer for Knowledge Graph Completion [107.51609402963072]
我々は、新しい正規化器、すなわち等分散正規化器(ER)を提案する。
ERは、頭と尾のエンティティ間の意味的等価性を利用することで、モデルの一般化能力を高めることができる。
実験結果から,最先端関係予測法よりも明確かつ実質的な改善が示された。
論文 参考訳(メタデータ) (2022-06-24T08:18:05Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Invariance-based Multi-Clustering of Latent Space Embeddings for
Equivariant Learning [12.770012299379099]
より深い群不変学習を強制することにより、リー群多様体における等角写像を非共役化する手法を提案する。
実験の結果,このモデルでは,不変表現と同変表現を効果的に切り離すことができ,学習速度が大幅に向上することがわかった。
論文 参考訳(メタデータ) (2021-07-25T03:27:47Z) - Learning from Aggregate Observations [82.44304647051243]
本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。
本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。
単純な極大解は様々な微分可能なモデルに適用できる。
論文 参考訳(メタデータ) (2020-04-14T06:18:50Z) - Generalizing Convolutional Neural Networks for Equivariance to Lie
Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。
同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文 参考訳(メタデータ) (2020-02-25T17:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。