論文の概要: Scaling Spherical CNNs
- arxiv url: http://arxiv.org/abs/2306.05420v1
- Date: Thu, 8 Jun 2023 17:59:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-09 12:46:25.057070
- Title: Scaling Spherical CNNs
- Title(参考訳): 球状CNNのスケーリング
- Authors: Carlos Esteves, Jean-Jacques Slotine, Ameesh Makadia
- Abstract要約: 球面の畳み込みがより大きな問題に対してどのようにスケールできるかを示す。
実験により、我々のより大きな球状CNNが、QM9分子ベンチマークのいくつかのターゲットで最先端に達することが示された。
- 参考スコア(独自算出の注目度): 19.735829027026902
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spherical CNNs generalize CNNs to functions on the sphere, by using spherical
convolutions as the main linear operation. The most accurate and efficient way
to compute spherical convolutions is in the spectral domain (via the
convolution theorem), which is still costlier than the usual planar
convolutions. For this reason, applications of spherical CNNs have so far been
limited to small problems that can be approached with low model capacity. In
this work, we show how spherical CNNs can be scaled for much larger problems.
To achieve this, we make critical improvements including novel variants of
common model components, an implementation of core operations to exploit
hardware accelerator characteristics, and application-specific input
representations that exploit the properties of our model. Experiments show our
larger spherical CNNs reach state-of-the-art on several targets of the QM9
molecular benchmark, which was previously dominated by equivariant graph neural
networks, and achieve competitive performance on multiple weather forecasting
tasks. Our code is available at
https://github.com/google-research/spherical-cnn.
- Abstract(参考訳): 球面CNNは球面上の関数に一般化し、球面畳み込みを主線形演算として用いる。
球面畳み込みを計算する最も正確かつ効率的な方法はスペクトル領域(畳み込み定理による)であり、通常の平面畳み込みよりも依然として高価である。
このため、球面cnnの応用はこれまで、低モデル容量でアプローチできる小さな問題に限定されてきた。
本研究では,球面cnnを大規模にスケールできることを示す。
これを実現するために、共通モデルコンポーネントの新しい変種、ハードウェアアクセラレーション特性を利用するコアオペレーションの実装、モデルの性質を利用するアプリケーション固有の入力表現など、重要な改善を行います。
実験により、従来等変グラフニューラルネットワークが支配していたqm9分子ベンチマークのいくつかの目標において、より大きな球形cnnが最先端に到達し、複数の天気予報タスクで競合性能を達成することが示された。
私たちのコードはhttps://github.com/google-research/spherical-cnnで利用可能です。
関連論文リスト
- CAM Back Again: Large Kernel CNNs from a Weakly Supervised Object
Localization Perspective [2.7195102129095003]
大規模なカーネルCNNは、下流の視覚タスクや分類性能でよく機能することが報告されている。
ダウンストリームタスクにおける大規模カーネルCNNの性能を再考し、弱教師付きオブジェクトローカライゼーションタスクに着目した。
本研究では,現在のカーネルCNNであるConvNeXt,RepLKNet,SLaKを比較し,ERFサイズがダウンストリームタスクの性能向上に重要であることを示す。
論文 参考訳(メタデータ) (2024-03-11T12:48:22Z) - Transferability of Convolutional Neural Networks in Stationary Learning
Tasks [96.00428692404354]
本稿では,大規模な空間問題に対する畳み込みニューラルネットワーク(CNN)の効率的なトレーニングのための新しいフレームワークを提案する。
このような信号の小さなウィンドウで訓練されたCNNは、再学習することなく、はるかに大きなウィンドウでほぼ性能を発揮することを示す。
以上の結果から,CNNは10人未満の訓練を受けた後,数百人のエージェントによる問題に対処できることが示唆された。
論文 参考訳(メタデータ) (2023-07-21T13:51:45Z) - Interpreting convolutional neural networks' low dimensional
approximation to quantum spin systems [1.631115063641726]
畳み込みニューラルネットワーク(CNN)は、量子多体スピンシステムの基底状態を見つけるための変分モンテカルロ法と共に用いられている。
我々は,CNNがスピン系の学習をどのように最適化するかを理論的,実験的に分析し,CNNの低次元近似について検討する。
この結果から、CNNが量子スピンハミルトニアンをどのように近似するかの総合的で改善された理解を得ることができた。
論文 参考訳(メタデータ) (2022-10-03T02:49:16Z) - Efficient Quantum Feature Extraction for CNN-based Learning [5.236201168829204]
本稿では,古典的CNNモデルの識別可能性を高めるために,量子古典的なディープネットワーク構造を提案する。
我々は、より強力な関数近似器であるPQCを構築し、受容場内の特徴を捉えるためにより複雑な構造を持つ。
その結果, アンザッツの表現性が高いモデルでは, 低コストで精度が高いことが判明した。
論文 参考訳(メタデータ) (2022-01-04T17:04:07Z) - PDO-e$\text{S}^\text{2}$CNNs: Partial Differential Operator Based
Equivariant Spherical CNNs [77.53203546732664]
我々は偏微分演算子を用いて球等価CNN, PDO-e$textStext2$CNNを設計する。
実験では、pdo-e$textstext2$cnnsはパラメータ効率が高く、いくつかのタスクで他の球面cnnを大きく上回る。
論文 参考訳(メタデータ) (2021-04-08T07:54:50Z) - Spectral Leakage and Rethinking the Kernel Size in CNNs [10.432041176720842]
CNNカーネルの小型化は,スペクトルリークの影響を受けやすいことを示す。
従来の3ドル3セントカーネルによるベースラインの分類精度の向上を実証した。
また,ハミングウィンドウ表示を用いたCNNは,特定の種類の敵攻撃に対する堅牢性を高めた。
論文 参考訳(メタデータ) (2021-01-25T14:49:29Z) - Spherical Transformer: Adapting Spherical Signal to CNNs [53.18482213611481]
Spherical Transformerは、球状信号を標準CNNで直接処理できるベクトルに変換できます。
我々は,球面MNIST認識,3次元オブジェクト分類,全方向画像セマンティックセグメンテーションの課題に対するアプローチを評価する。
論文 参考訳(メタデータ) (2021-01-11T12:33:16Z) - PSConv: Squeezing Feature Pyramid into One Compact Poly-Scale
Convolutional Layer [76.44375136492827]
畳み込みニューラルネットワーク(CNN)は、しばしばスケールに敏感である。
我々は、この後悔を、より細かい粒度でマルチスケールの機能を利用して埋める。
提案した畳み込み演算は、PSConv(Poly-Scale Convolution)と呼ばれ、拡張率のスペクトルを混合する。
論文 参考訳(メタデータ) (2020-07-13T05:14:11Z) - Spin-Weighted Spherical CNNs [58.013031812072356]
球面領域を離れることなく, 異方性フィルタを効率的に行うことができる新しい球面CNNを提案する。
鍵となる考え方は、重力波の研究において物理学で導入されたスピン重み付き球面関数を考えることである。
本手法は, 球面画像の分類, 3次元形状の分類, 球面パノラマのセマンティックセグメンテーションといったタスクにおいて, 従来の手法よりも優れていた。
論文 参考訳(メタデータ) (2020-06-18T17:57:21Z) - Approximation and Non-parametric Estimation of ResNet-type Convolutional
Neural Networks [52.972605601174955]
本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。
Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
論文 参考訳(メタデータ) (2019-03-24T19:42:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。