論文の概要: Efficient Generalized Spherical CNNs
- arxiv url: http://arxiv.org/abs/2010.11661v3
- Date: Mon, 8 Mar 2021 11:55:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-09 05:13:52.448314
- Title: Efficient Generalized Spherical CNNs
- Title(参考訳): 効率的な一般化球形CNN
- Authors: Oliver J. Cobb, Christopher G. R. Wallis, Augustine N. Mavor-Parker,
Augustin Marignier, Matthew A. Price, Mayeul d'Avezac, Jason D. McEwen
- Abstract要約: 既存の様々なアプローチを包含し,相互に活用できる汎用球面CNNフレームワークを提案する。
これらの開発により、球面ベンチマーク問題に対する最先端の精度とパラメータ効率を実現する、より表現力のあるハイブリッドモデルの構築が可能であることが示されている。
- 参考スコア(独自算出の注目度): 7.819876182082904
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many problems across computer vision and the natural sciences require the
analysis of spherical data, for which representations may be learned
efficiently by encoding equivariance to rotational symmetries. We present a
generalized spherical CNN framework that encompasses various existing
approaches and allows them to be leveraged alongside each other. The only
existing non-linear spherical CNN layer that is strictly equivariant has
complexity $\mathcal{O}(C^2L^5)$, where $C$ is a measure of representational
capacity and $L$ the spherical harmonic bandlimit. Such a high computational
cost often prohibits the use of strictly equivariant spherical CNNs. We develop
two new strictly equivariant layers with reduced complexity $\mathcal{O}(CL^4)$
and $\mathcal{O}(CL^3 \log L)$, making larger, more expressive models
computationally feasible. Moreover, we adopt efficient sampling theory to
achieve further computational savings. We show that these developments allow
the construction of more expressive hybrid models that achieve state-of-the-art
accuracy and parameter efficiency on spherical benchmark problems.
- Abstract(参考訳): コンピュータビジョンと自然科学にまたがる多くの問題は、回転対称性に等分散を符号化することで表現を効率的に学習できる球面データの解析を必要とする。
我々は,既存の様々なアプローチを包含し,それらを相互に活用可能な一般化球面cnnフレームワークを提案する。
厳密に同変である唯一の非線型球面CNN層は複雑さ$\mathcal{O}(C^2L^5)$であり、$C$は表現能力の尺度であり、$L$は球面調和帯域である。
このような高い計算コストは、厳密な同変球面cnnの使用をしばしば禁止する。
複雑度を下げる$\mathcal{O}(CL^4)$と$\mathcal{O}(CL^3 \log L)$の2つの厳密な同変層を開発し、より大きく、より表現力のあるモデルを計算可能とした。
さらに, 効率的なサンプリング理論を適用し, さらなる計算節約を実現する。
これらの開発により,球面ベンチマーク問題に対する最先端の精度とパラメータ効率を実現する,より表現力のあるハイブリッドモデルの構築が可能となる。
関連論文リスト
- E2Former: A Linear-time Efficient and Equivariant Transformer for Scalable Molecular Modeling [44.75336958712181]
We introduced E2Former, an equivariant and efficient transformer architecture that with the Wigner 6,j$ convolution (Wigner 6,j$ Conv)
計算負荷をエッジからノードにシフトすることで、Wigner 6j$ Convは複雑さを$O(|mathcalE|)$から$O(| MathcalV|)$に縮める。
この開発は、スケーラブルで効率的な分子モデリングのための有望な方向を示唆する可能性がある。
論文 参考訳(メタデータ) (2025-01-31T15:22:58Z) - The Sample Complexity of Online Reinforcement Learning: A Multi-model Perspective [55.15192437680943]
連続状態と行動空間を持つ非線形力学系に対するオンライン強化学習のサンプル複雑性について検討した。
我々のアルゴリズムは、その単純さ、事前知識を組み込む能力、そして良心的な過渡的行動のために、実際に有用である可能性が高い。
論文 参考訳(メタデータ) (2025-01-27T10:01:28Z) - Globally Convergent Accelerated Algorithms for Multilinear Sparse
Logistic Regression with $\ell_0$-constraints [2.323238724742687]
多重線形ロジスティック回帰は多次元データ解析の強力なツールである。
本稿では,$ell_0$-MLSRを解くために,アクセラレーションされた近位置換最小値MLSRモデルを提案する。
また、APALM$+$が一階臨界点に大域収束し、クルディ・ロジャシエヴィチ性質を用いて収束を確立することも示している。
論文 参考訳(メタデータ) (2023-09-17T11:05:08Z) - Distribution learning via neural differential equations: a nonparametric
statistical perspective [1.4436965372953483]
この研究は、確率変換によって訓練されたODEモデルによる分布学習のための最初の一般統計収束解析を確立する。
後者はクラス $mathcal F$ の$C1$-metric entropy で定量化できることを示す。
次に、この一般フレームワークを$Ck$-smoothターゲット密度の設定に適用し、関連する2つの速度場クラスに対する最小最適収束率を$mathcal F$:$Ck$関数とニューラルネットワークに設定する。
論文 参考訳(メタデータ) (2023-09-03T00:21:37Z) - Scalable and Equivariant Spherical CNNs by Discrete-Continuous (DISCO)
Convolutions [5.8808473430456525]
既存の球面畳み込みニューラルネットワーク(CNN)フレームワークは、計算的拡張性と回転的同変の両方である。
我々は、高分解能に対して同変かつ計算的に同値なハイブリッド離散連続群畳み込み(DISCO)を開発する。
4kの球面画像では、計算コストが109ドル、メモリ使用量が104ドルである。
論文 参考訳(メタデータ) (2022-09-27T18:00:01Z) - Minimax Optimal Quantization of Linear Models: Information-Theoretic
Limits and Efficient Algorithms [59.724977092582535]
測定から学習した線形モデルの定量化の問題を考える。
この設定の下では、ミニマックスリスクに対する情報理論の下限を導出する。
本稿では,2層ReLUニューラルネットワークに対して,提案手法と上界を拡張可能であることを示す。
論文 参考訳(メタデータ) (2022-02-23T02:39:04Z) - PDO-e$\text{S}^\text{2}$CNNs: Partial Differential Operator Based
Equivariant Spherical CNNs [77.53203546732664]
我々は偏微分演算子を用いて球等価CNN, PDO-e$textStext2$CNNを設計する。
実験では、pdo-e$textstext2$cnnsはパラメータ効率が高く、いくつかのタスクで他の球面cnnを大きく上回る。
論文 参考訳(メタデータ) (2021-04-08T07:54:50Z) - On Function Approximation in Reinforcement Learning: Optimism in the
Face of Large State Spaces [208.67848059021915]
強化学習のコアにおける探索・探索トレードオフについて検討する。
特に、関数クラス $mathcalF$ の複雑さが関数の複雑さを特徴づけていることを証明する。
私たちの後悔の限界はエピソードの数とは無関係です。
論文 参考訳(メタデータ) (2020-11-09T18:32:22Z) - Implicit Convex Regularizers of CNN Architectures: Convex Optimization
of Two- and Three-Layer Networks in Polynomial Time [70.15611146583068]
本稿では,ReLUアクティベーションを用いた畳み込みニューラルネットワーク(CNN)のトレーニングについて検討する。
我々は,データサンプル数,ニューロン数,データ次元に関して,厳密な凸最適化を導入する。
論文 参考訳(メタデータ) (2020-06-26T04:47:20Z) - Computationally efficient sparse clustering [67.95910835079825]
我々はPCAに基づく新しいクラスタリングアルゴリズムの有限サンプル解析を行う。
ここでは,ミニマックス最適誤クラスタ化率を,体制$|theta infty$で達成することを示す。
論文 参考訳(メタデータ) (2020-05-21T17:51:30Z) - Efficient algorithms for multivariate shape-constrained convex
regression problems [9.281671380673306]
最小二乗推定器は、制約付き凸プログラミング(QP)問題を$(n+1)d$変数と少なくとも$n(n-1)$線形不等式制約で解くことで計算可能であることを証明している。
一般に非常に大規模な凸QPを解くために、我々は2つの効率的なアルゴリズムを設計する。1つは対称ガウス・シーデルに基づく乗算器の交互方向法(tt sGS-ADMM)であり、もう1つは半滑らかニュートン法(tt)によって解かれる部分プロブレムを持つ近似拡張ラグランジアン法(tt pALM)である。
論文 参考訳(メタデータ) (2020-02-26T11:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。