論文の概要: Neural Splines: Fitting 3D Surfaces with Infinitely-Wide Neural Networks
- arxiv url: http://arxiv.org/abs/2006.13782v3
- Date: Thu, 27 May 2021 13:56:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-17 13:15:49.880443
- Title: Neural Splines: Fitting 3D Surfaces with Infinitely-Wide Neural Networks
- Title(参考訳): ニューラルネットワークによる3D表面の整合性
- Authors: Francis Williams, Matthew Trager, Joan Bruna, Denis Zorin
- Abstract要約: 本稿では,無限幅浅部ReLUネットワークから生じるランダムな特徴カーネルをベースとした3次元表面再構成手法であるNeural Splinesを提案する。
提案手法は,最近のニューラルネットワーク技術より優れ,ポアソン表面再構成に広く用いられている。
- 参考スコア(独自算出の注目度): 61.07202852469595
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present Neural Splines, a technique for 3D surface reconstruction that is
based on random feature kernels arising from infinitely-wide shallow ReLU
networks. Our method achieves state-of-the-art results, outperforming recent
neural network-based techniques and widely used Poisson Surface Reconstruction
(which, as we demonstrate, can also be viewed as a type of kernel method).
Because our approach is based on a simple kernel formulation, it is easy to
analyze and can be accelerated by general techniques designed for kernel-based
learning. We provide explicit analytical expressions for our kernel and argue
that our formulation can be seen as a generalization of cubic spline
interpolation to higher dimensions. In particular, the RKHS norm associated
with Neural Splines biases toward smooth interpolants.
- Abstract(参考訳): 無限幅浅部ReLUネットワークから生じるランダムな特徴カーネルをベースとした3次元表面再構成技術であるNeural Splinesを提案する。
本手法は,最近のニューラルネットワークに基づく手法や広く用いられているポアソン表面再構成技術(カーネル手法の一種としても見ることができる)を上回って,最先端の結果を得る。
提案手法は単純なカーネルの定式化に基づいているため,解析が容易であり,カーネルベースの学習のために設計された一般的な技術によって加速することができる。
我々はカーネルに対して明示的な解析式を提供し、我々の定式化は高次元への立方スプライン補間の一般化と見なすことができると論じる。
特に、ニューラルスプラインに関連するRKHSノルムは滑らかな補間物に偏りがある。
関連論文リスト
- Wide Neural Networks as Gaussian Processes: Lessons from Deep
Equilibrium Models [16.07760622196666]
本研究では,層間における共有重み行列を持つ無限深度ニューラルネットワークであるDeep equilibrium Model (DEQ)について検討する。
解析により,DEC層の幅が無限大に近づくにつれ,ガウス過程に収束することが明らかとなった。
注目すべきは、この収束は深さと幅の限界が交換されても成り立つことである。
論文 参考訳(メタデータ) (2023-10-16T19:00:43Z) - An Exact Kernel Equivalence for Finite Classification Models [1.4777718769290527]
我々は、その正確な表現をよく知られたニューラルタンジェントカーネル(NTK)と比較し、NTKに対する近似誤差について議論する。
この正確なカーネルを使って、ニューラルネットワークによる予測について、理論的貢献が有益な洞察を提供することを示す。
論文 参考訳(メタデータ) (2023-08-01T20:22:53Z) - Gradient Descent in Neural Networks as Sequential Learning in RKBS [63.011641517977644]
初期重みの有限近傍にニューラルネットワークの正確な電力系列表現を構築する。
幅にかかわらず、勾配降下によって生成されたトレーニングシーケンスは、正規化された逐次学習によって正確に複製可能であることを証明した。
論文 参考訳(メタデータ) (2023-02-01T03:18:07Z) - Neural Networks with Sparse Activation Induced by Large Bias: Tighter Analysis with Bias-Generalized NTK [86.45209429863858]
ニューラル・タンジェント・カーネル(NTK)における一層ReLUネットワークのトレーニングについて検討した。
我々は、ニューラルネットワークが、テクティトビア一般化NTKと呼ばれる異なる制限カーネルを持っていることを示した。
ニューラルネットの様々な特性をこの新しいカーネルで研究する。
論文 参考訳(メタデータ) (2023-01-01T02:11:39Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳(メタデータ) (2022-09-16T06:36:06Z) - Incorporating Prior Knowledge into Neural Networks through an Implicit
Composite Kernel [1.6383321867266318]
Implicit Composite Kernel (ICK) は、ニューラルネットワークによって暗黙的に定義されたカーネルと、既知のプロパティをモデル化するために選択された第2のカーネル関数を組み合わせたカーネルである。
合成データセットと実世界のデータセットの両方において、ICKの優れた性能と柔軟性を実証する。
論文 参考訳(メタデータ) (2022-05-15T21:32:44Z) - Neural Fields as Learnable Kernels for 3D Reconstruction [101.54431372685018]
本稿では,学習したカーネルリッジの回帰に基づいて,暗黙の3次元形状を再構成する手法を提案する。
本手法は,3次元オブジェクトと大画面をスパース指向の点から再構成する際の最先端の処理結果を実現する。
論文 参考訳(メタデータ) (2021-11-26T18:59:04Z) - Random Features for the Neural Tangent Kernel [57.132634274795066]
完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。
得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
論文 参考訳(メタデータ) (2021-04-03T09:08:12Z) - Iso-Points: Optimizing Neural Implicit Surfaces with Hybrid
Representations [21.64457003420851]
我々は,幾何認識によるサンプリングと正規化を課すことができるハイブリッドニューラルサーフェス表現を開発した。
本手法は、多視点画像や点群から神経暗黙面を再構築する技術を改善するために適用できることを実証する。
論文 参考訳(メタデータ) (2020-12-11T15:51:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。