論文の概要: Fourier Features Let Networks Learn High Frequency Functions in Low Dimensional Domains

• arxiv url: http://arxiv.org/abs/2006.10739v1
• Date: Thu, 18 Jun 2020 17:59:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-19 13:25:02.145299
• Title: Fourier Features Let Networks Learn High Frequency Functions in Low Dimensional Domains
• Title（参考訳）: ネットワークが低次元領域で高周波関数を学習できるフーリエ機能
• Authors: Matthew Tancik, Pratul P. Srinivasan, Ben Mildenhall, Sara Fridovich-Keil, Nithin Raghavan, Utkarsh Singhal, Ravi Ramamoorthi, Jonathan T. Barron, Ren Ng
• Abstract要約: 単純なフーリエ特徴写像を通して入力点を渡すことで、多層パーセプトロンが高周波関数を学習できることを示す。 結果は、最先端の結果を達成するコンピュータビジョンとグラフィックの進歩に光を当てた。
• 参考スコア（独自算出の注目度）: 69.62456877209304
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We show that passing input points through a simple Fourier feature mapping enables a multilayer perceptron (MLP) to learn high-frequency functions in low-dimensional problem domains. These results shed light on recent advances in computer vision and graphics that achieve state-of-the-art results by using MLPs to represent complex 3D objects and scenes. Using tools from the neural tangent kernel (NTK) literature, we show that a standard MLP fails to learn high frequencies both in theory and in practice. To overcome this spectral bias, we use a Fourier feature mapping to transform the effective NTK into a stationary kernel with a tunable bandwidth. We suggest an approach for selecting problem-specific Fourier features that greatly improves the performance of MLPs for low-dimensional regression tasks relevant to the computer vision and graphics communities.
• Abstract（参考訳）: 単純なフーリエ特徴マッピングによる入力点の通過により、多層パーセプトロン(mlp)が低次元問題領域で高周波関数を学習できることを示す。 これらの結果は、複雑な3Dオブジェクトやシーンを表現するためにMLPを使用して、最先端の成果を達成するコンピュータビジョンとグラフィックスの最近の進歩に光を当てた。 神経接核 (neural tangent kernel, ntk) の文献から得られたツールを用いて, 標準mlpは理論上, 実用上, 高い周波数を学習できないことを示した。 このスペクトルバイアスを克服するために、有効なntkを波長可変帯域を持つ定常カーネルに変換するため、フーリエ特徴マッピングを用いる。 コンピュータビジョンやグラフィックコミュニティに関連する低次元回帰タスクにおいて,MLPの性能を大幅に向上させる問題固有のフーリエ機能を選択する手法を提案する。

関連論文リスト

• Robust Fourier Neural Networks [1.0589208420411014]
  フーリエ埋込層の後, 単純な対角層を導入することにより, ネットワークの騒音測定がより堅牢になることを示す。 特定の条件下では,フーリエ関数の非線形関数の雑音混合である関数も学習することができる。
  論文  参考訳（メタデータ） (2024-09-03T16:56:41Z)
• On Optimal Sampling for Learning SDF Using MLPs Equipped with Positional Encoding [79.67071790034609]
  我々は、好ましくない副作用を伴わずに、正確な暗黙の場を学習するための適切なサンプリング率を決定するツールを考案した。 PEを具備したPEは、PE層の最高周波数成分よりも内在周波数がはるかに高いことが観察された。 SDFフィッティングの設定において,この推奨サンプリングレートは正確なフィッティング結果の確保に十分であることを示す。
  論文  参考訳（メタデータ） (2024-01-02T10:51:52Z)
• Coordinate-Aware Modulation for Neural Fields [11.844561374381575]
  本稿では,ニューラルネットワークにおける合成とグリッド表現の両面を利用した新しい手法を提案する。 格子表現から抽出したスケールとシフト特徴を用いてパラメータを変調するニューラルコーディネート・アウェア・変調(CAM)を提案する。
  論文  参考訳（メタデータ） (2023-11-25T10:42:51Z)
• Dynamic Spectrum Mixer for Visual Recognition [17.180863898764194]
  動的スペクトルミキサー (DSM) という,コンテンツ適応型だが計算効率のよい構造を提案する。 DSMはコサイン変換を用いて周波数領域におけるトークンの相互作用を表す。 ログ線形複雑性で長期空間依存を学習することができる。
  論文  参考訳（メタデータ） (2023-09-13T04:51:15Z)
• QFF: Quantized Fourier Features for Neural Field Representations [28.82293263445964]
  我々は、QFF(Quantized Fourier Features)を用いることで、モデルのサイズが小さくなり、トレーニングが速くなり、複数のアプリケーションの品質が向上することを示した。 QFFは簡単にコーディングでき、高速に計算でき、多くのニューラルネットワーク表現に加えてシンプルなドロップインとして機能する。
  論文  参考訳（メタデータ） (2022-12-02T00:11:22Z)
• FAMLP: A Frequency-Aware MLP-Like Architecture For Domain Generalization [73.41395947275473]
  本稿では、変換周波数領域において、ドメイン固有の特徴をフィルタリングする新しい周波数認識アーキテクチャを提案する。 3つのベンチマークの実験では、最先端の手法をそれぞれ3%、4%、9%のマージンで上回った。
  論文  参考訳（メタデータ） (2022-03-24T07:26:29Z)
• Fourier Disentangled Space-Time Attention for Aerial Video Recognition [54.80846279175762]
  本稿では,UAVビデオ行動認識のためのFAR(Fourier Activity Recognition)アルゴリズムを提案する。 我々の定式化は、人間のエージェントを背景から自然に分離するために、新しいフーリエオブジェクト・ディコンタングルメント法を用いています。 我々はUAV Human RGB、UAV Human Night、Drone Action、NEC Droneを含む複数のUAVデータセットに対するアプローチを評価した。
  論文  参考訳（メタデータ） (2022-03-21T01:24:53Z)
• Functional Regularization for Reinforcement Learning via Learned Fourier Features [98.90474131452588]
  本稿では、入力を学習されたフーリエベースに埋め込むことにより、深層強化学習のための簡単なアーキテクチャを提案する。 その結果、状態ベースと画像ベースの両方のRLのサンプル効率が向上することがわかった。
  論文  参考訳（メタデータ） (2021-12-06T18:59:52Z)
• Seeing Implicit Neural Representations as Fourier Series [13.216389226310987]
  Inlicit Neural Representation (INR)は低次元問題領域における高周波関数を表現するために多層パーセプトロンを使用する。 これらの表現は、複雑な3Dオブジェクトやシーンに関連するタスクについて、最先端の結果を得た。 この研究は2つの方法間の接続を分析し、フーリエ写像されたパーセプトロンが構造的に1つの隠蔽層SIRENと似ていることを示す。
  論文  参考訳（メタデータ） (2021-09-01T08:40:20Z)
• Global Filter Networks for Image Classification [90.81352483076323]
  本稿では,対数線形複雑度を持つ周波数領域における長期空間依存性を学習する,概念的に単純だが計算効率のよいアーキテクチャを提案する。 この結果から,GFNetはトランスフォーマー型モデルやCNNの効率,一般化能力,堅牢性において,非常に競争力のある代替手段となる可能性が示唆された。
  論文  参考訳（メタデータ） (2021-07-01T17:58:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。