論文の概要: Infinite Neural Operators: Gaussian processes on functions

• arxiv url: http://arxiv.org/abs/2510.16675v1
• Date: Sun, 19 Oct 2025 00:35:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-25 00:56:39.091909
• Title: Infinite Neural Operators: Gaussian processes on functions
• Title（参考訳）: 無限ニューラル作用素:函数上のガウス過程
• Authors: Daniel Augusto de Souza, Yuchen Zhu, Harry Jake Cunningham, Yuri Saporito, Diego Mesquita, Marc Peter Deisenroth,
• Abstract要約: 本研究では、関数空間間のマッピングを学習するために設計されたモデルのクラスであるニューラル演算子(NO)にこの接続を拡張する。 ガウス分散畳み込みカーネルを持つ任意の深さNOsが関数値GPに収束する条件を示す。 PDE解演算子を含む回帰シナリオでこれらのGPの後部を計算する。
• 参考スコア（独自算出の注目度）: 18.723789296695937
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: A variety of infinitely wide neural architectures (e.g., dense NNs, CNNs, and transformers) induce Gaussian process (GP) priors over their outputs. These relationships provide both an accurate characterization of the prior predictive distribution and enable the use of GP machinery to improve the uncertainty quantification of deep neural networks. In this work, we extend this connection to neural operators (NOs), a class of models designed to learn mappings between function spaces. Specifically, we show conditions for when arbitrary-depth NOs with Gaussian-distributed convolution kernels converge to function-valued GPs. Based on this result, we show how to compute the covariance functions of these NO-GPs for two NO parametrizations, including the popular Fourier neural operator (FNO). With this, we compute the posteriors of these GPs in regression scenarios, including PDE solution operators. This work is an important step towards uncovering the inductive biases of current FNO architectures and opens a path to incorporate novel inductive biases for use in kernel-based operator learning methods.
• Abstract（参考訳）: 様々な無限に広いニューラルネットワークアーキテクチャ(例えば、高密度NN、CNN、トランスフォーマー)は、ガウス過程(GP)をその出力に優先させる。 これらの関係は、事前の予測分布の正確な特性を提供し、GP機械を使用してディープニューラルネットワークの不確実性定量化を改善することができる。 本研究では、関数空間間のマッピングを学習するために設計されたモデルのクラスであるニューラル演算子(NO)にこの接続を拡張する。 具体的には、ガウス分布の畳み込みカーネルを持つ任意の深さNOsが関数値GPに収束する条件を示す。 この結果に基づき、一般的なフーリエニューラル演算子(FNO)を含む2つのNOパラメトリゼーションに対して、これらのNO-GPの共分散関数を計算する方法を示す。 これにより、PDE解演算子を含む回帰シナリオにおいて、これらのGPの後方を計算できる。 この研究は、現在のFNOアーキテクチャの帰納バイアスを明らかにするための重要なステップであり、カーネルベースの演算子学習手法で使われる新しい帰納バイアスを組み込むための道を開く。

関連論文リスト

• Linearization Turns Neural Operators into Function-Valued Gaussian Processes [23.85470417458593]
  我々は、訓練されたニューラル演算子におけるベイズの不確実性定量化を近似するための新しいフレームワークLUNOを紹介する。 我々の手法はモデル線形化を利用して(ガウス的)重み空間の不確実性をニューラル作用素の予測に推し進める。 これは関数型プログラミングのカリー化の概念の確率的バージョンとして解釈でき、関数値(ガウス的)ランダムプロセスの信念を導出することを示す。
  論文  参考訳（メタデータ） (2024-06-07T16:43:54Z)
• Neural Operators with Localized Integral and Differential Kernels [77.76991758980003]
  本稿では,2つのフレームワークで局所的な特徴をキャプチャできる演算子学習の原理的アプローチを提案する。 我々はCNNのカーネル値の適切なスケーリングの下で微分演算子を得ることを示す。 局所積分演算子を得るには、離散連続的畳み込みに基づくカーネルの適切な基底表現を利用する。
  論文  参考訳（メタデータ） (2024-02-26T18:59:31Z)
• Linear Time GPs for Inferring Latent Trajectories from Neural Spike Trains [7.936841911281107]
  我々は,Hida-Mat'ernカーネルと共役変分推論(CVI)を利用した潜在GPモデルの一般的な推論フレームワークであるcvHMを提案する。 我々は任意の確率で線形時間複雑性を持つ潜在神経軌道の変分推定を行うことができる。
  論文  参考訳（メタデータ） (2023-06-01T16:31:36Z)
• Resolution-Invariant Image Classification based on Fourier Neural Operators [1.3190581566723918]
  画像分類における一般化ニューラルネットワーク (FNO) の利用について, 標準畳み込みニューラルネットワーク (CNN) と比較して検討した。 我々は、ルベーグ空間上の連続およびFr'echet微分可能なニューラル作用素の例としてFNOアーキテクチャを導出する。
  論文  参考訳（メタデータ） (2023-04-02T10:23:36Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Neural Operator: Learning Maps Between Function Spaces [75.93843876663128]
  本稿では,無限次元関数空間間を写像する演算子,いわゆるニューラル演算子を学習するためのニューラルネットワークの一般化を提案する。 提案したニューラル作用素に対して普遍近似定理を証明し、任意の非線形連続作用素を近似することができることを示す。 ニューラル作用素に対する重要な応用は、偏微分方程式の解作用素に対する代理写像を学習することである。
  論文  参考訳（メタデータ） (2021-08-19T03:56:49Z)
• Deep Neural Networks as Point Estimates for Deep Gaussian Processes [44.585609003513625]
  本稿では,DGPの近似的な後進平均がディープニューラルネットワーク(DNN)と同じ数学的構造を持つスパース変分近似を提案する。 我々は、GP後方平均をReLU基底関数の和として表すドメイン間変換を求めることで、ReLU DNNと同等のDGPを前方通過させる。 実験は、現在のDGP法と比較して精度の向上とトレーニングの高速化を実証し、良好な予測不確実性を維持します。
  論文  参考訳（メタデータ） (2021-05-10T16:55:17Z)
• Double-descent curves in neural networks: a new perspective using Gaussian processes [9.153116600213641]
  ニューラルネットワークの二重輝線曲線は、一般化誤差が最初にパラメータの増加とともに下降し、最適数のパラメータに達した後に成長する現象を記述している。 本稿では,ニューラルネットワークガウス過程カーネルのスペクトルの幅依存性として,経験的特徴共分散行列のスペクトル分布を特徴付けるために,ランダム行列理論の手法を用いる。
  論文  参考訳（メタデータ） (2021-02-14T20:31:49Z)
• Fourier Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  積分カーネルを直接フーリエ空間でパラメータ化することで、新しいニューラル演算子を定式化する。 バーガースの方程式、ダーシー流、ナビエ・ストークス方程式の実験を行う。 従来のPDEソルバに比べて最大3桁高速である。
  論文  参考訳（メタデータ） (2020-10-18T00:34:21Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。