論文の概要: Resolution-Independent Analysis of Encoder--Decoder Operator Learning via Limiting Kernels
- arxiv url: http://arxiv.org/abs/2609.13798v1
- Date: Sat, 12 Sep 2026 08:19:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.553997
- Title: Resolution-Independent Analysis of Encoder--Decoder Operator Learning via Limiting Kernels
- Title(参考訳): エンコーダの分解能非依存解析-限界カーネルによるデコーダ演算子学習
- Abstract要約: エンコーダデコーダアーキテクチャでは、行列値のカーネルは元の関数空間上で演算子値のカーネルを誘導する。
入力と出力の解像度が大きくなると、誘導されたカーネルは制限されたカーネルに収束する。
- 参考スコア(独自算出の注目度): 16.10520704144734
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Operator learning is formulated on function spaces, but training data are typically available only through finite-dimensional representations. In encoder--decoder architectures, a matrix-valued kernel on the encoded space induces an operator-valued kernel on the original function spaces, and the corresponding reproducing kernel Hilbert spaces are isometrically isomorphic. As the input and output resolutions increase, the induced kernels converge to a limiting kernel, in the sense of operator-norm convergence of their associated integral operators, allowing regularity assumptions to be stated independently of the encoding resolution. For regularized stochastic gradient descent, we establish upper bounds for decreasing and fixed step sizes, separating the encoding and regularization terms from optimization terms of order \(t^{-θ}\) and \(T^{-θ'}\), respectively, for any \(θ,θ'\in(0,1)\). We further prove lower bounds showing that these encoding-induced terms are generally unavoidable. The analysis is further extended to encoder--decoder neural networks through the limiting neural tangent kernel (NTK), yielding error bounds with an additional finite-width term and polynomial parameter and sample complexity guarantees when the encoding errors decay algebraically. The framework covers matrix-valued kernels constructed from radial and dot product kernels, NTKs arising from wide encoder--decoder neural networks, and encoder--decoder pairs based on Fourier, Legendre polynomial, wavelet, PCA, or pointwise sampling representations.
- Abstract(参考訳): 演算子学習は関数空間で定式化されるが、訓練データは典型的には有限次元表現によってのみ利用可能である。
エンコーダ-デコーダアーキテクチャでは、エンコーダ空間上の行列値カーネルは元の関数空間上の演算子値カーネルを誘導し、対応する再生カーネルヒルベルト空間は等方的に同型である。
入力と出力の解像度が増加するにつれて、誘導されたカーネルは、関連する積分作用素の作用素-ノルム収束という意味で、制限カーネルに収束し、正規性仮定は符号化分解とは独立に記述される。
正規化確率勾配降下に対しては、任意の \(θ,θ'\in(0,1)\) に対して、位数 \(t^{-θ}\) と \(T^{-θ'}\) の最適化項から符号化項と正規化項を分離し、ステップサイズを減少させる上限を確立する。
さらに、これらの符号化誘導項が一般に避けられないことを示す下界を証明している。
解析はさらに、制限付きニューラルネットワーク(NTK)を介してエンコーダ-デコーダニューラルネットワークに拡張され、追加の有限幅項と多項式パラメータによるエラー境界と、符号化エラーが代数的に崩壊した場合のサンプル複雑性が保証される。
このフレームワークは、ラジアルおよびドット製品カーネル、ワイドエンコーダ-デコーダニューラルネットワークから発生するNTK、フーリエ、ルジャンドル多項式、ウェーブレット、PCA、ポイントワイドサンプリング表現に基づくエンコーダ-デコーダペアで構成されている。
関連論文リスト
- Explicit block-encodings for biharmonic boundary-value problems [1.5922179327791923]
周期的, 単純サポート, ディリクレ-ノイマン境界条件に対する量子線形系アルゴリズムを開発した。
ディリクレ-ノイマン問題に対して、二階境界補正有限差分法を導入する。
また、追加の境界未知を持つ結合ラプラス系を定式化する。
論文 参考訳(メタデータ) (2026-07-24T15:20:32Z) - Efficient Approximation for Encoder--Decoder Neural Operators via Variation Spaces [7.820614736576814]
エンコーダ-デコーダニューラルネットワークを用いた演算子学習について検討する。
非線形作用素に対する無限次元構造クラスとして変分空間を導入する。
この空間の作用素に対しては、Bochner $Lq$ normにおけるエンコーダ-デコーダ2層ネットワークの近似境界を確立する。
論文 参考訳(メタデータ) (2026-05-31T13:53:17Z) - IKNO: Infinite-order Kernel Neural Operators [57.17011066621087]
Infinite-order Kernel Neural Operator (IKNO) を提案する。
我々は、Kronecker eigendecompositionを介して製品グリッドにフルカーネル分解剤を適用するIKNO-Vanillaと、軸あたりの分解剤を構成する代替テンソル積演算子であるIKNO-TPの2つの相補的な無限次ニューラル演算子を構築した。
論文 参考訳(メタデータ) (2026-05-21T08:52:36Z) - FUTON: Fourier Tensor Network for Implicit Neural Representations [56.48739018255443]
入射神経表現(INR)はシグナルを符号化する強力なツールとして現れてきたが、支配的な設計はしばしば収束が遅く、ノイズに過度に適応し、外挿が不十分である。
低ランクテンソル分解により係数がパラメータ化される一般化フーリエ級数として信号をモデル化するFUTONを導入する。
論文 参考訳(メタデータ) (2026-02-13T19:31:44Z) - Generalization Bounds for Transformer Channel Decoders [61.55280736553095]
本稿では,ECCTの一般化性能を学習理論の観点から検討する。
我々の知る限りでは、この研究はこの種のデコーダに対する最初の理論的一般化保証を提供する。
論文 参考訳(メタデータ) (2026-01-11T15:56:37Z) - Scalable Gaussian Processes with Low-Rank Deep Kernel Decomposition [7.532273334759435]
カーネルはガウス過程(GP)モデルにおいて、事前の信念とデータ構造を符号化する鍵である。
ディープカーネル学習は、標準的なパラメトリック形式を適用する前に、ニューラルネットワークを介して入力を入力することで、カーネルの柔軟性を向上させる。
我々は、ニューラルネットワークが直接低ランクカーネルを表現する、完全にデータ駆動でスケーラブルなディープカーネル表現を導入する。
論文 参考訳(メタデータ) (2025-05-24T05:42:11Z) - Learning Operators by Regularized Stochastic Gradient Descent with Operator-valued Kernels [5.663076715852465]
ポーランド空間から分離可能なヒルベルト空間へ非線形作用素を推定するための正規収束エンコーダ降下(SGD)アルゴリズムについて検討する。
一般SGDスキームに対して高い確率で境界を導出する新しい手法を提案する。
論文 参考訳(メタデータ) (2025-04-25T08:57:38Z) - Kernel Neural Operators (KNOs) for Scalable, Memory-efficient, Geometrically-flexible Operator Learning [11.165984223900104]
本稿では,KNO(Kernel Neural Operator)について紹介する。
KNOは、数値積分スキーム(四分数)からカーネルの選択を分離する
既存のベンチマークでは、KNOsのトレーニングとテストの精度は、一般的な演算子学習技術と同等かそれ以上であることを示す。
論文 参考訳(メタデータ) (2024-06-30T19:28:12Z) - Locality-Aware Generalizable Implicit Neural Representation [54.93702310461174]
一般化可能な暗黙的ニューラル表現(INR)は、単一の連続関数が複数のデータインスタンスを表現することを可能にする。
本稿では、変換器エンコーダと局所性を考慮したINRデコーダを組み合わせた一般化可能なINRのための新しいフレームワークを提案する。
我々のフレームワークは、従来の一般化可能なINRよりも大幅に優れており、下流タスクにおける局所性を考慮した潜在能力の有効性を検証している。
論文 参考訳(メタデータ) (2023-10-09T11:26:58Z) - Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs [93.82811501035569]
本稿では,メモリ要求を低減し,より一般化したデータ効率・並列化可能な演算子学習手法を提案する。
MG-TFNOは、実世界の実世界の現象の局所的構造と大域的構造を活用することで、大規模な分解能にスケールする。
乱流ナビエ・ストークス方程式において150倍以上の圧縮で誤差の半分以下を達成できる優れた性能を示す。
論文 参考訳(メタデータ) (2023-09-29T20:18:52Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。