論文の概要: Efficient Approximation for Encoder--Decoder Neural Operators via Variation Spaces
- arxiv url: http://arxiv.org/abs/2606.01244v1
- Date: Sun, 31 May 2026 13:53:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.469934
- Title: Efficient Approximation for Encoder--Decoder Neural Operators via Variation Spaces
- Title(参考訳): 変分空間を用いたエンコーダ-デコーダニューラル演算子の効率的な近似
- Authors: Jia-Qi Yang, Lei Shi,
- Abstract要約: エンコーダ-デコーダニューラルネットワークを用いた演算子学習について検討する。
非線形作用素に対する無限次元構造クラスとして変分空間を導入する。
この空間の作用素に対しては、Bochner $Lq$ normにおけるエンコーダ-デコーダ2層ネットワークの近似境界を確立する。
- 参考スコア(独自算出の注目度): 7.820614736576814
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study operator learning using encoder--decoder neural networks. Inspired by the function-space theory of neural networks, we introduce a variation space as an infinite-dimensional structural class for nonlinear operators. This space is defined through vector-valued measures directly on the input and output spaces. For operators in this space, we establish approximation bounds for encoder--decoder two-layer networks in the Bochner $L^q$ norm. The resulting error bound decomposes into the input encoding error, the output encoding error, and a finite-width approximation term of order $N^{-1/2}$, with a constant independent of the input and output encoding dimensions. When the input and output encoding errors decay polynomially in the encoding dimensions, these estimates yield algebraic approximation and learning rates. The results provide an theoretical guarantees for efficient neural operator learning beyond general Lipschitz or Fréchet differentiable operator classes.
- Abstract(参考訳): エンコーダ-デコーダニューラルネットワークを用いた演算子学習について検討する。
ニューラルネットワークの関数空間理論に着想を得て、非線形作用素に対する無限次元構造クラスとして変分空間を導入する。
この空間は、入力空間と出力空間に直接ベクトル値測度によって定義される。
この空間の作用素に対しては、Bochner $L^q$ ノルム内のエンコーダ-デコーダ2層ネットワークの近似境界を確立する。
結果の誤差境界は入力符号化誤差、出力符号化誤差、およびオーダー$N^{-1/2}$の有限幅近似項に分解される。
入力と出力の符号化エラーが符号化次元で多項式的に減衰すると、これらの推定値は代数的近似と学習率をもたらす。
この結果は、一般のリプシッツやフレシェ微分作用素クラスを超えた効率的なニューラル作用素学習の理論的保証を提供する。
関連論文リスト
- Deep Parallel Spectral Neural Operators for Solving Partial Differential Equations with Enhanced Low-Frequency Learning Capability [11.121415128908566]
低周波情報を学習する能力を高めるために,DPNO(Deep Parallel Spectral Neural Operator)を提案する。
本手法は,並列モジュールによる低周波情報学習能力を向上させる。
この情報を畳み込みマッピングによってスムーズにすることで、高周波エラーを低減する。
論文 参考訳(メタデータ) (2024-09-30T06:04:04Z) - Learning Linear Block Error Correction Codes [62.25533750469467]
本稿では,バイナリ線形ブロック符号の統一エンコーダデコーダトレーニングを初めて提案する。
また,コード勾配の効率的なバックプロパゲーションのために,自己注意マスキングを行うトランスフォーマーモデルを提案する。
論文 参考訳(メタデータ) (2024-05-07T06:47:12Z) - Generalization Bounds for Neural Belief Propagation Decoders [10.96453955114324]
本稿では,ニューラルネットワークを用いたデコーダの一般化機能について検討する。
具体的には、デコーダの一般化ギャップは、経験的ビットエラーレートと期待ビットエラーレートの差である。
通常のパリティチェック行列と不規則なパリティチェック行列の両方について結果が提示される。
論文 参考訳(メタデータ) (2023-05-17T19:56:04Z) - The END: An Equivariant Neural Decoder for Quantum Error Correction [73.4384623973809]
データ効率のよいニューラルデコーダを導入し、この問題の対称性を活用する。
本稿では,従来のニューラルデコーダに比べて精度の高い新しい同変アーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-04-14T19:46:39Z) - A Scalable Graph Neural Network Decoder for Short Block Codes [49.25571364253986]
エッジ重み付きグラフニューラルネットワーク(EW-GNN)に基づく短絡符号の復号化アルゴリズムを提案する。
EW-GNNデコーダは、繰り返しメッセージパッシング構造を持つタナーグラフで動作する。
EW-GNNデコーダは,復号誤り率の観点から,BP法および深層学習に基づくBP法より優れていることを示す。
論文 参考訳(メタデータ) (2022-11-13T17:13:12Z) - Error Correction Code Transformer [92.10654749898927]
本稿では,トランスフォーマーアーキテクチャを任意のブロック長で線形符号のソフトデコードに拡張することを提案する。
我々は,各チャネルの出力次元を高次元に符号化し,個別に処理すべきビット情報のより良い表現を行う。
提案手法は、トランスフォーマーの極端なパワーと柔軟性を示し、既存の最先端のニューラルデコーダを、その時間的複雑さのごく一部で大きなマージンで上回る。
論文 参考訳(メタデータ) (2022-03-27T15:25:58Z) - MIONet: Learning multiple-input operators via tensor product [2.5426761219054312]
バナッハ空間の積上で定義された複数入力演算子に対するニューラルネットワークによる演算子の回帰について検討する。
我々の理論と低ランク近似に基づいて、我々は新しいニューラル演算子、MIONetを提案し、複数入力演算子を学習する。
論文 参考訳(メタデータ) (2022-02-12T20:37:04Z) - Dynamic Neural Representational Decoders for High-Resolution Semantic
Segmentation [98.05643473345474]
動的ニューラル表現デコーダ(NRD)と呼ばれる新しいデコーダを提案する。
エンコーダの出力上の各位置がセマンティックラベルの局所的なパッチに対応するので、この研究では、これらの局所的なパッチをコンパクトなニューラルネットワークで表現する。
このニューラル表現により、意味ラベル空間に先行する滑らかさを活用することができ、デコーダをより効率的にすることができる。
論文 参考訳(メタデータ) (2021-07-30T04:50:56Z) - On Sparsifying Encoder Outputs in Sequence-to-Sequence Models [90.58793284654692]
我々はTransformerをテストベッドとして、エンコーダとデコーダの間にあるゲートの層を導入します。
ゲートは、パリシティ誘導L0ペナルティの期待値を用いて正規化される。
このスペーサー化が2つの機械翻訳と2つの要約タスクに与える影響について検討する。
論文 参考訳(メタデータ) (2020-04-24T16:57:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。