論文の概要: Generalization Bounds and Statistical Guarantees for Multi-Task and Multiple Operator Learning with MNO Networks
- arxiv url: http://arxiv.org/abs/2604.01961v1
- Date: Thu, 02 Apr 2026 12:23:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-03 14:21:10.777058
- Title: Generalization Bounds and Statistical Guarantees for Multi-Task and Multiple Operator Learning with MNO Networks
- Title(参考訳): MNOネットワークを用いたマルチタスク・マルチオペレータ学習のための一般化境界と統計的保証
- Authors: Adrien Weihs, Hayden Schaeffer,
- Abstract要約: 複数の演算子学習は、学習演算子ファミリー$G[]:Uto V_in W$演算子記述子$$でインデックス付けされる。
トレーニングデータは、演算子インスタンスをサンプリングする$$、インスタンス毎に$u$の入力関数、最後に入力毎に$x$の評価ポイントによって階層的に収集される。
本稿では、分割可能なモデルに対する被覆数に基づく一般化解析を行い、マルチプルニューラル演算子アーキテクチャに焦点をあてる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multiple operator learning concerns learning operator families $\{G[α]:U\to V\}_{α\in W}$ indexed by an operator descriptor $α$. Training data are collected hierarchically by sampling operator instances $α$, then input functions $u$ per instance, and finally evaluation points $x$ per input, yielding noisy observations of $G[α][u](x)$. While recent work has developed expressive multi-task and multiple operator learning architectures and approximation-theoretic scaling laws, quantitative statistical generalization guarantees remain limited. We provide a covering-number-based generalization analysis for separable models, focusing on the Multiple Neural Operator (MNO) architecture: we first derive explicit metric-entropy bounds for hypothesis classes given by linear combinations of products of deep ReLU subnetworks, and then combine these complexity bounds with approximation guarantees for MNO to obtain an explicit approximation-estimation tradeoff for the expected test error on new (unseen) triples $(α,u,x)$. The resulting bound makes the dependence on the hierarchical sampling budgets $(n_α,n_u,n_x)$ transparent and yields an explicit learning-rate statement in the operator-sampling budget $n_α$, providing a sample-complexity characterization for generalization across operator instances. The structure and architecture can also be viewed as a general purpose solver or an example of a "small'' PDE foundation model, where the triples are one form of multi-modality.
- Abstract(参考訳): 複数の演算子学習は、演算子族$\{G[α]:U\to V\}_{α\in W}$を演算子記述子$α$でインデックス付けする。
トレーニングデータは、演算子インスタンスをサンプリングすることで階層的に収集され、1インスタンスあたり$u$、最後に1入力あたり$x$の評価ポイントが$G[α][u](x)$となる。
最近の研究では、表現力のあるマルチタスクと複数の演算子学習アーキテクチャと近似理論スケーリング法則が開発されているが、統計的一般化の保証は限られている。
まず、深部ReLUサブネットの積の線形結合によって与えられる仮説クラスに対する明示的な計量エントロピー境界を導出し、次にこれらの複雑性をMNOの近似保証と組み合わせて、新しい(目に見えない)三重項に対する期待されるテスト誤差に対する明示的な近似推定トレードオフを得る。
その結果、階層的なサンプリング予算への依存を$(n_α,n_u,n_x)$ 透明化し、演算子サンプリング予算$n_α$の明示的な学習率ステートメントを出力し、演算子インスタンス間の一般化のためのサンプル複雑度特性を提供する。
構造とアーキテクチャは、汎用的な解法や、「小さな」PDE基礎モデルの例と見なすこともできる。
関連論文リスト
- A Deep Learning Framework for Multi-Operator Learning: Architectures and Approximation Theory [2.2731895181875346]
本研究では,演算子の集合を学習する問題について検討し,理論的および経験的進展を両立させる。
1つのネットワークがパラメトリック関数によってパラメータ化された演算子の連続体を表す多重演算子学習と、2つの個別の演算子を学習し、各演算子を独立に学習する2つの条件を区別する。
全体として、この研究は複数の演算子にまたがるスケーラブルな演算子学習の統一的理論と実践的基盤を確立する。
論文 参考訳(メタデータ) (2025-10-29T10:52:02Z) - The Generative Leap: Sharp Sample Complexity for Efficiently Learning Gaussian Multi-Index Models [71.5283441529015]
この研究において、ラベルは(ガウス)$d$-次元入力にのみ依存し、低次元$r = O_d(1)$部分空間への射影を通して得られる。
生成的跳躍指数 $kstar$, [Damian et al.'24] から生成的指数の自然拡張をマルチインデックス設定に導入する。
論文 参考訳(メタデータ) (2025-06-05T18:34:56Z) - Sharper Risk Bound for Multi-Task Learning with Multi-Graph Dependent Data [5.42833955464548]
既存の一般化解析では、Emphsub-Optimal risk bound of $O(frac1sqrtn)$, where $n$は各タスクのトレーニングサンプルの数である。
本稿では,新たなベネット型不等式を提案し,よりシャープなリスク境界である$O(fraclog nn)$を導出する。
論文 参考訳(メタデータ) (2025-02-25T12:57:53Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - On Single-Objective Sub-Graph-Based Mutation for Solving the
Bi-Objective Minimum Spanning Tree Problem [0.0]
我々は、進化的計算を取り入れた$mathcalNP$-hard multi-objective least- spanning tree problem (moMST)の効率的な近似に寄与する。
得られた知見に基づいて、高バイアスのサブグラフベースの突然変異演算子を設計する。
その結果,サブグラフベースの演算子が文献のベースラインアルゴリズムに勝っていることを確認した。
論文 参考訳(メタデータ) (2023-05-31T22:35:17Z) - Bilinear Classes: A Structural Framework for Provable Generalization in
RL [119.42509700822484]
Bilinear Classesは強化学習の一般化を可能にする新しい構造フレームワークである。
このフレームワークは、サンプルの複雑さが達成可能な、ほとんどすべての既存のモデルを取り込んでいる。
我々の主な成果は、双線形クラスのためのサンプル複雑性を持つRLアルゴリズムである。
論文 参考訳(メタデータ) (2021-03-19T16:34:20Z) - On Function Approximation in Reinforcement Learning: Optimism in the
Face of Large State Spaces [208.67848059021915]
強化学習のコアにおける探索・探索トレードオフについて検討する。
特に、関数クラス $mathcalF$ の複雑さが関数の複雑さを特徴づけていることを証明する。
私たちの後悔の限界はエピソードの数とは無関係です。
論文 参考訳(メタデータ) (2020-11-09T18:32:22Z) - Supervised Quantile Normalization for Low-rank Matrix Approximation [50.445371939523305]
我々は、$X$ の値と $UV$ の値を行ワイズで操作できる量子正規化演算子のパラメータを学習し、$X$ の低ランク表現の質を改善する。
本稿では,これらの手法が合成およびゲノムデータセットに適用可能であることを実証する。
論文 参考訳(メタデータ) (2020-02-08T21:06:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。