論文の概要: Multiple Neural Operators Achieve Near-Optimal Rates for Multi-Task Learning
- arxiv url: http://arxiv.org/abs/2605.22724v1
- Date: Thu, 21 May 2026 16:57:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.359275
- Title: Multiple Neural Operators Achieve Near-Optimal Rates for Multi-Task Learning
- Title(参考訳): 複数のニューラル演算子を用いたマルチタスク学習
- Authors: Adrien Weihs, Hayden Schaeffer,
- Abstract要約: 共有マルチタスク環境における演算子の学習コレクションの近似と統計的複雑さについて検討する。
リプシッツ多重作用素写像の広いクラスに対して、近似と統計一般化の近似と準最適上界を導出する。
低バウンド側では、パラメトリックな複雑さの呪いを確立し、対応するミニマックスレートを証明する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the approximation and statistical complexity of learning collections of operators in a shared multi-task setting, with a focus on the Multiple Neural Operators (MNO) architecture. For broad classes of Lipschitz multiple operator maps, we derive near-optimal upper bounds for approximation and statistical generalization. On the lower-bound side, we establish a curse of parametric complexity and prove corresponding minimax rates. Together, these results show that shared representations across tasks do not increase the overall cost: multi-task operator learning follows the same scaling laws as single operator learning. We also compare MNO with a multi-task extension of DeepONet based on concatenated task inputs and show that, from a worst-case approximation-complexity perspective, both architectures satisfy essentially the same asymptotic rates.
- Abstract(参考訳): 共有マルチタスク設定における演算子コレクションの近似と統計的複雑さについて検討し,MNOアーキテクチャに着目した。
リプシッツ多重作用素写像の広いクラスに対して、近似と統計一般化の近似と準最適上界を導出する。
低バウンド側では、パラメトリックな複雑さの呪いを確立し、対応するミニマックスレートを証明する。
マルチタスク演算子学習は、単一演算子学習と同じスケーリング法則に従う。
また、MNOとDeepONetのマルチタスク拡張を比較し、最悪の場合の近似・複雑性の観点から、両方のアーキテクチャが本質的に同じ漸近速度を満足することを示す。
関連論文リスト
- Generalization Bounds and Statistical Guarantees for Multi-Task and Multiple Operator Learning with MNO Networks [0.0]
複数の演算子学習は、学習演算子ファミリー$G[]:Uto V_in W$演算子記述子$$でインデックス付けされる。
トレーニングデータは、演算子インスタンスをサンプリングする$$、インスタンス毎に$u$の入力関数、最後に入力毎に$x$の評価ポイントによって階層的に収集される。
本稿では、分割可能なモデルに対する被覆数に基づく一般化解析を行い、マルチプルニューラル演算子アーキテクチャに焦点をあてる。
論文 参考訳(メタデータ) (2026-04-02T12:23:35Z) - A Deep Learning Framework for Multi-Operator Learning: Architectures and Approximation Theory [2.2731895181875346]
本研究では,演算子の集合を学習する問題について検討し,理論的および経験的進展を両立させる。
1つのネットワークがパラメトリック関数によってパラメータ化された演算子の連続体を表す多重演算子学習と、2つの個別の演算子を学習し、各演算子を独立に学習する2つの条件を区別する。
全体として、この研究は複数の演算子にまたがるスケーラブルな演算子学習の統一的理論と実践的基盤を確立する。
論文 参考訳(メタデータ) (2025-10-29T10:52:02Z) - MEJO: MLLM-Engaged Surgical Triplet Recognition via Inter- and Intra-Task Joint Optimization [52.149337961205624]
手術用三重項認識のためのタスク間最適化とタスク内最適化を両立する枠組みを提案する。
タスク間最適化のために、タスク共有およびタスク固有コンポーネントに表現を分解する共有特徴分散学習スキーム(S$2$D)を導入する。
タスク内最適化競合に対して,正負の曖昧さを識別・再バランスするコーディネート・グラディエント・ラーニング(CGL)戦略を開発する。
論文 参考訳(メタデータ) (2025-09-16T09:48:52Z) - Theory-to-Practice Gap for Neural Networks and Neural Operators [6.267574471145217]
本稿では,ReLUニューラルネットワークとニューラル演算子を用いた学習のサンプリング複雑性について検討する。
ボヒナーの$Lp$-ノルムの最良の収束速度は、モンテカルロの1/p$の速度で束縛されていることを示す。
論文 参考訳(メタデータ) (2025-03-23T21:45:58Z) - Operator Learning of Lipschitz Operators: An Information-Theoretic Perspective [2.375038919274297]
この研究は、リプシッツ連続作用素の一般クラスに対する神経作用素近似の複雑さに対処する。
我々の主な貢献は、2つの近似設定におけるリプシッツ作用素の計量エントロピーの低い境界を確立することである。
使用したアクティベーション関数にかかわらず、近似精度が$epsilon$に達する神経オペレーターアーキテクチャは、$epsilon-1$で指数関数的に大きいサイズでなければならない。
論文 参考訳(メタデータ) (2024-06-26T23:36:46Z) - Provable Benefits of Multi-task RL under Non-Markovian Decision Making
Processes [56.714690083118406]
マルコフ決定過程 (MDP) 下でのマルチタスク強化学習 (RL) において, 共有潜在構造の存在は, シングルタスクRLと比較して, サンプル効率に有意な利益をもたらすことが示されている。
このような利点が、部分的に観測可能なMDP(POMDP)やより一般的な予測状態表現(PSR)といった、より一般的なシーケンシャルな意思決定問題にまで拡張できるかどうかを検討する。
提案手法は,全てのPSRに対してほぼ最適ポリシーを求めるための,証明可能なアルゴリズム UMT-PSR を提案し,PSR の合同モデルクラスが有するマルチタスク学習の利点が示されることを示す。
論文 参考訳(メタデータ) (2023-10-20T14:50:28Z) - Low-Rank Multitask Learning based on Tensorized SVMs and LSSVMs [65.42104819071444]
マルチタスク学習(MTL)はタスク関連性を活用して性能を向上させる。
タスクインデックスに対応する各モードを持つ高次テンソルを用いて、複数のインデックスが参照するタスクを自然に表現する。
テンソル化サポートベクターマシン(SVM)と最小2乗サポートベクターマシン(LSSVM)を併用した低ランクMTL手法の汎用フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-30T14:28:26Z) - Multimodal Learning Without Labeled Multimodal Data: Guarantees and Applications [90.6849884683226]
ラベル付き単調データのみを用いた半教師付き環境における相互作用定量化の課題について検討する。
相互作用の正確な情報理論的定義を用いて、我々の重要な貢献は下界と上界の導出である。
本稿では、これらの理論結果を用いてマルチモーダルモデルの性能を推定し、データ収集をガイドし、様々なタスクに対して適切なマルチモーダルモデルを選択する方法について述べる。
論文 参考訳(メタデータ) (2023-06-07T15:44:53Z) - Multi-task Highly Adaptive Lasso [1.4680035572775534]
マルチタスク学習のための新しい非パラメトリックアプローチであるマルチタスク高適応ラッソ(MT-HAL)を提案する。
MT-HALは、共通モデルにとって重要な特徴、サンプル、タスク関連を同時に学習し、類似したタスク間で共有スパース構造を付与する。
MT-HALは、幅広いシミュレーション研究において、スパーシティーベースのMTL競合よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-01-27T23:46:57Z) - Multi-Task Learning as a Bargaining Game [63.49888996291245]
マルチタスク学習(MTL)では、複数のタスクを同時に予測するためにジョイントモデルを訓練する。
これらの異なるタスクの勾配が矛盾する可能性があるため、MTLのジョイントモデルを訓練すると、対応するシングルタスクモデルよりも低いパフォーマンスが得られる。
本稿では,パラメータ更新のジョイント方向で合意に達するためのタスクを交渉する交渉ゲームとして,勾配の組み合わせステップを考察する。
論文 参考訳(メタデータ) (2022-02-02T13:21:53Z) - Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。
我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
論文 参考訳(メタデータ) (2020-04-28T09:15:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。