論文の概要: Composite Bayesian Optimization In Function Spaces Using NEON -- Neural Epistemic Operator Networks

• arxiv url: http://arxiv.org/abs/2404.03099v1
• Date: Wed, 3 Apr 2024 22:42:37 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-05 16:12:59.522365
• Title: Composite Bayesian Optimization In Function Spaces Using NEON -- Neural Epistemic Operator Networks
• Title（参考訳）: NEON-Neon-Neural Epistemic Operator Networkを用いた関数空間の複合ベイズ最適化
• Authors: Leonardo Ferreira Guilhoto, Paris Perdikaris,
• Abstract要約: NEONは、単一のオペレータネットワークバックボーンを使用して不確実性のある予測を生成するアーキテクチャである。 NEONは、トレーニング可能なパラメータを桁違いに減らしながら、最先端のパフォーマンスを実現していることを示す。
• 参考スコア（独自算出の注目度）: 4.1764890353794994
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Operator learning is a rising field of scientific computing where inputs or outputs of a machine learning model are functions defined in infinite-dimensional spaces. In this paper, we introduce NEON (Neural Epistemic Operator Networks), an architecture for generating predictions with uncertainty using a single operator network backbone, which presents orders of magnitude less trainable parameters than deep ensembles of comparable performance. We showcase the utility of this method for sequential decision-making by examining the problem of composite Bayesian Optimization (BO), where we aim to optimize a function $f=g\circ h$, where $h:X\to C(\mathcal{Y},\mathbb{R}^{d_s})$ is an unknown map which outputs elements of a function space, and $g: C(\mathcal{Y},\mathbb{R}^{d_s})\to \mathbb{R}$ is a known and cheap-to-compute functional. By comparing our approach to other state-of-the-art methods on toy and real world scenarios, we demonstrate that NEON achieves state-of-the-art performance while requiring orders of magnitude less trainable parameters.
• Abstract（参考訳）: 演算子学習(Operator learning)は、機械学習モデルの入力や出力が無限次元空間で定義される関数である科学計算の分野である。 本稿では、単一演算子ネットワークバックボーンを用いて不確実性のある予測を生成するアーキテクチャNEON(Neural Epistemic Operator Networks)を紹介する。 ここでは、関数 $f=g\circ h$, where $h:X\to C(\mathcal{Y},\mathbb{R}^{d_s})$ は関数空間の要素を出力する未知の写像であり、$g: C(\mathcal{Y},\mathbb{R}^{d_s})\to \mathbb{R}$ は既知かつ安価な計算関数である。 玩具や現実のシナリオにおける他の最先端手法と比較することにより、NEONはトレーニング可能なパラメータのオーダーを極端に少なくしながら、最先端のパフォーマンスを達成できることを実証する。

関連論文リスト

• Operator Learning Using Random Features: A Tool for Scientific Computing [3.745868534225104]
  教師付き演算子学習センターは、無限次元空間間のマップを推定するためにトレーニングデータを使用する。 本稿では,関数値のランダム特徴量法を提案する。 これは非線形問題に対して実用的な教師付き演算子学習アーキテクチャをもたらす。
  論文  参考訳（メタデータ） (2024-08-12T23:10:39Z)
• Kernel Neural Operators (KNOs) for Scalable, Memory-efficient, Geometrically-flexible Operator Learning [15.050519590538634]
  Kernel Neural Operator (KNO)は、新しい演算子学習技術である。 ディープカーネルベースの積分演算子と、作用素の関数空間近似のための二次演算子を併用する。 KNOは、低メモリ、幾何学的に柔軟な深層演算子学習の新しいパラダイムである。
  論文  参考訳（メタデータ） (2024-06-30T19:28:12Z)
• Neural Operators with Localized Integral and Differential Kernels [77.76991758980003]
  本稿では,2つのフレームワークで局所的な特徴をキャプチャできる演算子学習の原理的アプローチを提案する。 我々はCNNのカーネル値の適切なスケーリングの下で微分演算子を得ることを示す。 局所積分演算子を得るには、離散連続的畳み込みに基づくカーネルの適切な基底表現を利用する。
  論文  参考訳（メタデータ） (2024-02-26T18:59:31Z)
• Operator SVD with Neural Networks via Nested Low-Rank Approximation [19.562492156734653]
  本稿では, トラッピング特異値分解の低ランク近似に基づく新しい最適化フレームワークを提案する。 最上位の$L$特異値と特異関数を正しい順序で学習するためのエンフェンシングと呼ばれる新しい手法。 本稿では,計算物理学と機械学習のユースケースに対する提案手法の有効性を実証する。
  論文  参考訳（メタデータ） (2024-02-06T03:06:06Z)
• MgNO: Efficient Parameterization of Linear Operators via Multigrid [4.096453902709292]
  我々は、ニューロン間の線形演算子をパラメータ化するために多重格子構造を利用するMgNOを紹介する。 MgNOは、他のCNNベースのモデルと比べてトレーニングの容易さが優れている。
  論文  参考訳（メタデータ） (2023-10-16T13:01:35Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Generative Adversarial Neural Operators [59.21759531471597]
  本稿では,無限次元関数空間上の確率学習のための生成モデルであるGANOを提案する。 GANOは、ジェネレータニューラル演算子と識別器ニューラル関数の2つの主要成分から構成される。 入力関数と出力関数が共に GRF からのサンプルである場合のGANO を実験的に検討し、その性能を有限次元の GAN と比較する。
  論文  参考訳（メタデータ） (2022-05-06T05:12:22Z)
• Neural Operator: Learning Maps Between Function Spaces [75.93843876663128]
  本稿では,無限次元関数空間間を写像する演算子,いわゆるニューラル演算子を学習するためのニューラルネットワークの一般化を提案する。 提案したニューラル作用素に対して普遍近似定理を証明し、任意の非線形連続作用素を近似することができることを示す。 ニューラル作用素に対する重要な応用は、偏微分方程式の解作用素に対する代理写像を学習することである。
  論文  参考訳（メタデータ） (2021-08-19T03:56:49Z)
• On Function Approximation in Reinforcement Learning: Optimism in the Face of Large State Spaces [208.67848059021915]
  強化学習のコアにおける探索・探索トレードオフについて検討する。 特に、関数クラス $mathcalF$ の複雑さが関数の複雑さを特徴づけていることを証明する。 私たちの後悔の限界はエピソードの数とは無関係です。
  論文  参考訳（メタデータ） (2020-11-09T18:32:22Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。