論文の概要: Function Extrapolation with Neural Networks and Its Application for Manifolds

• arxiv url: http://arxiv.org/abs/2405.10563v1
• Date: Fri, 17 May 2024 06:15:26 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-20 16:52:18.079707
• Title: Function Extrapolation with Neural Networks and Its Application for Manifolds
• Title（参考訳）: ニューラルネットワークによる関数補間とマニフォールドへの応用
• Authors: Guy Hay, Nir Sharon,
• Abstract要約: 我々は、関数の事前知識を組み込むためにニューラルネットワークを訓練する。 問題を慎重に解析することにより、外挿領域上の誤差の上限を求める。
• 参考スコア（独自算出の注目度）: 1.4579344926652844
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper addresses the problem of accurately estimating a function on one domain when only its discrete samples are available on another domain. To answer this challenge, we utilize a neural network, which we train to incorporate prior knowledge of the function. In addition, by carefully analyzing the problem, we obtain a bound on the error over the extrapolation domain and define a condition number for this problem that quantifies the level of difficulty of the setup. Compared to other machine learning methods that provide time series prediction, such as transformers, our approach is suitable for setups where the interpolation and extrapolation regions are general subdomains and, in particular, manifolds. In addition, our construction leads to an improved loss function that helps us boost the accuracy and robustness of our neural network. We conduct comprehensive numerical tests and comparisons of our extrapolation versus standard methods. The results illustrate the effectiveness of our approach in various scenarios.
• Abstract（参考訳）: 本稿では,個々のサンプルが他のドメインでのみ利用できる場合に,あるドメイン上の関数を正確に推定する問題に対処する。 この課題に対処するために、我々はニューラルネットワークを使用して、関数の事前知識を学習する。 さらに、問題を慎重に解析することにより、外挿領域上のエラーのバウンダリを取得し、セットアップの難易度を定量化する問題に対する条件番号を定義する。 変換器などの時系列予測を提供する他の機械学習手法と比較して、補間領域と外挿領域が一般的なサブドメインであり、特に多様体であるようなセットアップに適している。 さらに、構築によって損失関数が改善され、ニューラルネットワークの精度と堅牢性を高めるのに役立ちます。 我々は、外挿法と標準手法の総合的な数値テストと比較を行う。 その結果,様々なシナリオにおけるアプローチの有効性が示唆された。

関連論文リスト

• Localized Gaussians as Self-Attention Weights for Point Clouds Correspondence [92.07601770031236]
  本稿では,エンコーダのみのトランスフォーマーアーキテクチャのアテンションヘッドにおける意味的意味パターンについて検討する。 注意重みの修正はトレーニングプロセスの促進だけでなく,最適化の安定性の向上にも寄与する。
  論文  参考訳（メタデータ） (2024-09-20T07:41:47Z)
• Implicit Variational Inference for High-Dimensional Posteriors [7.924706533725115]
  変分推論において、ベイズモデルの利点は、真の後続分布を正確に捉えることに依存する。 複雑な多重モーダルおよび相関後部を近似するのに適した暗黙分布を特定するニューラルサンプリング手法を提案する。 提案手法では,ニューラルネットワークを局所的に線形化することにより,暗黙分布を用いた近似推論の新たなバウンダリを導入する。
  論文  参考訳（メタデータ） (2023-10-10T14:06:56Z)
• A new approach to generalisation error of machine learning algorithms: Estimates and convergence [0.0]
  本稿では,(一般化)誤差の推定と収束に対する新しいアプローチを提案する。 本研究の結果は,ニューラルネットワークの構造的仮定を伴わない誤差の推定を含む。
  論文  参考訳（メタデータ） (2023-06-23T20:57:31Z)
• On the ISS Property of the Gradient Flow for Single Hidden-Layer Neural Networks with Linear Activations [0.0]
  本研究では,不確かさが勾配推定に及ぼす影響について検討した。 一般の過度にパラメータ化された定式化は、損失関数が最小化される集合の外側に配置されるスプリアス平衡の集合を導入することを示す。
  論文  参考訳（メタデータ） (2023-05-17T02:26:34Z)
• Adaptive Self-supervision Algorithms for Physics-informed Neural Networks [59.822151945132525]
  物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。 これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。 モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
  論文  参考訳（メタデータ） (2022-07-08T18:17:06Z)
• On Generalizing Beyond Domains in Cross-Domain Continual Learning [91.56748415975683]
  ディープニューラルネットワークは、新しいタスクを学んだ後、これまで学んだ知識の破滅的な忘れ込みに悩まされることが多い。 提案手法は、ドメインシフト中の新しいタスクを精度良く学習することで、DomainNetやOfficeHomeといった挑戦的なデータセットで最大10%向上する。
  論文  参考訳（メタデータ） (2022-03-08T09:57:48Z)
• Convolutional generative adversarial imputation networks for spatio-temporal missing data in storm surge simulations [86.5302150777089]
  GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。 提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
  論文  参考訳（メタデータ） (2021-11-03T03:50:48Z)
• Fourier-domain Variational Formulation and Its Well-posedness for Supervised Learning [7.456846081669551]
  教師付き学習問題は、孤立したデータポイントの値が与えられた仮説関数空間内の関数を見つけることである。 ニューラルネットワークの周波数原理に着想を得て,教師付き学習問題に対するフーリエ領域変分法を提案する。
  論文  参考訳（メタデータ） (2020-12-06T11:19:50Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)
• Domain Adaptation: Learning Bounds and Algorithms [80.85426994513541]
  本稿では,任意の損失関数を持つ適応問題に適した分布距離,差分距離を新たに導入する。 広い損失関数族に対する領域適応のための新しい一般化境界を導出する。 また、正規化に基づくアルゴリズムの大規模クラスに対する新しい適応境界も提示する。
  論文  参考訳（メタデータ） (2009-02-19T18:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。