論文の概要: Discovering and forecasting extreme events via active learning in neural operators

• arxiv url: http://arxiv.org/abs/2204.02488v1
• Date: Tue, 5 Apr 2022 21:07:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-07 14:19:34.464274
• Title: Discovering and forecasting extreme events via active learning in neural operators
• Title（参考訳）: ニューラル演算子の能動的学習による極端な事象の発見と予測
• Authors: Ethan Pickering, George Em Karniadakis, Themistoklis P. Sapsis
• Abstract要約: パンデミック・スパイク(パンデミック・スパイク)やローグ・ウェーブ(ローグ・ウェーブ)のような社会や自然の極端な出来事は破滅的な結果をもたらす可能性がある。 極端を特徴づけることは、稀に発生するため困難であり、一見良質な状態から生じ、複雑でしばしば未知の無限次元系に属する。 ベイズ実験設計(BED)における新しいトレーニングスキームと深部神経オペレータ(DNO)のアンサンブルを組み合わせることで,これらの課題に対処する。 このモデルに依存しないフレームワークは、無限次元非線形作用素を近似するDNOのアンサンブルと、極端な事象のデータを積極的に選択するBEDスキームと組み合わせる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Extreme events in society and nature, such as pandemic spikes or rogue waves, can have catastrophic consequences. Characterizing extremes is difficult as they occur rarely, arise from seemingly benign conditions, and belong to complex and often unknown infinite-dimensional systems. Such challenges render attempts at characterizing them as moot. We address each of these difficulties by combining novel training schemes in Bayesian experimental design (BED) with an ensemble of deep neural operators (DNOs). This model-agnostic framework pairs a BED scheme that actively selects data for quantifying extreme events with an ensemble of DNOs that approximate infinite-dimensional nonlinear operators. We find that not only does this framework clearly beat Gaussian processes (GPs) but that 1) shallow ensembles of just two members perform best; 2) extremes are uncovered regardless of the state of initial data (i.e. with or without extremes); 3) our method eliminates "double-descent" phenomena; 4) the use of batches of suboptimal acquisition points compared to step-by-step global optima does not hinder BED performance; and 5) Monte Carlo acquisition outperforms standard minimizers in high-dimensions. Together these conclusions form the foundation of an AI-assisted experimental infrastructure that can efficiently infer and pinpoint critical situations across many domains, from physical to societal systems.
• Abstract（参考訳）: パンデミック・スパイクやローグ・ウェーブのような社会や自然の極端な出来事は破滅的な結果をもたらす可能性がある。 極端を特徴づけることは稀に起こるため困難であり、一見良性な状態から生じ、複雑でしばしば未知の無限次元系に属する。 このような課題は、それらをムートとして特徴づけようとする試みである。 ベイズ実験設計(BED)における新しいトレーニングスキームとディープニューラル演算子(DNO)のアンサンブルを組み合わせることで,これらの課題に対処する。 このモデルに依存しないフレームワークは、無限次元非線形作用素を近似するDNOのアンサンブルと、極端な事象を定量化するデータを積極的に選択するBEDスキームと組み合わせる。 このフレームワークがガウス過程(GP)を明らかに上回っているだけでなく、 1) わずか2人の浅いアンサンブルが最善を尽くす。 2 極端は、初期データの状態(極端値の有無)にかかわらず、明らかにされる。 3)本手法は「二重発光」現象を除去する。 4) ステップバイステップのグローバル・オプティマと比較して,サブ・オプティマ・ポイントのバッチの使用は,ベッド性能を阻害しない。 5)モンテカルロ買収は高次元の標準最小値を上回る。 これらの結論が組み合わさって、物理的なシステムから社会的システムまで、多くの領域にわたる重要な状況を効率的に推論し、特定できるAI支援の実験インフラの基礎となる。

関連論文リスト

• Near-Optimal Solutions of Constrained Learning Problems [85.48853063302764]
  機械学習システムでは、振る舞いを縮小する必要性がますます顕在化している。 これは、双対ロバスト性変数を満たすモデルの開発に向けた最近の進歩によって証明されている。 この結果から, 豊富なパラメトリゼーションは非次元的, 有限な学習問題を効果的に緩和することが示された。
  論文  参考訳（メタデータ） (2024-03-18T14:55:45Z)
• Boundary Exploration for Bayesian Optimization With Unknown Physical Constraints [37.095510211590984]
  本稿では,実現不可能な設計と実現不可能な設計の境界を効率的に探索する新しいベイズ最適化手法であるBE-CBOを提案する。 提案手法は,合成および実世界のベンチマークに関する総合的な実験を通じて,最先端手法に対する優れた性能を示す。
  論文  参考訳（メタデータ） (2024-02-12T14:59:40Z)
• Capsa: A Unified Framework for Quantifying Risk in Deep Neural Networks [142.67349734180445]
  ディープニューラルネットワークにリスク認識を提供する既存のアルゴリズムは複雑でアドホックである。 ここでは、リスク認識でモデルを拡張するためのフレームワークであるcapsaを紹介します。
  論文  参考訳（メタデータ） (2023-08-01T02:07:47Z)
• Typical and atypical solutions in non-convex neural networks with discrete and continuous weights [2.7127628066830414]
  ランダムな規則や関連を学習する単純な非拘束型ネットワークモデルとして、二項および連続負マージンパーセプトロンについて検討する。 どちらのモデルも、非常に平坦で幅の広い劣支配的な最小化器を示す。 両モデルにおいて、学習装置としての一般化性能は、広い平坦な最小化器の存在により大幅に向上することを示した。
  論文  参考訳（メタデータ） (2023-04-26T23:34:40Z)
• Latent Discriminant deterministic Uncertainty [11.257956169255193]
  高精度なセマンティックセグメンテーションのためのスケーラブルで効果的な決定論的不確実性手法(DUM)を提案する。 提案手法は,不確実性予測のための最先端技術であるDeep Ensemblesに対して,画像分類,深度セグメンテーション,単分子推定タスクにおいて競合する結果を得る。
  論文  参考訳（メタデータ） (2022-07-20T18:18:40Z)
• Adversarial Vulnerability of Randomized Ensembles [12.082239973914326]
  ランダム化アンサンブルは、通常のATモデルよりも、知覚不能な逆方向の摂動に対して脆弱であることを示す。 本稿では,適応PGDが実現しなかった場合においても,ランダムアンサンブルを再現できる理論的・効率的な攻撃アルゴリズム(ARC)を提案する。
  論文  参考訳（メタデータ） (2022-06-14T10:37:58Z)
• Generalization of Neural Combinatorial Solvers Through the Lens of Adversarial Robustness [68.97830259849086]
  ほとんどのデータセットは単純なサブプロブレムのみをキャプチャし、おそらくは突発的な特徴に悩まされる。 本研究では, 局所的な一般化特性である対向ロバスト性について検討し, 厳密でモデル固有な例と突発的な特徴を明らかにする。 他のアプリケーションとは異なり、摂動モデルは知覚できないという主観的な概念に基づいて設計されているため、摂動モデルは効率的かつ健全である。 驚くべきことに、そのような摂動によって、十分に表現力のあるニューラルソルバは、教師あり学習で共通する正確さと悪質さのトレードオフの限界に悩まされない。
  論文  参考訳（メタデータ） (2021-10-21T07:28:11Z)
• Characterizing possible failure modes in physics-informed neural networks [55.83255669840384]
  科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。 既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。 これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
  論文  参考訳（メタデータ） (2021-09-02T16:06:45Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)
• Simple and Effective Prevention of Mode Collapse in Deep One-Class Classification [93.2334223970488]
  深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。 第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。 第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
  論文  参考訳（メタデータ） (2020-01-24T03:44:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。