論文の概要: An adjoint-free algorithm for conditional nonlinear optimal perturbations (CNOPs) via sampling

• arxiv url: http://arxiv.org/abs/2208.00956v5
• Date: Sun, 24 Mar 2024 05:01:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-27 06:12:57.480604
• Title: An adjoint-free algorithm for conditional nonlinear optimal perturbations (CNOPs) via sampling
• Title（参考訳）: サンプリングによる条件付き非線形最適摂動(CNOP)の随伴自由解法
• Authors: Bin Shi, Guodong Sun,
• Abstract要約: 我々は、条件付き非線形最適摂動(CNOP)を得るための最先端統計機械学習技術に基づくサンプリングアルゴリズムを提案する。 サンプリング手法は、目的関数値(ゼロ次情報)への勾配を直接減少させる 本研究では, 空間パターン, 目的値, 定量化計算時間, 非線形誤差成長を用いて得られたCNOPを実証する。
• 参考スコア（独自算出の注目度）: 5.758073912084367
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In this paper, we propose a sampling algorithm based on state-of-the-art statistical machine learning techniques to obtain conditional nonlinear optimal perturbations (CNOPs), which is different from traditional (deterministic) optimization methods.1 Specifically, the traditional approach is unavailable in practice, which requires numerically computing the gradient (first-order information) such that the computation cost is expensive, since it needs a large number of times to run numerical models. However, the sampling approach directly reduces the gradient to the objective function value (zeroth-order information), which also avoids using the adjoint technique that is unusable for many atmosphere and ocean models and requires large amounts of storage. We show an intuitive analysis for the sampling algorithm from the law of large numbers and further present a Chernoff-type concentration inequality to rigorously characterize the degree to which the sample average probabilistically approximates the exact gradient. The experiments are implemented to obtain the CNOPs for two numerical models, the Burgers equation with small viscosity and the Lorenz-96 model. We demonstrate the CNOPs obtained with their spatial patterns, objective values, computation times, and nonlinear error growth. Compared with the performance of the three approaches, all the characters for quantifying the CNOPs are nearly consistent, while the computation time using the sampling approach with fewer samples is much shorter. In other words, the new sampling algorithm shortens the computation time to the utmost at the cost of losing little accuracy.
• Abstract（参考訳）: 本稿では,従来の(決定論的)最適化手法とは異なる条件付き非線形最適摂動(CNOP)を得るための,最先端統計機械学習技術に基づくサンプリングアルゴリズムを提案する。 具体的には、計算コストがかかるように勾配(一階情報)を数値計算する従来の手法は、数値モデルを実行するのに大量の時間を要するため、実際には利用できない。 しかし、サンプリング手法は目的関数値(ゼロ次情報)への勾配を直接低減し、多くの大気モデルや海洋モデルでは使用不可能で大量の貯蔵を必要とする随伴技術の使用を避ける。 さらに,サンプル平均が正確な勾配を確率的に近似する程度を厳密に特徴付けるために,Chernoff型濃度不等式を示す。 実験は、小さな粘度を持つバーガース方程式とロレンツ-96モデルの2つの数値モデルに対するCNOPを得るために実施された。 本研究では, 空間パターン, 目的値, 計算時間, 非線形誤差成長を用いて得られたCNOPを実証する。 CNOPを定量化するための文字は3つの手法と比較してほぼ一貫したものであり、サンプルが少ないサンプリング手法を用いる計算時間ははるかに短い。 言い換えれば、新しいサンプリングアルゴリズムは、ほとんど精度を失うことなく、計算時間を最小限に短縮する。

関連論文リスト

• Stochastic Optimization for Non-convex Problem with Inexact Hessian Matrix, Gradient, and Function [99.31457740916815]
  信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。 TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
  論文  参考訳（メタデータ） (2023-10-18T10:29:58Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Generative modeling of time-dependent densities via optimal transport and projection pursuit [3.069335774032178]
  本稿では,時間的モデリングのための一般的なディープラーニングアルゴリズムの代替として,安価に提案する。 我々の手法は最先端の解法と比較して非常に競争力がある。
  論文  参考訳（メタデータ） (2023-04-19T13:50:13Z)
• Versatile Single-Loop Method for Gradient Estimator: First and Second Order Optimality, and its Application to Federated Learning [45.78238792836363]
  本稿では,SLEDGE (Single-Loop-E Gradient Estimator) という単一ループアルゴリズムを提案する。 既存の手法とは異なり、SLEDGEは、(ii)2階最適、(ii)PL領域における、(iii)少ないデータ以下の複雑さの利点を持つ。
  論文  参考訳（メタデータ） (2022-09-01T11:05:26Z)
• Sparse Bayesian Learning for Complex-Valued Rational Approximations [0.03392423750246091]
  サロゲートモデルは、エンジニアリングタスクの計算負担を軽減するために使用される。 これらのモデルは入力パラメータに強い非線形依存を示す。 合理的近似にスパース学習アプローチを適用する。
  論文  参考訳（メタデータ） (2022-06-06T12:06:13Z)
• Faster One-Sample Stochastic Conditional Gradient Method for Composite Convex Minimization [61.26619639722804]
  滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。 提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
  論文  参考訳（メタデータ） (2022-02-26T19:10:48Z)
• Local policy search with Bayesian optimization [73.0364959221845]
  強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。 局所探索のための政策勾配は、しばしばランダムな摂動から得られる。 目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-06-22T16:07:02Z)
• Effective Proximal Methods for Non-convex Non-smooth Regularized Learning [27.775096437736973]
  独立サンプリング方式は、一般に使用されている一様サンプリング方式の性能を向上させる傾向にあることを示す。 我々の新しい分析は、サンプリングの速度が今までで最高のものより速いことも示しています。
  論文  参考訳（メタデータ） (2020-09-14T16:41:32Z)
• Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth Nonlinear TD Learning [145.54544979467872]
  本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。 本研究の結果は, 同時一次および二重側収束の形で表される。
  論文  参考訳（メタデータ） (2020-08-23T20:36:49Z)
• Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
  我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。 本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
  論文  参考訳（メタデータ） (2020-05-22T22:30:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。