論文の概要: Non-Stationary Stochastic Global Optimization Algorithms

• arxiv url: http://arxiv.org/abs/2010.05343v1
• Date: Sun, 11 Oct 2020 21:04:46 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-08 13:43:38.311084
• Title: Non-Stationary Stochastic Global Optimization Algorithms
• Title（参考訳）: 非定常確率的グローバル最適化アルゴリズム
• Authors: Jonatan Gomez and Carlos Rivera
• Abstract要約: Gomez氏はグローバル最適化アルゴリズムを特徴付けるための形式的で体系的なアプローチを提案する。 これを用いて、Gomezは固定的なマルコフプロセスとして定義されたアルゴリズムとして、固定された次の人口法でアルゴリズムを定式化する。 まず、定常マルコフ過程から非定常マルコフ過程への十分条件収束補題を一般化する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gomez proposes a formal and systematic approach for characterizing stochastic global optimization algorithms. Using it, Gomez formalizes algorithms with a fixed next-population stochastic method, i.e., algorithms defined as stationary Markov processes. These are the cases of standard versions of hill-climbing, parallel hill-climbing, generational genetic, steady-state genetic, and differential evolution algorithms. This paper continues such a systematic formal approach. First, we generalize the sufficient conditions convergence lemma from stationary to non-stationary Markov processes. Second, we develop Markov kernels for some selection schemes. Finally, we formalize both simulated-annealing and evolutionary-strategies using the systematic formal approach.
• Abstract（参考訳）: Gomez氏は確率的大域最適化アルゴリズムを特徴付ける形式的で体系的なアプローチを提案する。 これを用いて、ゴメスはアルゴリズムを固定次人口統計法、すなわち定常マルコフ過程として定義されるアルゴリズムで定式化する。 これらは、ヒルクライミング、並列ヒルクライミング、世代遺伝、定常遺伝、微分進化アルゴリズムの標準的なバージョンである。 本稿ではこのような体系的なアプローチを継続する。 まず, 定常マルコフ過程から非定常マルコフ過程への十分条件収束補題を一般化する。 第二に、いくつかの選択スキームのためのマルコフカーネルを開発する。 最後に、シミュレートアニーリングと進化ストラテジーの両方を体系的な形式的アプローチで定式化する。

関連論文リスト

• Accelerating Cutting-Plane Algorithms via Reinforcement Learning Surrogates [49.84541884653309]
  凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。 多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。 そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
  論文  参考訳（メタデータ） (2023-07-17T20:11:56Z)
• First Order Methods with Markovian Noise: from Acceleration to Variational Inequalities [91.46841922915418]
  本稿では,一階変分法の理論解析のための統一的アプローチを提案する。 提案手法は非線形勾配問題とモンテカルロの強い問題の両方をカバーする。 凸法最適化問題の場合、オラクルに強く一致するような境界を与える。
  論文  参考訳（メタデータ） (2023-05-25T11:11:31Z)
• Stochastic Ratios Tracking Algorithm for Large Scale Machine Learning Problems [0.7614628596146599]
  古典的なSGDフレームワークにおける適応的なステップ長選択のための新しいアルゴリズムを提案する。 妥当な条件下では、アルゴリズムは十分に確立された理論的な要件に従ってステップ長を生成する。 このアルゴリズムは,手動チューニングから得られる最良ステップ長に匹敵するステップ長を生成することができることを示す。
  論文  参考訳（メタデータ） (2023-05-17T06:22:11Z)
• Distributed Evolution Strategies for Black-box Stochastic Optimization [42.90600124972943]
  この研究は、分散ブラックボックス最適化への進化的アプローチに関するものである。 各作業者は、アルゴリズムによる問題の近似を個別に解くことができる。 問題のロバスト性を大幅に改善する2つの代替シミュレーション手法を提案する。
  論文  参考訳（メタデータ） (2022-04-09T11:18:41Z)
• Gaussian Processes and Statistical Decision-making in Non-Euclidean Spaces [96.53463532832939]
  我々はガウス過程の適用性を高める技術を開発した。 この観点から構築した効率的な近似を幅広く導入する。 非ユークリッド空間上のガウス過程モデルの集合を開発する。
  論文  参考訳（メタデータ） (2022-02-22T01:42:57Z)
• Stationary Behavior of Constant Stepsize SGD Type Algorithms: An Asymptotic Characterization [4.932130498861987]
  一定段差がゼロとなる極限において, 適切にスケールされた定常分布の挙動について検討する。 極限スケールの定常分布は積分方程式の解であることを示す。
  論文  参考訳（メタデータ） (2021-11-11T17:39:50Z)
• Variational Inference for Continuous-Time Switching Dynamical Systems [29.984955043675157]
  従属拡散過程を変調したマルコフジャンプ過程に基づくモデルを提案する。 我々は,新しい連続時間変動推定アルゴリズムを開発した。 モデル仮定と実世界の実例に基づいて,我々のアルゴリズムを広範囲に評価する。
  論文  参考訳（メタデータ） (2021-09-29T15:19:51Z)
• A Discrete Variational Derivation of Accelerated Methods in Optimization [68.8204255655161]
  最適化のための異なる手法を導出できる変分法を導入する。 我々は1対1の対応において最適化手法の2つのファミリを導出する。 自律システムのシンプレクティシティの保存は、ここでは繊維のみに行われる。
  論文  参考訳（メタデータ） (2021-06-04T20:21:53Z)
• Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
  また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。 これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
  論文  参考訳（メタデータ） (2020-09-01T19:12:11Z)
• A Dynamical Systems Approach for Convergence of the Bayesian EM Algorithm [59.99439951055238]
  我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。 本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。 高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-23T01:34:18Z)
• Kernel Taylor-Based Value Function Approximation for Continuous-State Markov Decision Processes [5.894659354028797]
  我々は,カーネルベースのポリシー反復アルゴリズムを提案し,連続状態マルコフ決定過程(MDP)を解く。 提案手法は, 簡易計画シナリオと現実計画シナリオの両方において, 広範囲なシミュレーションにより検証した。
  論文  参考訳（メタデータ） (2020-06-03T01:48:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。