Fugu-MT 論文翻訳(概要): Hamiltonian Monte Carlo Particle Swarm Optimizer

論文の概要: Hamiltonian Monte Carlo Particle Swarm Optimizer

arxiv url: http://arxiv.org/abs/2206.14134v1
Date: Sun, 8 May 2022 04:47:34 GMT
ステータス: 処理完了
システム内更新日: 2023-02-13 23:04:37.737875
Title: Hamiltonian Monte Carlo Particle Swarm Optimizer
Title（参考訳）: ハミルトンモンテカルロ粒子群最適化器
Authors: Omatharv Bharat Vaidya (1), Rithvik Terence DSouza (1), Snehanshu Saha (1), Soma Dhavala (2), Swagatam Das (3), ((1)-BITS Pilani K K Birla Goa Campus, (2)-MlSqaure Bangalore, (3)- ISI Kolkata)
Abstract要約: Hamiltonian Particle Swarm (HMCPSO) は、指数平均サンプリングとHMC位置と速度の両方の利点を享受する最適化アルゴリズムである。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We introduce the Hamiltonian Monte Carlo Particle Swarm Optimizer (HMC-PSO), an optimization algorithm that reaps the benefits of both Exponentially Averaged Momentum PSO and HMC sampling. The coupling of the position and velocity of each particle with Hamiltonian dynamics in the simulation allows for extensive freedom for exploration and exploitation of the search space. It also provides an excellent technique to explore highly non-convex functions while ensuring efficient sampling. We extend the method to approximate error gradients in closed form for Deep Neural Network (DNN) settings. We discuss possible methods of coupling and compare its performance to that of state-of-the-art optimizers on the Golomb's Ruler problem and Classification tasks.
Abstract（参考訳）: 我々は,平均運動量PSOとHMCサンプリングの両方の利点を享受する最適化アルゴリズムであるHMC-PSO(Hanadian Monte Carlo Particle Swarm Optimizer)を導入する。シミュレーションにおける各粒子の位置と速度とハミルトニアンダイナミクスの結合は、探索空間の探索と利用の広範な自由を可能にする。また、効率的なサンプリングを確保しながら、高度に非凸な関数を探索する優れた技術を提供する。我々は,Deep Neural Network (DNN) 設定のための閉形式の誤差勾配を近似する手法を拡張した。本稿では,Golomb's Ruler問題と分類タスクに関する最新技術オプティマイザとを結合し,その性能を比較検討する。

関連論文リスト

Dynamic Anisotropic Smoothing for Noisy Derivative-Free Optimization [0.0]
雑音のない微分自由最適化のための球平滑化法とガウス平滑化法を拡張した新しいアルゴリズムを提案する。アルゴリズムはスムーズなカーネルの形状を動的に適応させ、局所最適関数の Hessian を近似する。
論文参考訳（メタデータ） (2024-05-02T21:04:20Z)
Improving sample efficiency of high dimensional Bayesian optimization with MCMC [7.241485121318798]
本稿ではマルコフ・チェイン・モンテカルロに基づく新しい手法を提案する。提案アルゴリズムのMetropolis-HastingsとLangevin Dynamicsの両バージョンは、高次元逐次最適化および強化学習ベンチマークにおいて最先端の手法より優れていることを示す。
論文参考訳（メタデータ） (2024-01-05T05:56:42Z)
Momentum Particle Maximum Likelihood [2.4561590439700076]
自由エネルギー関数を最小化するための類似の力学系に基づくアプローチを提案する。システムを離散化することにより、潜在変数モデルにおける最大推定のための実用的なアルゴリズムを得る。このアルゴリズムは既存の粒子法を数値実験で上回り、他のMLEアルゴリズムと比較する。
論文参考訳（メタデータ） (2023-12-12T14:53:18Z)
Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文参考訳（メタデータ） (2023-02-10T08:05:19Z)
Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。 MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文参考訳（メタデータ） (2022-10-24T16:54:18Z)
A Proximal Algorithm for Sampling from Non-smooth Potentials [10.980294435643398]
非滑らかなポテンシャルからのサンプリングのための新しいMCMCアルゴリズムを提案する。本手法は, 近似バンドル法と交互サンプリングフレームワークに基づく。この研究の重要な貢献は、任意の凸非滑らかポテンシャルに対して制限されたガウスオラクルを実現する高速アルゴリズムである。
論文参考訳（メタデータ） (2021-10-09T15:26:07Z)
Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文参考訳（メタデータ） (2021-06-10T18:17:57Z)
A Swarm Variant for the Schr\"odinger Solver [0.0]
本稿では, ニューラルネットワークの微分自由導関数として, Exponentially Averaged Momentum Particle Swarm Optimization (EM-PSO) を適用する。 PSOの主な利点は、探索空間探索や、アダムのような勾配の輝きに比べて、局所的なミニマによる強靭性である。
論文参考訳（メタデータ） (2021-04-10T15:51:36Z)
Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文参考訳（メタデータ） (2021-02-04T02:21:08Z)
Fast Gravitational Approach for Rigid Point Set Registration with Ordinary Differential Equations [79.71184760864507]
本稿では,FGA(Fast Gravitational Approach)と呼ばれる厳密な点集合アライメントのための物理に基づく新しい手法を紹介する。 FGAでは、ソースとターゲットの点集合は、シミュレーションされた重力場内を移動しながら、世界規模で多重リンクされた方法で相互作用する質量を持つ剛体粒子群として解釈される。従来のアライメント手法では,新しいメソッドクラスには特徴がないことを示す。
論文参考訳（メタデータ） (2020-09-28T15:05:39Z)
Sequential Subspace Search for Functional Bayesian Optimization Incorporating Experimenter Intuition [63.011641517977644]
本アルゴリズムは,実験者のガウス過程から引き出された一組の引き数で区切られた関数空間の有限次元ランダム部分空間列を生成する。標準ベイズ最適化は各部分空間に適用され、次の部分空間の出発点(オリジン)として用いられる最良の解である。シミュレーションおよび実世界の実験,すなわちブラインド関数マッチング,アルミニウム合金の最適析出強化関数の探索,深層ネットワークの学習速度スケジュール最適化において,本アルゴリズムを検証した。
論文参考訳（メタデータ） (2020-09-08T06:54:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。