論文の概要: Exploring Maximum Entropy Distributions with Evolutionary Algorithms
- arxiv url: http://arxiv.org/abs/2002.01973v1
- Date: Wed, 5 Feb 2020 19:52:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-03 21:11:59.226969
- Title: Exploring Maximum Entropy Distributions with Evolutionary Algorithms
- Title(参考訳): 進化的アルゴリズムによる最大エントロピー分布の探索
- Authors: Raul Rojas
- Abstract要約: 与えられた制約集合に対する最大エントロピー確率分布を数値的に発展させる方法を示す。
進化的アルゴリズムは、よく知られた分析結果の近似を得ることができる。
分布の多くが対称で連続である理由を説明するが、いくつかはそうではない。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper shows how to evolve numerically the maximum entropy probability
distributions for a given set of constraints, which is a variational calculus
problem. An evolutionary algorithm can obtain approximations to some well-known
analytical results, but is even more flexible and can find distributions for
which a closed formula cannot be readily stated. The numerical approach handles
distributions over finite intervals. We show that there are two ways of
conducting the procedure: by direct optimization of the Lagrangian of the
constrained problem, or by optimizing the entropy among the subset of
distributions which fulfill the constraints. An incremental evolutionary
strategy easily obtains the uniform, the exponential, the Gaussian, the
log-normal, the Laplace, among other distributions, once the constrained
problem is solved with any of the two methods. Solutions for mixed ("chimera")
distributions can be also found. We explain why many of the distributions are
symmetrical and continuous, but some are not.
- Abstract(参考訳): 本稿では,与えられた制約の集合に対する最大エントロピー確率分布を数値的に発展させる方法について述べる。
進化的アルゴリズムは、よく知られた分析結果の近似を得ることができるが、より柔軟であり、閉じた公式が容易に記述できない分布を見つけることができる。
数値的アプローチは有限区間の分布を扱う。
制約された問題のラグランジアンを直接最適化することで、あるいは制約を満たす分布の部分集合間のエントロピーを最適化することによって、手順を実行する方法が2つあることを示す。
漸進的進化戦略は、制約のある問題を2つの方法のいずれかで解くと、一様、指数、ガウス、対数正規、ラプラスなどの分布を容易に得ることができる。
混合(キメラ)分布の解も見つかる。
分布の多くが対称で連続である理由を説明するが、いくつかはそうではない。
関連論文リスト
- Non-asymptotic Convergence of Discrete-time Diffusion Models: New
Approach and Improved Rate [54.596887384531236]
我々は離散時間拡散モデルの下で、分布のかなり大きなクラスに対する収束保証を確立する。
パラメータ依存を明示した分布の興味深いクラスに対して,結果の専門化を行う。
本稿では,新しい加速サンプリング器を提案し,対応する正則サンプリング器の収束率を桁違いに向上することを示す。
論文 参考訳(メタデータ) (2024-02-21T16:11:47Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Gaussian Process Regression for Maximum Entropy Distribution [0.0]
与えられたモーメントの集合の写像としてラグランジュ乗算器を近似するガウス事前の適合性について検討する。
考案したデータ駆動型最大エントロピー閉包の性能を,2つのテストケースで検討した。
論文 参考訳(メタデータ) (2023-08-11T14:26:29Z) - Approximating a RUM from Distributions on k-Slates [88.32814292632675]
与えられた分布を平均で最もよく近似するRUMを求める一般化時間アルゴリズムを求める。
我々の理論的結果は、実世界のデータセットに効果的でスケール可能なものを得るという、実践的な結果も得られます。
論文 参考訳(メタデータ) (2023-05-22T17:43:34Z) - Efficient Informed Proposals for Discrete Distributions via Newton's
Series Approximation [13.349005662077403]
我々は,強い要求を伴わずに任意の離散分布に対する勾配的提案を開発する。
提案手法は,ニュートン級数展開による離散確率比を効率よく近似する。
提案手法は,メトロポリス・ハスティングス・ステップの有無にかかわらず,コンバージェンスレートが保証されていることを実証する。
論文 参考訳(メタデータ) (2023-02-27T16:28:23Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-10-29T14:44:44Z) - Evidential Softmax for Sparse Multimodal Distributions in Deep
Generative Models [38.26333732364642]
確率分布の多重性を保存するスパース正規化関数である$textitev-softmax$を提案する。
本稿では,多変量オートエンコーダや自動回帰アーキテクチャなど,多種多様な生成モデルについて評価する。
論文 参考訳(メタデータ) (2021-10-27T05:32:25Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for
Distributional Optimization [95.67541186704399]
分散最適化問題は機械学習や統計学で広く発生する。
本研究では,ワッサースタイン勾配降下を概ね行う,変分輸送と呼ばれる新しい粒子ベースアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳(メタデータ) (2020-12-21T18:33:13Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳(メタデータ) (2020-06-11T19:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。