論文の概要: Exploring Maximum Entropy Distributions with Evolutionary Algorithms
- arxiv url: http://arxiv.org/abs/2002.01973v1
- Date: Wed, 5 Feb 2020 19:52:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-03 21:11:59.226969
- Title: Exploring Maximum Entropy Distributions with Evolutionary Algorithms
- Title（参考訳）: 進化的アルゴリズムによる最大エントロピー分布の探索
- Authors: Raul Rojas
- Abstract要約: 与えられた制約集合に対する最大エントロピー確率分布を数値的に発展させる方法を示す。
進化的アルゴリズムは、よく知られた分析結果の近似を得ることができる。
分布の多くが対称で連続である理由を説明するが、いくつかはそうではない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper shows how to evolve numerically the maximum entropy probability
distributions for a given set of constraints, which is a variational calculus
problem. An evolutionary algorithm can obtain approximations to some well-known
analytical results, but is even more flexible and can find distributions for
which a closed formula cannot be readily stated. The numerical approach handles
distributions over finite intervals. We show that there are two ways of
conducting the procedure: by direct optimization of the Lagrangian of the
constrained problem, or by optimizing the entropy among the subset of
distributions which fulfill the constraints. An incremental evolutionary
strategy easily obtains the uniform, the exponential, the Gaussian, the
log-normal, the Laplace, among other distributions, once the constrained
problem is solved with any of the two methods. Solutions for mixed ("chimera")
distributions can be also found. We explain why many of the distributions are
symmetrical and continuous, but some are not.
- Abstract（参考訳）: 本稿では,与えられた制約の集合に対する最大エントロピー確率分布を数値的に発展させる方法について述べる。
進化的アルゴリズムは、よく知られた分析結果の近似を得ることができるが、より柔軟であり、閉じた公式が容易に記述できない分布を見つけることができる。
数値的アプローチは有限区間の分布を扱う。
制約された問題のラグランジアンを直接最適化することで、あるいは制約を満たす分布の部分集合間のエントロピーを最適化することによって、手順を実行する方法が2つあることを示す。
漸進的進化戦略は、制約のある問題を2つの方法のいずれかで解くと、一様、指数、ガウス、対数正規、ラプラスなどの分布を容易に得ることができる。
混合(キメラ)分布の解も見つかる。
分布の多くが対称で連続である理由を説明するが、いくつかはそうではない。
関連論文リスト
- A Stein Gradient Descent Approach for Doubly Intractable Distributions [5.63014864822787]
そこで本研究では,2重に抽出可能な分布を推定するために,モンテカルロ・スタイン変分勾配勾配(MC-SVGD)法を提案する。
提案手法は,後続分布に匹敵する推論性能を提供しながら,既存のアルゴリズムよりもかなりの計算ゲインを達成する。
論文 参考訳（メタデータ） (2024-10-28T13:42:27Z) - Gradual Domain Adaptation via Manifold-Constrained Distributionally Robust Optimization [0.4732176352681218]
本稿では、多様体制約データ分布のクラスにおける段階的領域適応の課題に対処する。
本稿では,適応的なワッサースタイン半径を持つ分布ロバスト最適化(DRO)を基礎とした手法を提案する。
我々のバウンダリは、新たに導入されたそれとの互換性尺度に依存しており、シーケンスに沿ったエラー伝搬のダイナミクスを完全に特徴付けています。
論文 参考訳（メタデータ） (2024-10-17T22:07:25Z) - Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。
我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
論文 参考訳（メタデータ） (2024-08-25T10:28:31Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳（メタデータ） (2024-01-29T02:08:40Z) - Gaussian Process Regression for Maximum Entropy Distribution [0.0]
与えられたモーメントの集合の写像としてラグランジュ乗算器を近似するガウス事前の適合性について検討する。
考案したデータ駆動型最大エントロピー閉包の性能を,2つのテストケースで検討した。
論文 参考訳（メタデータ） (2023-08-11T14:26:29Z) - Approximating a RUM from Distributions on k-Slates [88.32814292632675]
与えられた分布を平均で最もよく近似するRUMを求める一般化時間アルゴリズムを求める。
我々の理論的結果は、実世界のデータセットに効果的でスケール可能なものを得るという、実践的な結果も得られます。
論文 参考訳（メタデータ） (2023-05-22T17:43:34Z) - Efficient Informed Proposals for Discrete Distributions via Newton's
Series Approximation [13.349005662077403]
我々は,強い要求を伴わずに任意の離散分布に対する勾配的提案を開発する。
提案手法は,ニュートン級数展開による離散確率比を効率よく近似する。
提案手法は,メトロポリス・ハスティングス・ステップの有無にかかわらず,コンバージェンスレートが保証されていることを実証する。
論文 参考訳（メタデータ） (2023-02-27T16:28:23Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳（メタデータ） (2021-10-29T14:44:44Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳（メタデータ） (2020-12-21T18:33:13Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳（メタデータ） (2020-12-09T20:19:32Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳（メタデータ） (2020-06-11T19:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。