論文の概要: Free Energy Minimization: A Unified Framework for Modelling, Inference,
Learning,and Optimization
- arxiv url: http://arxiv.org/abs/2011.14963v1
- Date: Wed, 25 Nov 2020 11:29:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-21 04:03:21.563939
- Title: Free Energy Minimization: A Unified Framework for Modelling, Inference,
Learning,and Optimization
- Title(参考訳): 自由エネルギー最小化:モデリング、推論、学習、最適化のための統一フレームワーク
- Authors: Sharu Theresa Jose, Osvaldo Simeone
- Abstract要約: 自由エネルギーの最小化は、ここで、そして歴史的に、熱力学の原理として初めて導入された。
モデリング、推論、学習、最適化に関する先程のアプリケーションは、基本原則から始まっている。
- 参考スコア(独自算出の注目度): 42.275148861039895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The goal of these lecture notes is to review the problem of free energy
minimization as a unified framework underlying the definition of maximum
entropy modelling, generalized Bayesian inference, learning with latent
variables, statistical learning analysis of generalization,and local
optimization. Free energy minimization is first introduced, here and
historically, as a thermodynamic principle. Then, it is described
mathematically in the context of Fenchel duality. Finally, the mentioned
applications to modelling, inference, learning, and optimization are covered
starting from basic principles.
- Abstract(参考訳): これらの講義ノートの目的は、最大エントロピーモデリング、一般化ベイズ推論、潜在変数による学習、一般化の統計的学習分析、局所最適化の定義に基づく統一的な枠組みとして、自由エネルギー最小化の問題を検討することである。
自由エネルギーの最小化は、ここで、そして歴史的に、熱力学の原理として初めて導入された。
その後、フェンシェル双対性の文脈で数学的に記述される。
最後に、モデリング、推論、学習、最適化に関するアプリケーションが基本的な原則から始まっている。
関連論文リスト
- Quantum thermodynamics of the spin-boson model using the principle of minimal dissipation [41.94295877935867]
本研究では, 環境が作業量, 熱量, エントロピー生産量に与える影響について検討した。
その結果, 弱い結合形態の作業, 熱, エントロピー生産に有意な差が認められた。
論文 参考訳(メタデータ) (2024-04-18T12:11:18Z) - Towards Constituting Mathematical Structures for Learning to Optimize [101.80359461134087]
近年,機械学習を利用してデータから最適化アルゴリズムを自動学習する技術が注目されている。
ジェネリックL2Oアプローチは反復更新ルールをパラメータ化し、ブラックボックスネットワークとして更新方向を学ぶ。
一般的なアプローチは広く適用できるが、学習されたモデルは過度に適合し、配布外テストセットにうまく一般化できない。
本稿では, 分布外問題に対して広く適用でき, 一般化された, 数学に着想を得た構造を持つ新しいL2Oモデルを提案する。
論文 参考訳(メタデータ) (2023-05-29T19:37:28Z) - Primal and Dual Analysis of Entropic Fictitious Play for Finite-sum
Problems [42.375903320536715]
エントロピック・フィクション・プレイ(英語: Entropic fictitious Play, EFP)は、測度空間における凸関数とエントロピーの和を最小化するアルゴリズムである。
学習問題が有限サム構造を示すような環境では、EFPの簡潔な原始双対解析を行う。
論文 参考訳(メタデータ) (2023-03-06T08:05:08Z) - When to Update Your Model: Constrained Model-based Reinforcement
Learning [50.74369835934703]
モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。
続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。
さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
論文 参考訳(メタデータ) (2022-10-15T17:57:43Z) - IRL with Partial Observations using the Principle of Uncertain Maximum
Entropy [8.296684637620553]
我々は、不確実な最大エントロピーの原理を導入し、期待最大化に基づく解を示す。
我々は,最大因果エントロピー逆強化学習領域において,ノイズデータに対する頑健性の改善を実験的に実証した。
論文 参考訳(メタデータ) (2022-08-15T03:22:46Z) - Machine Learning of Thermodynamic Observables in the Presence of Mode
Collapse [5.096726017663865]
深部生成モデルはパラメータ空間の与えられた点における自由エネルギーの直接推定を可能にする。
本稿では,この機械学習に基づく新しい推定手法について概説する。
論文 参考訳(メタデータ) (2021-11-22T15:59:08Z) - Finite Sample Analysis of Minimax Offline Reinforcement Learning:
Completeness, Fast Rates and First-Order Efficiency [83.02999769628593]
強化学習におけるオフ・ポリティィ・アセスメント(OPE)の理論的特徴について述べる。
ミニマックス法により、重みと品質関数の高速収束を実現することができることを示す。
非タブラル環境における1次効率を持つ最初の有限サンプル結果を示す。
論文 参考訳(メタデータ) (2021-02-05T03:20:39Z) - From particle swarm optimization to consensus based optimization:
stochastic modeling and mean-field limit [0.0]
グローバル最適化問題を解決するためのPSOプロセスの微分方程式に基づく連続的な記述を検討する。
我々は、Vlasov-Fokker-Planck型方程式に基づく対応する平均場近似を大粒子制限で導出する。
我々は,最近導入されたコンセンサスに基づく最適化手法との相関関係を明らかにする,関連するマクロ流体力学方程式を計算した。
論文 参考訳(メタデータ) (2020-12-10T11:58:19Z) - Targeted free energy estimation via learned mappings [66.20146549150475]
自由エネルギー摂動 (FEP) は60年以上前にズワンツィヒによって自由エネルギー差を推定する方法として提案された。
FEPは、分布間の十分な重複の必要性という厳しい制限に悩まされている。
目標自由エネルギー摂動(Targeted Free Energy Perturbation)と呼ばれるこの問題を緩和するための1つの戦略は、オーバーラップを増やすために構成空間の高次元マッピングを使用する。
論文 参考訳(メタデータ) (2020-02-12T11:10:00Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。