論文の概要: Minimax formula for the replica symmetric free energy of deep restricted
Boltzmann machines
- arxiv url: http://arxiv.org/abs/2005.09424v2
- Date: Thu, 7 Jul 2022 12:45:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 23:52:21.761197
- Title: Minimax formula for the replica symmetric free energy of deep restricted
Boltzmann machines
- Title(参考訳): 深い制限されたボルツマンマシンのレプリカ対称自由エネルギーのミニマックス公式
- Authors: Giuseppe Genovese
- Abstract要約: 制限ボルツマンマシンに最もよく使用されるディープアーキテクチャの自由エネルギーについて検討する。
いわゆるレプリカ対称和則の誤差項はサドル点として最適化可能であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the free energy of a most used deep architecture for restricted
Boltzmann machines, where the layers are disposed in series. Assuming
independent Gaussian distributed random weights, we show that the error term in
the so-called replica symmetric sum rule can be optimised as a saddle point.
This leads us to conjecture that in the replica symmetric approximation the
free energy is given by a min max formula, which parallels the one achieved for
two-layer case.
- Abstract(参考訳): 制限されたボルツマンマシンに対して最もよく使用されるディープアーキテクチャの自由エネルギーについて検討し、層を直列に配置する。
独立なガウス分布ランダムウェイトを仮定すると、いわゆるレプリカ対称和則の誤差項がサドル点として最適化可能であることを示す。
このことから、レプリカ対称近似において、自由エネルギーは二層の場合で達成したものと平行なミンマックス公式によって与えられると推測される。
関連論文リスト
- Dual-Unitary Classical Shadow Tomography [0.0]
一次元量子ビット系における作用素拡散とパウリ重み力学について検討する。
我々は$rho(x,t)$の状態方程式を開発し、モンテカルロシミュレーションを用いて数値シミュレーションを行う。
この結果は, 二重単体ブロックウォール回路のキラリティによる有限サイズ効果に対して頑健である。
論文 参考訳(メタデータ) (2024-04-01T12:02:51Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Towards Entanglement Entropy of Random Large-N Theories [0.0]
レプリカ手法とシフトした松原周波数の概念を用いて、フォン・ノイマンとレーニエンタングルメントエントロピーを計算する。
本稿では,デコヒーレンスの存在下での2地点問題の事例に適用することで,手法の柔軟性を実証する。
論文 参考訳(メタデータ) (2023-03-03T18:21:54Z) - Simplex Random Features [53.97976744884616]
ソフトマックスおよびガウスカーネルの非バイアス近似のための新しいランダム特徴(RF)機構であるSimplex Random Features (SimRFs)を提案する。
我々は,これらのカーネルの非バイアス推定値に対して,SimRFが最小平均二乗誤差(MSE)を提供することを示す。
ポイントワイドカーネル推定,非パラメトリック分類,スケーラブルトランスフォーマーなどの設定において,SimRFによる一貫したゲインを示す。
論文 参考訳(メタデータ) (2023-01-31T18:53:39Z) - Page curves and typical entanglement in linear optics [0.0]
ランダムな線形光ユニタリにより進化した一組の圧縮モード内での絡み合いについて検討する。
我々はR'enyi-2エントロピーで測定されたエンタングルメントの典型性について様々な結果を示す。
我々の主目的は、平均とエントロピーの分散によって従う対称性特性を利用して、ユニタリ平均化を劇的に単純化する。
論文 参考訳(メタデータ) (2022-09-14T18:00:03Z) - First-Order Algorithms for Min-Max Optimization in Geodesic Metric
Spaces [93.35384756718868]
min-maxアルゴリズムはユークリッド設定で解析されている。
指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
論文 参考訳(メタデータ) (2022-06-04T18:53:44Z) - $O(N^2)$ Universal Antisymmetry in Fermionic Neural Networks [107.86545461433616]
我々は、置換同変アーキテクチャを提案し、その上で行列式 Slater を適用して反対称性を誘導する。
FermiNetは、単一の行列式を持つ普遍近似能力があることが証明されている。
これは実装が容易であり、計算コストを$O(N2)$に下げることができる。
論文 参考訳(メタデータ) (2022-05-26T07:44:54Z) - Maximum Entropy Reinforcement Learning with Mixture Policies [54.291331971813364]
MaxEntアルゴリズムを用いて混合エントロピーのトラクタブル近似を構築する。
我々は、それが限界エントロピーの合計と密接に関連していることを示しています。
我々は, 混合ポリシーケースに対するsoft actor-critic (sac) のアルゴリズム的変種を導出し, 一連の連続制御タスクで評価する。
論文 参考訳(メタデータ) (2021-03-18T11:23:39Z) - Spectral Analysis of Product Formulas for Quantum Simulation [0.0]
本研究では,大規模なシステムに対して,$epsilon$から$epsilon1/2$へのスケーリングにおいて,精度の高いエネルギー固有値を推定するために必要なトロッターステップサイズを改善することができることを示す。
結果は部分的にダイアバティックなプロセスに一般化され、このプロセスはスペクトルの残りの部分からギャップによって分離された狭いエネルギーバンドに留まる。
論文 参考訳(メタデータ) (2021-02-25T03:17:25Z) - Integrability and scattering of the boson field theory on a lattice [0.5801044612920815]
現在スピン系に適用されている、正確に解けるモデルの手法を用いて、2次元格子上の自由ボソンを解く。
我々は,行間移動行列を対角化し,保存量の導出を行い,量子逆散乱法を実装した。
これらの結果は、自由ボソン模型を他のモデルと正確に解けるラ・ヤン・バクターと同じ位置に2Dに配置し、量子計算に応用することができる。
論文 参考訳(メタデータ) (2020-09-07T18:00:08Z) - Targeted free energy estimation via learned mappings [66.20146549150475]
自由エネルギー摂動 (FEP) は60年以上前にズワンツィヒによって自由エネルギー差を推定する方法として提案された。
FEPは、分布間の十分な重複の必要性という厳しい制限に悩まされている。
目標自由エネルギー摂動(Targeted Free Energy Perturbation)と呼ばれるこの問題を緩和するための1つの戦略は、オーバーラップを増やすために構成空間の高次元マッピングを使用する。
論文 参考訳(メタデータ) (2020-02-12T11:10:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。