論文の概要: HMC, an Algorithms in Data Mining, the Functional Analysis approach
- arxiv url: http://arxiv.org/abs/2102.02691v1
- Date: Thu, 4 Feb 2021 15:39:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-05 15:55:13.692745
- Title: HMC, an Algorithms in Data Mining, the Functional Analysis approach
- Title(参考訳): HMC, データマイニングにおけるアルゴリズム, 機能解析アプローチ
- Authors: Soumyadip Ghosh, Yingdong Lu, Tomasz Nowicki
- Abstract要約: 力学系の観点からハミルトン(ハイブリッド)モンテカルロアルゴリズムの収束の証明を示す。
進化するオブジェクトは確率分布の密度であり、そのツールは関数解析から導出される。
- 参考スコア(独自算出の注目度): 3.562271099341746
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The main purpose of this paper is to facilitate the communication between the
Analytic, Probabilistic and Algorithmic communities.
We present a proof of convergence of the Hamiltonian (Hybrid) Monte Carlo
algorithm from the point of view of the
Dynamical Systems, where the evolving objects are densities of probability
distributions and the tool are derived from the Functional Analysis.
- Abstract(参考訳): 本論文の主な目的は、分析、確率的およびアルゴリズム的コミュニティ間のコミュニケーションを促進することである。
本稿では,Hamiltonian (Hybrid) Monte Carloアルゴリズムの進化する物体は確率分布の密度であり,ツールは関数解析から導かれる動的系の観点から,収束の証明を提示する。
関連論文リスト
- On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
複数モーダルな)自己教師付き表現学習のための連続領域における識別確率モデル問題について検討する。
我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。
論文 参考訳(メタデータ) (2024-10-11T18:02:46Z) - Interpetable Target-Feature Aggregation for Multi-Task Learning based on Bias-Variance Analysis [53.38518232934096]
マルチタスク学習(MTL)は、タスク間の共有知識を活用し、一般化とパフォーマンスを改善するために設計された強力な機械学習パラダイムである。
本稿では,タスククラスタリングと特徴変換の交点におけるMTL手法を提案する。
両段階において、鍵となる側面は減った目標と特徴の解釈可能性を維持することである。
論文 参考訳(メタデータ) (2024-06-12T08:30:16Z) - On Convergence of the Alternating Directions SGHMC Algorithm [2.609441136025819]
目標分布(SGHMC)における勾配オラクルの緩やかな条件下での跳躍フロッグ積分を用いたハミルトンモンテカルロアルゴリズムの収束速度について検討する。
提案手法は, 汎用的な補助分布を用いることにより, 標準HMCを拡張し, 代替方向の新たな手順により実現した。
論文 参考訳(メタデータ) (2024-05-21T18:22:44Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Geometry of EM and related iterative algorithms [8.228889210180268]
期待-最大化(EM)アルゴリズムは、統計的推論の方法論として長年使われてきた単純なメタアルゴリズムである。
本稿では,EMアルゴリズムの情報幾何学的定式化である$em$アルゴリズムとその拡張と様々な問題への応用について紹介する。
論文 参考訳(メタデータ) (2022-09-03T00:23:23Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - A Forward Backward Greedy approach for Sparse Multiscale Learning [0.0]
本稿では,カーネルが重み付きマルチスケール構造を持つRKHS(Reproduction Kernel Hilbert space)を提案する。
この空間における近似を生成するために、多スケール構造を持つ基底関数の集合をゆるやかに構成できる実用的なフォワードバックワードアルゴリズムを提供する。
我々は,様々なシミュレーションと実データ集合を用いて,アプローチの性能を解析する。
論文 参考訳(メタデータ) (2021-02-14T04:22:52Z) - A Dynamical Systems Approach for Convergence of the Bayesian EM
Algorithm [59.99439951055238]
我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。
本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。
高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-23T01:34:18Z) - A Dynamical Mean-Field Theory for Learning in Restricted Boltzmann
Machines [2.8021833233819486]
ボルツマンマシンにおける磁化計算のためのメッセージパッシングアルゴリズムを定義する。
安定性基準の下でのアルゴリズムのグローバル収束を証明し,数値シミュレーションとの良好な一致を示す収束率を計算する。
論文 参考訳(メタデータ) (2020-05-04T15:19:31Z) - A Distributional Analysis of Sampling-Based Reinforcement Learning
Algorithms [67.67377846416106]
定常ステップサイズに対する強化学習アルゴリズムの理論解析に対する分布的アプローチを提案する。
本稿では,TD($lambda$)や$Q$-Learningのような値ベースの手法が,関数の分布空間で制約のある更新ルールを持つことを示す。
論文 参考訳(メタデータ) (2020-03-27T05:13:29Z) - Understanding the dynamics of message passing algorithms: a free
probability heuristics [2.8021833233819486]
本研究では,大規模系の極限における密結合行列を持つ確率モデルに対する推論アルゴリズムの挙動を解析する。
玩具Isingモデルでは,有効記憶の消失特性やアルゴリズムの解析収束率などの過去の結果を復元することができる。
論文 参考訳(メタデータ) (2020-02-03T19:50:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。