論文の概要: Estimating a potential without the agony of the partition function
- arxiv url: http://arxiv.org/abs/2208.09433v1
- Date: Fri, 19 Aug 2022 16:27:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-22 16:48:32.460083
- Title: Estimating a potential without the agony of the partition function
- Title(参考訳): 分割関数の悪さを伴わずにポテンシャルを推定する
- Authors: Eldad Haber, Moshe Eliasof, Luis Tenorio
- Abstract要約: サンプルが与えられたギブス密度関数を推定することは、計算統計学と統計学において重要な問題である。
最大A-Posteriori (MAP) 推定器に基づく代替手法を提案する。
- 参考スコア(独自算出の注目度): 5.994412766684842
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Estimating a Gibbs density function given a sample is an important problem in
computational statistics and statistical learning. Although the well
established maximum likelihood method is commonly used, it requires the
computation of the partition function (i.e., the normalization of the density).
This function can be easily calculated for simple low-dimensional problems
but its computation is difficult or even intractable for general densities and
high-dimensional problems. In this paper we propose an alternative approach
based on Maximum A-Posteriori (MAP) estimators, we name Maximum Recovery MAP
(MR-MAP), to derive estimators that do not require the computation of the
partition function, and reformulate the problem as an optimization problem. We
further propose a least-action type potential that allows us to quickly solve
the optimization problem as a feed-forward hyperbolic neural network. We
demonstrate the effectiveness of our methods on some standard data sets.
- Abstract(参考訳): サンプルが与えられたギブス密度関数の推定は、計算統計学や統計学習において重要な問題である。
確立された最大可能性法は一般的に用いられるが、分割関数(すなわち密度の正規化)の計算を必要とする。
この関数は単純な低次元問題でも容易に計算できるが、一般密度や高次元問題では計算が困難あるいは難解である。
本稿では,最大 A-Posteriori (MAP) 推定器(MR-MAP)を用いて,分割関数の計算を必要としない推定器を導出し,最適化問題として問題を再構成する手法を提案する。
さらに,フィードフォワード型双曲型ニューラルネットワークとして,最適化問題を迅速に解くための最小動作型ポテンシャルを提案する。
いくつかの標準データセットにおいて,提案手法の有効性を示す。
関連論文リスト
- Projecting basis functions with tensor networks for Gaussian process
regression [5.482420806459269]
我々は,指数的計算複雑性を伴わない指数的基底関数を利用できるアプローチを開発した。
結果の重みを元の空間に投影してGP予測を行う。
18次元のベンチマークデータセットを用いた実験では,逆動力学問題に対する本手法の適用性を示す。
論文 参考訳(メタデータ) (2023-10-31T16:59:07Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Computational-Statistical Gaps in Reinforcement Learning [23.517741855454044]
そこでは,CNF式を決定論的遷移,動作の定数数,低次元線形最適値関数を備えたMDP仮説に変換する。
この結果は線形関数近似を用いた強化学習における最初の計算統計的ギャップを示す。
論文 参考訳(メタデータ) (2022-02-11T04:48:35Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Offline Model-Based Optimization via Normalized Maximum Likelihood
Estimation [101.22379613810881]
データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。
この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。
我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
論文 参考訳(メタデータ) (2021-02-16T06:04:27Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳(メタデータ) (2020-12-04T15:36:29Z) - First Order Methods take Exponential Time to Converge to Global
Minimizers of Non-Convex Functions [28.776950569604026]
本研究では、非凸函数の基本硬度に関する境界を与える。
パラメータ推定問題は家族識別の問題と等価であることを示す。
論文 参考訳(メタデータ) (2020-02-28T18:28:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。