論文の概要: Optimal quantisation of probability measures using maximum mean
discrepancy
- arxiv url: http://arxiv.org/abs/2010.07064v4
- Date: Fri, 12 Feb 2021 11:40:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 13:01:40.781133
- Title: Optimal quantisation of probability measures using maximum mean
discrepancy
- Title(参考訳): 最大平均差を用いた確率測度の最適定量化
- Authors: Onur Teymur, Jackson Gorham, Marina Riabiz and Chris. J. Oates
- Abstract要約: 何人かの研究者は、確率測度を定量化する方法として、最大平均誤差 (MMD) の最小化を提案している。
離散的候補集合よりもMDDを優しく最小化する逐次アルゴリズムを考える。
本手法を各反復時の候補集合のミニバッチに適用する変種について検討する。
- 参考スコア(独自算出の注目度): 10.29438865750845
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Several researchers have proposed minimisation of maximum mean discrepancy
(MMD) as a method to quantise probability measures, i.e., to approximate a
target distribution by a representative point set. We consider sequential
algorithms that greedily minimise MMD over a discrete candidate set. We propose
a novel non-myopic algorithm and, in order to both improve statistical
efficiency and reduce computational cost, we investigate a variant that applies
this technique to a mini-batch of the candidate set at each iteration. When the
candidate points are sampled from the target, the consistency of these new
algorithm - and their mini-batch variants - is established. We demonstrate the
algorithms on a range of important computational problems, including
optimisation of nodes in Bayesian cubature and the thinning of Markov chain
output.
- Abstract(参考訳): いくつかの研究者は、確率測度、すなわち代表点集合による目標分布を近似する方法として、最大平均偏差(mmd)の最小化を提案した。
離散候補集合上でmmdを厳格に最小化する逐次アルゴリズムを考える。
本稿では,新しい非ミオピックアルゴリズムを提案し,統計効率の向上と計算コストの削減を両立させるため,この手法を各イテレーションにおける候補セットのミニバッチに適用した変種について検討する。
候補点がターゲットからサンプリングされると、これらの新しいアルゴリズム(およびそれらのミニバッチ変種)の一貫性が確立される。
ベイズキューブ内のノードの最適化やマルコフ連鎖出力の縮小など,様々な重要な計算問題に対するアルゴリズムの実証を行った。
関連論文リスト
- Best Arm Identification with Fixed Budget: A Large Deviation Perspective [54.305323903582845]
我々は、様々な武器の報酬間の経験的ギャップに基づいて、あらゆるラウンドで腕を拒絶できる真に適応的なアルゴリズムであるsredを提示する。
特に、様々な武器の報酬の間の経験的ギャップに基づいて、あらゆるラウンドで腕を拒絶できる真に適応的なアルゴリズムであるsredを提示する。
論文 参考訳(メタデータ) (2023-12-19T13:17:43Z) - Algorithme EM r\'egularis\'e [0.0]
本稿では,より少ないサンプルサイズに対応するために,事前知識を効率的に活用するEMアルゴリズムの正規化バージョンを提案する。
実データを用いた実験では,クラスタリングのための提案アルゴリズムの性能が向上した。
論文 参考訳(メタデータ) (2023-07-04T23:19:25Z) - Faster One-Sample Stochastic Conditional Gradient Method for Composite
Convex Minimization [61.26619639722804]
滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。
提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
論文 参考訳(メタデータ) (2022-02-26T19:10:48Z) - Distributed stochastic proximal algorithm with random reshuffling for
non-smooth finite-sum optimization [28.862321453597918]
非滑らかな有限サム最小化は機械学習の基本的な問題である。
本稿では,確率的リシャフリングを用いた分散近位勾配アルゴリズムを開発し,その問題の解法を提案する。
論文 参考訳(メタデータ) (2021-11-06T07:29:55Z) - Parallel Stochastic Mirror Descent for MDPs [72.75921150912556]
無限水平マルコフ決定過程(MDP)における最適政策学習の問題を考える。
リプシッツ連続関数を用いた凸プログラミング問題に対してミラー・ディクセントの変種が提案されている。
このアルゴリズムを一般の場合において解析し,提案手法の動作中に誤差を蓄積しない収束率の推定値を得る。
論文 参考訳(メタデータ) (2021-02-27T19:28:39Z) - Performance analysis of greedy algorithms for minimising a Maximum Mean
Discrepancy [0.0]
MMDによって測定された有限サンプルサイズ近似誤差はSBQに対して1/n$まで減少することを示す。
近似誤差の上限はSBQより若干優れているが、他の手法の方がはるかに高速である。
論文 参考訳(メタデータ) (2021-01-19T11:18:51Z) - Asymptotic study of stochastic adaptive algorithm in non-convex
landscape [2.1320960069210484]
本稿では、最適化や機械学習に広く用いられる適応アルゴリズムの仮定特性について検討する。
このうちAdagradとRmspropは、ブラックボックスのディープラーニングアルゴリズムの大部分に関与している。
論文 参考訳(メタデータ) (2020-12-10T12:54:45Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - MLE-guided parameter search for task loss minimization in neural
sequence modeling [83.83249536279239]
ニューラル自己回帰シーケンスモデルは、さまざまな自然言語処理(NLP)タスクのシーケンスを生成するために使用される。
本稿では,現在のパラメータとその周辺における乱探索の混合である更新方向の分布から,最大至適勾配の分布をサンプリングする,最大至適誘導パラメータ探索(MGS)を提案する。
以上の結果から,MGS は,機械翻訳における最小リスクトレーニングに比べて,繰り返しや非終端の大幅な削減を図り,シーケンスレベルの損失を最適化できることが示唆された。
論文 参考訳(メタデータ) (2020-06-04T22:21:22Z) - Extreme Algorithm Selection With Dyadic Feature Representation [78.13985819417974]
我々は,数千の候補アルゴリズムの固定セットを考慮に入れた,極端なアルゴリズム選択(XAS)の設定を提案する。
我々は、XAS設定に対する最先端のAS技術の適用性を評価し、Dyadic特徴表現を利用したアプローチを提案する。
論文 参考訳(メタデータ) (2020-01-29T09:40:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。