論文の概要: Tree Bandits for Generative Bayes
- arxiv url: http://arxiv.org/abs/2404.10436v1
- Date: Tue, 16 Apr 2024 10:02:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-17 17:13:30.403289
- Title: Tree Bandits for Generative Bayes
- Title(参考訳): ジェネレーティブベイのためのツリーバンド
- Authors: Sean O'Hagan, Jungeum Kim, Veronika Rockova,
- Abstract要約: 本稿では,過去の試行錯誤から学習したABC拒絶サンプリングを高速化する自己認識フレームワークを開発する。
シミュレーションコストがはるかに低いABC近似性を示す。
最後に,提案手法を深部生成モデルを用いたマスク画像分類問題に適用する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In generative models with obscured likelihood, Approximate Bayesian Computation (ABC) is often the tool of last resort for inference. However, ABC demands many prior parameter trials to keep only a small fraction that passes an acceptance test. To accelerate ABC rejection sampling, this paper develops a self-aware framework that learns from past trials and errors. We apply recursive partitioning classifiers on the ABC lookup table to sequentially refine high-likelihood regions into boxes. Each box is regarded as an arm in a binary bandit problem treating ABC acceptance as a reward. Each arm has a proclivity for being chosen for the next ABC evaluation, depending on the prior distribution and past rejections. The method places more splits in those areas where the likelihood resides, shying away from low-probability regions destined for ABC rejections. We provide two versions: (1) ABC-Tree for posterior sampling, and (2) ABC-MAP for maximum a posteriori estimation. We demonstrate accurate ABC approximability at much lower simulation cost. We justify the use of our tree-based bandit algorithms with nearly optimal regret bounds. Finally, we successfully apply our approach to the problem of masked image classification using deep generative models.
- Abstract(参考訳): 確率が不明瞭な生成モデルでは、近似ベイズ計算(ABC)が推論のための最後の手段であることが多い。
しかし、ABCは、受け入れテストに合格するわずかな部分だけを保持するために、多くの事前パラメータ試行を要求している。
ABCの拒絶サンプリングを高速化するために,過去の試行と誤りから学習する自己認識フレームワークを開発した。
ABCルックアップテーブルに再帰的分割分類器を適用し、高次な領域をボックスに順次洗練する。
各ボックスは、ABCの受け入れを報奨として扱うバイナリバンディット問題において、アームと見なされる。
各アームは、以前の分布と過去の拒絶に依存して、次のABC評価のために選択される確率を持つ。
この手法は、ABCの拒絶を前提とした低確率領域から遠ざかって、可能性の高い領域により多くの分割を行う。
本研究では,(1)後方サンプリング用ABC-Treeと(2)後方推定用ABC-MAPの2つのバージョンを提供する。
シミュレーションコストがはるかに低いABC近似性を示す。
木に基づくバンドアルゴリズムの使用を、ほぼ最適の後悔境界で正当化する。
最後に,提案手法を深部生成モデルを用いたマスク画像分類問題に適用する。
関連論文リスト
- Bayesian Decision Trees via Tractable Priors and Probabilistic
Context-Free Grammars [7.259767735431625]
ベイズ決定木を学習するための新しい基準を提案する。
BCART-PCFGは、データから得られる木々間の後部分布から決定木を効率的にサンプリングすることができる。
BCART-PCFGで採取した木は、優雅に構築された決定木に匹敵する性能を示した。
論文 参考訳(メタデータ) (2023-02-15T00:17:41Z) - RLAS-BIABC: A Reinforcement Learning-Based Answer Selection Using the
BERT Model Boosted by an Improved ABC Algorithm [6.82469220191368]
回答選択(AS)は、オープンドメイン質問応答(QA)問題の重要なサブタスクである。
本稿では、注意機構に基づく長短期メモリ(LSTM)と、変換器(BERT)ワード埋め込みによる双方向エンコーダ表現に基づいて、ASのためのRLAS-BIABCと呼ばれる手法を提案する。
論文 参考訳(メタデータ) (2023-01-07T08:33:05Z) - HARRIS: Hybrid Ranking and Regression Forests for Algorithm Selection [75.84584400866254]
両アプローチの強みを両アプローチの弱さを緩和しつつ組み合わせ, 特殊林を利用した新しいアルゴリズムセレクタを提案する。
HARRISの決定は、ハイブリッドランキングと回帰損失関数に基づいて最適化された木を作成する森林モデルに基づいている。
論文 参考訳(メタデータ) (2022-10-31T14:06:11Z) - Adversarial Bayesian Simulation [0.9137554315375922]
我々は,敵対的ネットワーク(GAN)と敵対的変動ベイズに基づく深いニューラル暗黙的サンプリング器を用いてベイズ近似計算(ABC)を橋渡しする。
我々は,逆最適化問題を解くことにより,後部を直接対象とするベイズ型GANを開発した。
本研究は, ニューラルネットワーク生成器と識別器において, 真と近似後部の典型的な総変動距離が0に収束することを示す。
論文 参考訳(メタデータ) (2022-08-25T14:18:39Z) - Mean-based Best Arm Identification in Stochastic Bandits under Reward
Contamination [80.53485617514707]
本稿では,ギャップベースアルゴリズムと逐次除去に基づく2つのアルゴリズムを提案する。
具体的には、ギャップベースのアルゴリズムでは、サンプルの複雑さは定数要素まで最適であり、連続的な除去では対数因子まで最適である。
論文 参考訳(メタデータ) (2021-11-14T21:49:58Z) - Efficient First-Order Contextual Bandits: Prediction, Allocation, and
Triangular Discrimination [82.52105963476703]
統計的学習、オンライン学習、その他における繰り返しのテーマは、低騒音の問題に対してより速い収束率が可能であることである。
1次保証は統計的およびオンライン学習において比較的よく理解されている。
三角識別と呼ばれる対数損失と情報理論量が一階保証を得る上で基本的な役割を担っていることを示す。
論文 参考訳(メタデータ) (2021-07-05T19:20:34Z) - Upper Confidence Bounds for Combining Stochastic Bandits [52.10197476419621]
バンディットアルゴリズムを結合する簡単な手法を提案する。
私たちのアプローチは、個々のbanditアルゴリズムのそれぞれを、より高いレベルのn$-armed bandit問題のアームとして扱う"meta-ucb"手順に基づいています。
論文 参考訳(メタデータ) (2020-12-24T05:36:29Z) - Generalized Posteriors in Approximate Bayesian Computation [6.026640792312181]
近似ベイズ計算 (ABC) はシミュレーションベースの推論において重要な手法である。
本稿ではABCと一般化ベイズ推論(GBI)の関連性を描く。
論文 参考訳(メタデータ) (2020-11-17T14:08:59Z) - Fair Classification via Unconstrained Optimization [0.0]
我々はベイズ最適公正学習規則がベイズ回帰器に対するグループワイドしきい値の規則のままであることを示す。
提案アルゴリズムは,任意のブラックボックス機械学習モデルに適用可能である。
論文 参考訳(メタデータ) (2020-05-21T11:29:05Z) - GeoDA: a geometric framework for black-box adversarial attacks [79.52980486689287]
我々は,最も困難なブラックボックス設定の1つにおいて,逆例を生成するためのフレームワークを提案する。
我々のフレームワークは、ディープネットワークの決定境界は通常、データサンプルの近傍で小さな平均曲率を持つという観察に基づいている。
論文 参考訳(メタデータ) (2020-03-13T20:03:01Z) - Channel Pruning via Automatic Structure Search [109.83642249625098]
そこで我々は,ABCPrunerと呼ばれる人工蜂コロニーアルゴリズム(ABC)に基づく新たなチャネルプルーニング手法を提案する。
ABCPrunerはより効果的であることが証明されており、細調整をエンドツーエンドで効率的に行うことができる。
論文 参考訳(メタデータ) (2020-01-23T14:51:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。