論文の概要: Look-Ahead Acquisition Functions for Bernoulli Level Set Estimation
- arxiv url: http://arxiv.org/abs/2203.09751v1
- Date: Fri, 18 Mar 2022 05:25:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-21 13:50:24.928563
- Title: Look-Ahead Acquisition Functions for Bernoulli Level Set Estimation
- Title(参考訳): Bernoulliレベルセット推定のためのルックアヘッド獲得関数
- Authors: Benjamin Letham, Phillip Guan, Chase Tymms, Eytan Bakshy, Michael
Shvartsman
- Abstract要約: サブレベル設定メンバーシップのルックアヘッド後部に対する解析式を導出する。
これらがLSE獲得関数のクラスに対する解析的表現にどのように寄与するかを示す。
- 参考スコア(独自算出の注目度): 9.764638397706717
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Level set estimation (LSE) is the problem of identifying regions where an
unknown function takes values above or below a specified threshold. Active
sampling strategies for efficient LSE have primarily been studied in
continuous-valued functions. Motivated by applications in human psychophysics
where common experimental designs produce binary responses, we study LSE active
sampling with Bernoulli outcomes. With Gaussian process classification
surrogate models, the look-ahead model posteriors used by state-of-the-art
continuous-output methods are intractable. However, we derive analytic
expressions for look-ahead posteriors of sublevel set membership, and show how
these lead to analytic expressions for a class of look-ahead LSE acquisition
functions, including information-based methods. Benchmark experiments show the
importance of considering the global look-ahead impact on the entire posterior.
We demonstrate a clear benefit to using this new class of acquisition functions
on benchmark problems, and on a challenging real-world task of estimating a
high-dimensional contrast sensitivity function.
- Abstract(参考訳): レベルセット推定(LSE)は、未知の関数が指定された閾値以上の値を取る領域を特定する問題である。
効率的なLSEのためのアクティブサンプリング戦略は主に連続値関数で研究されている。
共通の実験デザインがバイナリ応答を生成するヒト精神物理学の応用に動機づけられ,ベルヌーイ結果を用いたlse能動的サンプリング法について検討した。
gaussian process classification surrogateモデルでは、最先端の連続アウトプット法で使われるルック・アヘッドモデル後方は扱いにくい。
しかし, サブレベル集合メンバシップのルックアヘッド後部に対する解析式を導出し, 情報に基づく手法を含む, ルックアヘッド LSE 獲得関数のクラスに対する解析式について示す。
ベンチマーク実験は、後部全体のグローバルなルックアヘッドの影響を考慮することの重要性を示している。
ベンチマーク問題や,高次元のコントラスト感度関数を推定する実世界の課題において,この新しいタイプの獲得関数を用いることで明らかな利点が得られた。
関連論文リスト
- $f$-Divergence Based Classification: Beyond the Use of Cross-Entropy [4.550290285002704]
我々はベイズ的視点を採用し、その分類タスクを最大後続確率問題として定式化する。
本稿では,$f$-divergenceの変動表現に基づく目的関数のクラスを提案する。
提案する目的関数を理論的に解析し、3つのアプリケーションシナリオで数値的に検証する。
論文 参考訳(メタデータ) (2024-01-02T16:14:02Z) - Cross-functional Analysis of Generalisation in Behavioural Learning [4.0810783261728565]
本稿では,異なるレベルの次元をまたいだ一般化を考慮した行動学習の分析手法であるBluGAを紹介する。
集計スコアは、目に見えない機能(または過剰適合)への一般化を測定する
論文 参考訳(メタデータ) (2023-05-22T11:54:19Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Sensing Cox Processes via Posterior Sampling and Positive Bases [56.82162768921196]
本研究では,空間統計学から広く用いられている点過程の適応センシングについて検討する。
我々は、この強度関数を、特別に構築された正の基底で表される、歪んだガウス過程のサンプルとしてモデル化する。
我々の適応センシングアルゴリズムはランゲヴィン力学を用いており、後続サンプリング(textscCox-Thompson)と後続サンプリング(textscTop2)の原理に基づいている。
論文 参考訳(メタデータ) (2021-10-21T14:47:06Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Effective Evaluation of Deep Active Learning on Image Classification
Tasks [10.27095298129151]
画像分類の文脈において,最先端の能動学習アルゴリズムを統一的に実装する。
正の面では、AL手法はデータ拡張によるRSに比べてラベル効率が2倍から4倍高いことを示す。
論文 参考訳(メタデータ) (2021-06-16T23:29:39Z) - An Analysis of State-of-the-art Activation Functions For Supervised Deep
Neural Network [11.363694566368153]
本稿では,ディープニューラルネットワークの教師付き分類に関して,最先端のアクティベーション機能の解析を行う。
これらアクティベーション機能を統合した2つのディープラーニングネットワークアーキテクチャの実験を行った。
論文 参考訳(メタデータ) (2021-04-05T16:50:31Z) - An Information-Theoretic Framework for Unifying Active Learning Problems [44.758281991246825]
本稿では,アクティブラーニング問題を統合するための情報理論的枠組みを提案する。
まず、既存のLSEアルゴリズムを推定する新しいアクティブ学習基準を紹介します。
LSEとBOの関係を利用して、BOのための競合情報理論獲得関数を設計する。
論文 参考訳(メタデータ) (2020-12-19T14:22:48Z) - High Dimensional Level Set Estimation with Bayesian Neural Network [58.684954492439424]
本稿では,ベイズニューラルネットワークを用いた高次元レベル集合推定問題を解く新しい手法を提案する。
各問題に対して対応する理論情報に基づく取得関数を導出してデータポイントをサンプリングする。
合成データセットと実世界データセットの数値実験により,提案手法は既存手法よりも優れた結果が得られることが示された。
論文 参考訳(メタデータ) (2020-12-17T23:21:53Z) - Extreme Memorization via Scale of Initialization [72.78162454173803]
我々は,初期化の規模を変えることが,SGDによって誘導される暗黙の正規化に強く影響を与える実験装置を構築する。
一般化能力に影響を及ぼす範囲と方法が、使用したアクティベーションと損失関数に依存することがわかった。
均質なReLU活性化の場合、この挙動は損失関数に起因することが示される。
論文 参考訳(メタデータ) (2020-08-31T04:53:11Z) - Estimating Structural Target Functions using Machine Learning and
Influence Functions [103.47897241856603]
統計モデルから特定可能な関数として生じる対象関数の統計的機械学習のための新しい枠組みを提案する。
このフレームワークは問題とモデルに依存しないものであり、応用統計学における幅広い対象パラメータを推定するのに使用できる。
我々は、部分的に観測されていない情報を持つランダム/二重ロバストな問題において、いわゆる粗大化に特に焦点をあてた。
論文 参考訳(メタデータ) (2020-08-14T16:48:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。