論文の概要: LITE: Efficiently Estimating Gaussian Probability of Maximality

• arxiv url: http://arxiv.org/abs/2501.13535v1
• Date: Thu, 23 Jan 2025 10:32:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-24 15:58:51.608938
• Title: LITE: Efficiently Estimating Gaussian Probability of Maximality
• Title（参考訳）: LITE: 最大性のガウス確率を効率的に推定する
• Authors: Nicolas Menet, Jonas Hübotter, Parnian Kassraie, Andreas Krause,
• Abstract要約: ガウス確率ベクトルの極大性(PoM)の確率、すなわち各次元が極大となる確率を計算する問題を考える。 既存のテクニックは、ベクトルサイズで複雑さとメモリのスケーリングに費用がかかる。 ほぼ線形時間とメモリでガウスPoMを推定するための最初のアプローチであるLITEを紹介する。
• 参考スコア（独自算出の注目度）: 38.38128700457187
• License:
• Abstract: We consider the problem of computing the probability of maximality (PoM) of a Gaussian random vector, i.e., the probability for each dimension to be maximal. This is a key challenge in applications ranging from Bayesian optimization to reinforcement learning, where the PoM not only helps with finding an optimal action, but yields a fine-grained analysis of the action domain, crucial in tasks such as drug discovery. Existing techniques are costly, scaling polynomially in computation and memory with the vector size. We introduce LITE, the first approach for estimating Gaussian PoM with almost-linear time and memory complexity. LITE achieves SOTA accuracy on a number of tasks, while being in practice several orders of magnitude faster than the baselines. This also translates to a better performance on downstream tasks such as entropy estimation and optimal control of bandits. Theoretically, we cast LITE as entropy-regularized UCB and connect it to prior PoM estimators.
• Abstract（参考訳）: ガウス確率ベクトルの極大性(PoM)の確率、すなわち各次元が極大となる確率を計算する問題を考える。 これはベイズ最適化から強化学習までのアプリケーションにおいて重要な課題であり、PoMは最適なアクションを見つけるのに役立つだけでなく、薬物発見のようなタスクにおいて重要なアクションドメインのきめ細かい分析をもたらす。 既存の手法はコストがかかり、計算とメモリをベクトルサイズで多項式的にスケーリングする。 ほぼ線形時間とメモリの複雑さでガウスPoMを推定するための最初のアプローチであるLITEを紹介する。 LITEは複数のタスクでSOTAの精度を達成し、実際はベースラインよりも数桁高速である。 これはまた、エントロピー推定や帯域幅の最適制御といった下流タスクのパフォーマンスも向上する。 理論的には、LITEをエントロピー規則化 UCB とし、それ以前のPoM推定器に接続する。

関連論文リスト

• Training normalizing flows with computationally intensive target probability distributions [0.018416014644193065]
  本稿では,REINFORCEアルゴリズムに基づく流れの正規化のための推定器を提案する。 ウォールタイムでは最大10倍高速で、最大30%のメモリを必要とする。
  論文  参考訳（メタデータ） (2023-08-25T10:40:46Z)
• Gaussian Max-Value Entropy Search for Multi-Agent Bayesian Optimization [4.8244546750150965]
  本稿では,複数のエージェントが反復クエリによってブラックボックス関数を最大化するマルチエージェントベイズ最適化(BO)問題について検討する。 エントロピー探索(ES)の主な課題の1つは、相互情報の計算には計算コストのかかる近似技術が必要であることである。 本稿では,ガウス最大値エントロピー探索法を提案する。
  論文  参考訳（メタデータ） (2023-03-10T04:14:30Z)
• Efficient and Accurate Learning of Mixtures of Plackett-Luce Models [5.216020588360421]
  Plackett-Luce (PL) の混合モデルは理論的および実用的両方の研究領域である。 証明可能な精度で初期推定を行うアルゴリズムと、真のログ類似関数を効率的に最大化するEMアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-10T16:00:40Z)
• Estimating a potential without the agony of the partition function [5.994412766684842]
  サンプルが与えられたギブス密度関数を推定することは、計算統計学と統計学において重要な問題である。 最大A-Posteriori (MAP) 推定器に基づく代替手法を提案する。
  論文  参考訳（メタデータ） (2022-08-19T16:27:02Z)
• Beyond EM Algorithm on Over-specified Two-Component Location-Scale Gaussian Mixtures [29.26015093627193]
  負の対数様関数の曲率を効率的に探索するために,指数位置更新法(ELU)アルゴリズムを開発した。 ELUアルゴリズムは、対数的な反復数の後、モデルの最終的な統計的半径に収束することを示した。
  論文  参考訳（メタデータ） (2022-05-23T06:49:55Z)
• Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
  空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。 これらの問題に対する新規で簡単な最適化法を開発した。 結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-09-23T17:38:24Z)
• Efficient semidefinite-programming-based inference for binary and multi-class MRFs [83.09715052229782]
  分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。 一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
  論文  参考訳（メタデータ） (2020-12-04T15:36:29Z)
• Amortized Conditional Normalized Maximum Likelihood: Reliable Out of Distribution Uncertainty Estimation [99.92568326314667]
  本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。 提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。 我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
  論文  参考訳（メタデータ） (2020-11-05T08:04:34Z)
• Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
  本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。 最先端アルゴリズムの利点を論じ、解説する。
  論文  参考訳（メタデータ） (2020-09-28T15:22:24Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。