論文の概要: An Extendable Python Implementation of Robust Optimisation Monte Carlo
- arxiv url: http://arxiv.org/abs/2309.10612v1
- Date: Tue, 19 Sep 2023 13:37:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-20 14:26:18.644430
- Title: An Extendable Python Implementation of Robust Optimisation Monte Carlo
- Title(参考訳): 拡張可能なロバスト最適化モンテカルロのpython実装
- Authors: Vasilis Gkolemis, Michael Gutmann, Henri Pesonen
- Abstract要約: 本稿では,PythonパッケージELFIにおけるロバスト最適化モンテカルロ(ROMC)の実装について述べる。
ROMCは、後方から正確な重み付けされたサンプルを提供する、新しくて効率的な(高い並列化が可能な)LFIフレームワークである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Performing inference in statistical models with an intractable likelihood is
challenging, therefore, most likelihood-free inference (LFI) methods encounter
accuracy and efficiency limitations. In this paper, we present the
implementation of the LFI method Robust Optimisation Monte Carlo (ROMC) in the
Python package ELFI. ROMC is a novel and efficient (highly-parallelizable) LFI
framework that provides accurate weighted samples from the posterior. Our
implementation can be used in two ways. First, a scientist may use it as an
out-of-the-box LFI algorithm; we provide an easy-to-use API harmonized with the
principles of ELFI, enabling effortless comparisons with the rest of the
methods included in the package. Additionally, we have carefully split ROMC
into isolated components for supporting extensibility. A researcher may
experiment with novel method(s) for solving part(s) of ROMC without
reimplementing everything from scratch. In both scenarios, the ROMC parts can
run in a fully-parallelized manner, exploiting all CPU cores. We also provide
helpful functionalities for (i) inspecting the inference process and (ii)
evaluating the obtained samples. Finally, we test the robustness of our
implementation on some typical LFI examples.
- Abstract(参考訳): 統計モデルにおいて難解な確率で推論を行うことは難しいため、ほとんどの確率自由推論 (lfi) 法は精度と効率の限界に遭遇する。
本稿では,pythonパッケージelfiにおけるlfi法ロバスト最適化モンテカルロ(romc)の実装について述べる。
ROMCは、後方から正確な重み付けされたサンプルを提供する、新しく(非常に並列化可能な)LFIフレームワークである。
私たちの実装は2つの方法で利用できます。
ELFIの原理と調和した使い易いAPIを提供しており、パッケージに含まれる他のメソッドとの比較をむずかしく行うことができる。
さらに,ROMCを拡張性をサポートするために分離したコンポーネントに慎重に分割した。
研究者は、スクラッチからすべてを再実装することなく、ROMCの部分(s)を解決する新しい方法を試すことができる。
どちらのシナリオでも、ROMC部分は完全に並列化され、すべてのCPUコアを利用することができる。
役立つ機能も提供しています
(i)推論過程を検査すること
(ii) 得られた試料の評価。
最後に、いくつかの典型的なLFIの例で実装の堅牢性をテストする。
関連論文リスト
- Scaling LLM Inference with Optimized Sample Compute Allocation [56.524278187351925]
我々は、異なる推論構成の最適な混合を見つけるアルゴリズムであるOSCAを提案する。
実験の結果,学習した混合アロケーションでは,最高の単一構成よりも精度がよいことがわかった。
OSCAはシングルターンタスク以外のエージェント処理にも有効であることが示されており、デフォルト設定よりも3倍少ない計算でSWE-Benchの精度が向上している。
論文 参考訳(メタデータ) (2024-10-29T19:17:55Z) - Probabilistic Inference in Language Models via Twisted Sequential Monte Carlo [7.182174507225034]
我々は、確率的推論問題にSequential Monte Carlo (SMC) のリッチツールキットを利用する。
学習されたツイスト関数を用いて、各時点におけるポテンシャルの将来的価値を推定する。
本稿では,言語モデル推論手法の精度を評価する手法を提案する。
論文 参考訳(メタデータ) (2024-04-26T17:18:32Z) - ParaICL: Towards Robust Parallel In-Context Learning [74.38022919598443]
大規模言語モデル(LLM)が自然言語処理の標準となっている。
インコンテキスト・ラーニング(ICL)は、いくつかの実演例の選択に依存している。
パラレルインコンテキスト学習(ParaICL)という新しい手法を提案する。
論文 参考訳(メタデータ) (2024-03-31T05:56:15Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo
sampling [58.14878401145309]
PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。
Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
論文 参考訳(メタデータ) (2022-05-12T11:15:47Z) - Efficient algorithms for implementing incremental proximal-point methods [0.3263412255491401]
機械学習において、モデルトレーニングアルゴリズムは、各計算ステップにおけるトレーニングセットのごく一部を観察する。
いくつかの研究ストリームは、よく知られた近位作用素による勾配よりもコスト関数に関するより多くの情報を活用する試みである。
近似演算子のアルゴリズム効率とソフトウェアモジュール性の両方を達成するために凸双対性理論を利用する新しいアルゴリズムフレームワークを考案する。
論文 参考訳(メタデータ) (2022-05-03T12:43:26Z) - Large-scale Optimization of Partial AUC in a Range of False Positive
Rates [51.12047280149546]
ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。
近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。
提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
論文 参考訳(メタデータ) (2022-03-03T03:46:18Z) - Likelihood-Free Frequentist Inference: Bridging Classical Statistics and Machine Learning for Reliable Simulator-Based Inference [4.525512100042707]
古典統計学と現代の機械学習を橋渡しするモジュラー推論フレームワークを提案する。
我々は、このフレームワークを、可能性のない頻繁性推論(LF2I)と呼ぶ。
論文 参考訳(メタデータ) (2021-07-08T15:52:18Z) - Efficient Data-specific Model Search for Collaborative Filtering [56.60519991956558]
協調フィルタリング(CF)はレコメンダシステムの基本的なアプローチである。
本稿では,機械学習(AutoML)の最近の進歩を動機として,データ固有のCFモデルを設計することを提案する。
ここでキーとなるのは、最先端(SOTA)のCFメソッドを統一し、それらを入力エンコーディング、埋め込み関数、インタラクション、予測関数の非結合ステージに分割する新しいフレームワークである。
論文 参考訳(メタデータ) (2021-06-14T14:30:32Z) - Extending the statistical software package Engine for Likelihood-Free
Inference [0.0]
この論文は、ソフトウェアパッケージ Engine for Likelihood-Free Inference (ELFI) におけるRobust optimisation Monte Carlo (ROMC) メソッドの実装に焦点を当てている。
我々の実装は、シミュレーターベースのモデルで推論を実行したい実践者に対して、堅牢で効率的なソリューションを提供します。
論文 参考訳(メタデータ) (2020-11-08T13:22:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。