論文の概要: Slice Sampling for General Completely Random Measures

• arxiv url: http://arxiv.org/abs/2006.13925v2
• Date: Thu, 25 Jun 2020 07:30:01 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-17 10:09:23.824621
• Title: Slice Sampling for General Completely Random Measures
• Title（参考訳）: 全般的ランダム対策のためのスライスサンプリング
• Authors: Peiyuan Zhu, Alexandre Bouchard-C\^ot\'e, and Trevor Campbell
• Abstract要約: 本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。 提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
• 参考スコア（独自算出の注目度）: 74.24975039689893
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Completely random measures provide a principled approach to creating flexible unsupervised models, where the number of latent features is infinite and the number of features that influence the data grows with the size of the data set. Due to the infinity the latent features, posterior inference requires either marginalization---resulting in dependence structures that prevent efficient computation via parallelization and conjugacy---or finite truncation, which arbitrarily limits the flexibility of the model. In this paper we present a novel Markov chain Monte Carlo algorithm for posterior inference that adaptively sets the truncation level using auxiliary slice variables, enabling efficient, parallelized computation without sacrificing flexibility. In contrast to past work that achieved this on a model-by-model basis, we provide a general recipe that is applicable to the broad class of completely random measure-based priors. The efficacy of the proposed algorithm is evaluated on several popular nonparametric models, demonstrating a higher effective sample size per second compared to algorithms using marginalization as well as a higher predictive performance compared to models employing fixed truncations.
• Abstract（参考訳）: 完全なランダム測度は、潜在機能の数は無限であり、データのサイズによってデータに影響を与える機能の数は増加する、柔軟な教師なしモデルを作成するための原則的なアプローチを提供する。 遅れた特徴の無限大のため、後部推論は、-パラレル化と共役性による効率的な計算を防ぐための依存構造の辺縁化--またはモデルの柔軟性を任意に制限する有限トランケーション-のいずれかを必要とする。 本稿では, マルコフ連鎖モンテカルロアルゴリズムを用いて, 補助スライス変数を用いてトラクションレベルを適応的に設定し, 柔軟性を犠牲にすることなく, 効率的な並列化計算を可能にする。 モデル・バイ・モデルでこれを達成した過去の研究とは対照的に、完全にランダムな測度に基づく事前の幅広いクラスに適用可能な一般的なレシピを提供する。 提案アルゴリズムの有効性を複数の非パラメトリックモデルで評価し, 限界化を用いたアルゴリズムと比較して1秒あたりの有効サンプルサイズ, 固定トランケーションを用いたモデルと比較して高い予測性能を示した。

関連論文リスト

• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。 本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Online Variational Sequential Monte Carlo [49.97673761305336]
  我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。 オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
  論文  参考訳（メタデータ） (2023-12-19T21:45:38Z)
• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• Approximate Message Passing for the Matrix Tensor Product Model [8.206394018475708]
  本稿では,行列テンソル積モデルに対する近似メッセージパッシング(AMP)アルゴリズムの提案と解析を行う。 非可分関数に対する収束定理に基づいて、非可分関数に対する状態発展を証明する。 我々は、この状態進化結果を利用して、関心の信号の回復に必要な十分な条件を提供する。
  論文  参考訳（メタデータ） (2023-06-27T16:03:56Z)
• A model-free feature selection technique of feature screening and random forest based recursive feature elimination [0.0]
  質量特徴を持つ超高次元データのモデルフリー特徴選択法を提案する。 提案手法は選択整合性を示し, 弱正則条件下では$L$整合性を示す。
  論文  参考訳（メタデータ） (2023-02-15T03:39:16Z)
• Spike-and-Slab Generalized Additive Models and Scalable Algorithms for High-Dimensional Data [0.0]
  本稿では,高次元データに対応するため,階層型一般化加法モデル(GAM)を提案する。 曲線の適切な縮退と滑らか化関数線型空間と非線形空間の分離に対する平滑化ペナルティを考察する。 2つの決定論的アルゴリズム、EM-Coordinate Descent と EM-Iterative Weighted Least Squares は異なるユーティリティ向けに開発された。
  論文  参考訳（メタデータ） (2021-10-27T14:11:13Z)
• Group selection and shrinkage: Structured sparsity for semiparametric additive models [0.0]
  群構造を尊重するスパース回帰と分類推定器は、統計学と機械学習の問題に応用できる。 非パラメトリックな面に適合するフレームワークを開発し、有限誤差モデルを示す。 多くの予測器を用いた足および経済予測器のモデル化における有効性を示す。
  論文  参考訳（メタデータ） (2021-05-25T17:00:25Z)
• Efficient Ensemble Model Generation for Uncertainty Estimation with Bayesian Approximation in Segmentation [74.06904875527556]
  アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。 提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。 また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
  論文  参考訳（メタデータ） (2020-05-21T16:08:38Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)
• Scaling Bayesian inference of mixed multinomial logit models to very large datasets [9.442139459221785]
  本稿では,バックプロパゲーション,自動微分,GPU加速計算を活用するアモルティファイド変分推論手法を提案する。 本研究では, 後部近似の柔軟性を高めるために, フローの正規化がいかに有効かを示す。
  論文  参考訳（メタデータ） (2020-04-11T15:30:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。