論文の概要: Locking and Quacking: Stacking Bayesian model predictions by log-pooling and superposition

• arxiv url: http://arxiv.org/abs/2305.07334v1
• Date: Fri, 12 May 2023 09:26:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-15 13:38:26.461439
• Title: Locking and Quacking: Stacking Bayesian model predictions by log-pooling and superposition
• Title（参考訳）: ロックとクイック:ログプールと重ね合わせによるベイズモデルの積み重ね予測
• Authors: Yuling Yao, Luiz Max Carvalho, Diego Mesquita, Yann McLatchie
• Abstract要約: 異なるモデルから予測を合成するための2つの新しいツールを提案する。 これらはモデル積み重ねの一般化であるが、対数線形プールと量子重ね合わせによって後続密度を結合する。 モデル重みを正規化の負担を回避しつつ最適化するため, 混合後予測のハイバリネンスコアについて検討した。
• 参考スコア（独自算出の注目度）: 0.5735035463793007
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Combining predictions from different models is a central problem in Bayesian inference and machine learning more broadly. Currently, these predictive distributions are almost exclusively combined using linear mixtures such as Bayesian model averaging, Bayesian stacking, and mixture of experts. Such linear mixtures impose idiosyncrasies that might be undesirable for some applications, such as multi-modality. While there exist alternative strategies (e.g. geometric bridge or superposition), optimising their parameters usually involves computing an intractable normalising constant repeatedly. We present two novel Bayesian model combination tools. These are generalisations of model stacking, but combine posterior densities by log-linear pooling (locking) and quantum superposition (quacking). To optimise model weights while avoiding the burden of normalising constants, we investigate the Hyvarinen score of the combined posterior predictions. We demonstrate locking with an illustrative example and discuss its practical application with importance sampling.
• Abstract（参考訳）: 異なるモデルからの予測を組み合わせることは、ベイズ推論と機械学習においてより広範な問題である。 現在、これらの予測分布は、ほとんどがベイズモデル平均化、ベイズ積み重ね、専門家の混合のような線形混合体を用いている。 このような線形混合は、多重モダリティのようないくつかのアプリケーションでは望ましくない慣用的条件を課す。 代替戦略(幾何学的ブリッジや重ね合わせなど)はあるが、パラメータの最適化は通常、難解な正規化定数の計算を繰り返す。 我々は2つの新しいベイズモデル組み合わせツールを提案する。 これらはモデル積み重ねの一般化であるが、対数線形プール(ロック)と量子重ね合わせ(クェック)によって後続密度を結合する。 正規化定数の負担を回避しつつ,モデルの重み付けを最適化するために,複合後続予測のヒヴァリネンスコアを調査した。 実例でロックを実演し,その実践的応用を重要サンプリングで論じる。

関連論文リスト

• von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
  円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。 後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Predictive Modeling in the Reservoir Kernel Motif Space [0.9217021281095907]
  本研究では,線形貯水池のカーネルビューに基づく時系列予測手法を提案する。 我々は、我々のアプローチがコア貯水池モデルとどのように関係しているかについての光を遮蔽するアプローチの幾何学的解釈を提供する。 実験では,提案モデルの予測性能と最近の最先端変圧器モデルとの比較を行った。
  論文  参考訳（メタデータ） (2024-05-11T16:12:25Z)
• BayesBlend: Easy Model Blending using Pseudo-Bayesian Model Averaging, Stacking and Hierarchical Stacking in Python [0.0]
  重みを推定し、複数の(ベイジアン)モデルの予測分布をブレンドするために、BayesBlend Pythonパッケージを導入する。 ベイズブレンドは、モデルウェイトを推定するために擬ベイズモデルの平均化、積み重ね、一意的に階層的ベイズ積み重ねを実装している。 ベイズブレンドの保険損失モデリングの例を例に紹介する。
  論文  参考訳（メタデータ） (2024-04-30T19:15:33Z)
• Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
  科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。 これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
  論文  参考訳（メタデータ） (2024-03-03T04:21:21Z)
• Predictive Churn with the Set of Good Models [64.05949860750235]
  近似機械学習モデルの集合に対する競合予測の効果について検討する。 ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。 当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
  論文  参考訳（メタデータ） (2024-02-12T16:15:25Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• Bayesian Regression Approach for Building and Stacking Predictive Models in Time Series Analytics [0.0]
  本稿では,時系列モデルの構築と時系列の予測モデルへのベイズ回帰の利用について述べる。 これにより、時系列予測の不確実性を推定し、リスク特性の値を計算することができる。
  論文  参考訳（メタデータ） (2022-01-06T12:58:23Z)
• Mixtures of Gaussian Processes for regression under multiple prior distributions [0.0]
  ガウス過程回帰のための混合モデルの概念を拡張し、複数の先行する信念を同時に扱う。 本手法は,関数回帰問題における先行的誤特定の問題を考慮に入れたものである。
  論文  参考訳（メタデータ） (2021-04-19T10:19:14Z)
• Bayesian hierarchical stacking [10.371079239965836]
  モデル予測性能が入力に不均一である場合,スタック化が最も有効であることを示す。 入力変動が部分的にプールされたモデル重み付けにより、階層的積み重ねは平均および条件付き予測を改善する。
  論文  参考訳（メタデータ） (2021-01-22T05:19:49Z)
• Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
  ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。 また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
  論文  参考訳（メタデータ） (2020-02-20T15:13:27Z)
• Distributed Sketching Methods for Privacy Preserving Regression [54.51566432934556]
  ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。 従来のスケッチ手法に対する新しい近似保証を導出し、分散スケッチにおけるパラメータ平均化の精度を解析する。 大規模実験によるサーバレスコンピューティングプラットフォームにおける分散スケッチのパフォーマンスについて説明する。
  論文  参考訳（メタデータ） (2020-02-16T08:35:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。