論文の概要: Decision-Making with Auto-Encoding Variational Bayes

• arxiv url: http://arxiv.org/abs/2002.07217v3
• Date: Wed, 21 Oct 2020 18:01:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-31 11:40:07.280632
• Title: Decision-Making with Auto-Encoding Variational Bayes
• Title（参考訳）: 自動エンコーディング変動ベイズによる意思決定
• Authors: Romain Lopez, Pierre Boyeau, Nir Yosef, Michael I. Jordan and Jeffrey Regier
• Abstract要約: 変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
• 参考スコア（独自算出の注目度）: 71.44735417472043
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To make decisions based on a model fit with auto-encoding variational Bayes (AEVB), practitioners often let the variational distribution serve as a surrogate for the posterior distribution. This approach yields biased estimates of the expected risk, and therefore leads to poor decisions for two reasons. First, the model fit with AEVB may not equal the underlying data distribution. Second, the variational distribution may not equal the posterior distribution under the fitted model. We explore how fitting the variational distribution based on several objective functions other than the ELBO, while continuing to fit the generative model based on the ELBO, affects the quality of downstream decisions. For the probabilistic principal component analysis model, we investigate how importance sampling error, as well as the bias of the model parameter estimates, varies across several approximate posteriors when used as proposal distributions. Our theoretical results suggest that a posterior approximation distinct from the variational distribution should be used for making decisions. Motivated by these theoretical results, we propose learning several approximate proposals for the best model and combining them using multiple importance sampling for decision-making. In addition to toy examples, we present a full-fledged case study of single-cell RNA sequencing. In this challenging instance of multiple hypothesis testing, our proposed approach surpasses the current state of the art.
• Abstract（参考訳）: モデルに基づく決定を自動エンコーディング変分ベイズ(aevb)に適合させるため、実践者は変分分布を後方分布のサロゲートとして機能させることが多い。 このアプローチは、予測されるリスクのバイアスのある見積もりをもたらし、したがって2つの理由による決定が不十分になる。 まず、AEVBに適合するモデルは、基礎となるデータ分布と等しくないかもしれない。 第二に、変動分布は適合モデルの下での後方分布と等しくない。 ELBO以外の複数の目的関数に基づいて変動分布を適合させながら、ELBOに基づく生成モデルに適合させながら、下流決定の質にどのように影響するかを考察する。 確率的主成分分析モデルでは,サンプリング誤差とモデルパラメータの推定値の偏りが,提案分布として使用する場合の近似後部によってどのように変化するかを検討する。 理論的には, 変分分布とは異なる後方近似を用いて意思決定を行うことが示唆された。 これらの理論結果に動機づけられ,最良モデルに対するいくつかの近似提案を学習し,複数の重要度サンプリングを用いた意思決定を組み合わせることを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。 多重仮説テストのこの挑戦的な例では、提案手法は現在の最先端技術を超えている。

関連論文リスト

• Influence Functions for Scalable Data Attribution in Diffusion Models [52.92223039302037]
  拡散モデルは、生成的モデリングに大きな進歩をもたらした。 しかし、彼らの普及はデータ属性と解釈可能性に関する課題を引き起こす。 本稿では,テキスト・インフルエンス・ファンクション・フレームワークを開発することにより,このような課題に対処することを目的とする。
  論文  参考訳（メタデータ） (2024-10-17T17:59:02Z)
• Generative vs. Discriminative modeling under the lens of uncertainty quantification [0.929965561686354]
  本稿では,生成的アプローチと識別的アプローチの比較分析を行った。 両手法が,不確実性を考慮した推論において,様々な情報源からの情報を活用する能力を比較する。 本稿では,両手法の教師あり学習と,検討されたモデリング手法と互換性のあるセミ教師あり学習を実現するための一般的なサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2024-06-13T14:32:43Z)
• Reconciling Model Multiplicity for Downstream Decision Making [24.335927243672952]
  2つの予測モデルがほぼ至るところでそれぞれの予測にほぼ一致しているとしても、最も応答性の高い行動が人口のかなりの部分で相違していることが示される。 本稿では,下流決定問題と個別確率予測の両方に関して,予測モデルを校正する枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-30T03:36:46Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Bayesian Model Selection via Mean-Field Variational Approximation [10.433170683584994]
  平均場(MF)推論の非漸近特性をベイズ的枠組みの下で検討する。 BvM(Bernstein von-Mises)定理は、MF からの変分分布をモデル的不特定性(英語版)の下で表す。
  論文  参考訳（メタデータ） (2023-12-17T04:48:25Z)
• Diffusion models for probabilistic programming [56.47577824219207]
  拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
  論文  参考訳（メタデータ） (2023-11-01T12:17:05Z)
• Bayesian Hierarchical Models for Counterfactual Estimation [12.159830463756341]
  本稿では,多種多様なカウンターファクトの集合を推定する確率的パラダイムを提案する。 摂動を事前分布関数によるランダム変数として扱う。 収束特性の優れた勾配ベースサンプリング器は、後方サンプルを効率的に計算する。
  論文  参考訳（メタデータ） (2023-01-21T00:21:11Z)
• Bayesian Additive Main Effects and Multiplicative Interaction Models using Tensor Regression for Multi-environmental Trials [0.0]
  本稿では,複数の因子が表現型予測に与える影響を考慮したベイズテンソル回帰モデルを提案する。 我々は、モデルのパラメータ間で生じる可能性のある識別可能性の問題を解決するための、事前分布のセットを採用する。 我々は2010年から2019年までのアイルランドにおける小麦生産に関する実世界のデータを分析して、我々のモデルの適用性を探る。
  論文  参考訳（メタデータ） (2023-01-09T19:54:50Z)
• Loss function based second-order Jensen inequality and its application to particle variational inference [112.58907653042317]
  粒子変分推論(PVI)は、後部分布の実験的近似としてモデルのアンサンブルを用いる。 PVIは、最適化されたモデルの多様性を保証するために、各モデルを反発力で反復的に更新する。 我々は,新たな一般化誤差を導出し,モデルの多様性を高めて低減できることを示す。
  論文  参考訳（メタデータ） (2021-06-09T12:13:51Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。