論文の概要: A Flexible Empirical Bayes Approach to Generalized Linear Models, with Applications to Sparse Logistic Regression

• arxiv url: http://arxiv.org/abs/2601.21217v1
• Date: Thu, 29 Jan 2026 03:31:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-30 16:22:49.546269
• Title: A Flexible Empirical Bayes Approach to Generalized Linear Models, with Applications to Sparse Logistic Regression
• Title（参考訳）: 一般線形モデルに対するフレキシブルな経験的ベイズアプローチと疎ロジスティック回帰への応用
• Authors: Dongyue Xie, Wanrong Zhu, Matthew Stephens,
• Abstract要約: 一般化線形モデルに適合するフレキシブルな経験的ベイズ手法を導入する。 我々は、新しい平均場変動推定法(VI)を採用し、その前者はVIアルゴリズム内で推定される。 本手法の優れた予測性能を広範囲にわたる数値研究で実証する。
• 参考スコア（独自算出の注目度）: 10.465834436420627
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We introduce a flexible empirical Bayes approach for fitting Bayesian generalized linear models. Specifically, we adopt a novel mean-field variational inference (VI) method and the prior is estimated within the VI algorithm, making the method tuning-free. Unlike traditional VI methods that optimize the posterior density function, our approach directly optimizes the posterior mean and prior parameters. This formulation reduces the number of parameters to optimize and enables the use of scalable algorithms such as L-BFGS and stochastic gradient descent. Furthermore, our method automatically determines the optimal posterior based on the prior and likelihood, distinguishing it from existing VI methods that often assume a Gaussian variational. Our approach represents a unified framework applicable to a wide range of exponential family distributions, removing the need to develop unique VI methods for each combination of likelihood and prior distributions. We apply the framework to solve sparse logistic regression and demonstrate the superior predictive performance of our method in extensive numerical studies, by comparing it to prevalent sparse logistic regression approaches.
• Abstract（参考訳）: ベイズ一般化線型モデルに適合するフレキシブルな経験的ベイズアプローチを導入する。 具体的には、新しい平均場変動推定法(VI)を採用し、前者はVIアルゴリズムで推定されるので、チューニングは不要である。 後部密度関数を最適化する従来のVI法とは異なり,本手法は後部平均および先行パラメータを直接最適化する。 この定式化は、最適化するパラメータの数を削減し、L-BFGSや確率勾配勾配のようなスケーラブルなアルゴリズムの使用を可能にする。 さらに,提案手法は,ガウス変分を仮定する既存のVI法と区別し,事前および可能性に基づいて最適な後部を自動決定する。 提案手法は,広範囲の指数関数的家族分布に適用可能な統一的なフレームワークであり,確率分布と先行分布の組み合わせごとに独自のVI法を開発する必要がなくなる。 本研究では, 疎対数回帰法と比較することにより, 疎対数回帰を解き, 提案手法の優れた予測性能を示す。

関連論文リスト

• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• Variational Autoencoders for Efficient Simulation-Based Inference [2.0034235495967736]
  本稿では、確率自由なシミュレーションに基づく推論のための変分推論フレームワークに基づく生成的モデリング手法を提案する。 本稿では, 計算効率を高い精度で維持しつつ, 複雑な後続を近似する手法を提案する。
  論文  参考訳（メタデータ） (2024-11-21T12:24:13Z)
• Conditional Mean and Variance Estimation via \textit{k}-NN Algorithm with Automated Variance Selection [9.943131787772323]
  条件平均と分散度を共同で推定するための新しいテクストリック・アレスト・ニアレスト回帰法(textitk-NN)を提案する。 提案アルゴリズムは,古典的非パラメトリックテクトitk-NNモデルの計算効率と多様体学習能力を保持する。
  論文  参考訳（メタデータ） (2024-02-02T18:54:18Z)
• VI-DGP: A variational inference method with deep generative prior for solving high-dimensional inverse problems [0.7734726150561089]
  本研究では,高次元後方分布を推定するための新しい近似法を提案する。 このアプローチは、深層生成モデルを利用して、空間的に変化するパラメータを生成することができる事前モデルを学ぶ。 提案手法は自動微分方式で完全に実装できる。
  論文  参考訳（メタデータ） (2023-02-22T06:48:10Z)
• Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
  複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。 本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。 MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
  論文  参考訳（メタデータ） (2022-10-26T10:12:31Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Adaptive Sampling of Pareto Frontiers with Binary Constraints Using Regression and Classification [0.0]
  本稿では,二項制約を持つブラックボックス多目的最適化問題に対する適応最適化アルゴリズムを提案する。 本手法は確率的回帰モデルと分類モデルに基づいており,最適化目標のサロゲートとして機能する。 また,予想される超体積計算を高速化するために,新しい楕円形トランケーション法を提案する。
  論文  参考訳（メタデータ） (2020-08-27T09:15:02Z)
• Sparse Gaussian Processes Revisited: Bayesian Approaches to Inducing-Variable Approximations [27.43948386608]
  変数の誘導に基づく変分推論手法はガウス過程(GP)モデルにおけるスケーラブルな推定のためのエレガントなフレームワークを提供する。 この研究において、変分フレームワークにおけるインプットの最大化は最適な性能をもたらすという共通の知恵に挑戦する。
  論文  参考訳（メタデータ） (2020-03-06T08:53:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。