論文の概要: Inferring Change Points in High-Dimensional Regression via Approximate Message Passing
- arxiv url: http://arxiv.org/abs/2404.07864v2
- Date: Fri, 18 Oct 2024 15:23:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-21 14:22:56.647701
- Title: Inferring Change Points in High-Dimensional Regression via Approximate Message Passing
- Title(参考訳): 近似メッセージパッシングによる高次元回帰変化点の推定
- Authors: Gabriel Arpino, Xiaoqi Liu, Julia Gontarek, Ramji Venkataramanan,
- Abstract要約: 信号と変化点位置の両方を推定するための近似メッセージパッシング(AMP)アルゴリズムを提案する。
パラメータ数$p$がサンプル数$n$に比例する高次元極限において、その性能を厳格に特徴づける。
高次元極限における変化点上のベイズ後部分布を効率よく計算するために,我々のAMPイテレートをどのように利用できるかを示す。
- 参考スコア(独自算出の注目度): 9.660892239615366
- License:
- Abstract: We consider the problem of localizing change points in a generalized linear model (GLM), a model that covers many widely studied problems in statistical learning including linear, logistic, and rectified linear regression. We propose a novel and computationally efficient Approximate Message Passing (AMP) algorithm for estimating both the signals and the change point locations, and rigorously characterize its performance in the high-dimensional limit where the number of parameters $p$ is proportional to the number of samples $n$. This characterization is in terms of a state evolution recursion, which allows us to precisely compute performance measures such as the asymptotic Hausdorff error of our change point estimates, and allows us to tailor the algorithm to take advantage of any prior structural information on the signals and change points. Moreover, we show how our AMP iterates can be used to efficiently compute a Bayesian posterior distribution over the change point locations in the high-dimensional limit. We validate our theory via numerical experiments, and demonstrate the favorable performance of our estimators on both synthetic and real data in the settings of linear, logistic, and rectified linear regression.
- Abstract(参考訳): 一般化線形モデル(GLM)における変化点の局所化問題は,線形,ロジスティック,修正線形回帰を含む統計学習において広く研究されている問題の多くをカバーするモデルである。
本稿では,信号と変化点位置の両方を推定し,パラメータ数$p$がサンプル数$n$に比例する高次元限界において,その性能を厳密に評価する,新しい,計算効率の良い近似メッセージパッシング(AMP)アルゴリズムを提案する。
この特徴付けは、状態の進化的再帰という観点から、変化点推定の漸近的ハウスドルフ誤差などの性能測定を正確に計算し、信号や変化点に関する以前の構造情報を利用するようにアルゴリズムを調整することができる。
さらに,高次元限界における変化点位置上のベイズ分布を効率よく計算するために,我々のAMPイテレートをどのように利用できるかを示す。
数値実験により理論を検証し,線形回帰,ロジスティック回帰,修正線形回帰の設定において,合成データと実データの両方で推定器の良好な性能を示す。
関連論文リスト
- Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。
本稿では,直感的に設計を記述し,設計選択について説明する。
本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文 参考訳(メタデータ) (2023-10-31T16:15:13Z) - Refining Amortized Posterior Approximations using Gradient-Based Summary
Statistics [0.9176056742068814]
逆問題の文脈における後部分布の補正近似を改善するための反復的枠組みを提案する。
そこで我々は,本手法をスタイリング問題に適用して制御条件で検証し,改良された後部近似を各繰り返しで観察する。
論文 参考訳(メタデータ) (2023-05-15T15:47:19Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳(メタデータ) (2023-02-13T19:57:17Z) - Characterization of variational quantum algorithms using free fermions [0.0]
我々はこれらの対称性と対象状態の局所性の間の相互作用を数値的に研究する。
解に収束するイテレーションの数は、システムサイズと線形にスケールする。
論文 参考訳(メタデータ) (2022-06-13T18:11:16Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Multinomial Sampling for Hierarchical Change-Point Detection [0.0]
本稿では,検出率を向上し,遅延を低減する多項サンプリング手法を提案する。
実験の結果, 基準法よりも優れた結果が得られ, また, 人間の行動研究を指向した事例も提示した。
論文 参考訳(メタデータ) (2020-07-24T09:18:17Z) - Offline detection of change-points in the mean for stationary graph
signals [55.98760097296213]
グラフ信号定常性の概念に依存するオフライン手法を提案する。
我々の検出器は、漸近的でない不等式オラクルの証拠を伴っている。
論文 参考訳(メタデータ) (2020-06-18T15:51:38Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。