論文の概要: Probabilistic Iterative Methods for Linear Systems
- arxiv url: http://arxiv.org/abs/2012.12615v2
- Date: Mon, 11 Jan 2021 14:30:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-26 01:36:32.827100
- Title: Probabilistic Iterative Methods for Linear Systems
- Title(参考訳): 線形システムの確率的反復法
- Authors: Jon Cockayne and Ilse C.F. Ipsen and Chris J. Oates and Tim W. Reid
- Abstract要約: 我々は、 $mathbbRd$ 上の標準反復法が、確率分布の空間に作用するために、$mathcalP(mathbbRd)$ を解除することを示す。
この論文で提案される反復的手法の出力は、数学P(mathbbRd)$における確率分布の列$mu_mである。
- 参考スコア(独自算出の注目度): 5.457842083043013
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper presents a probabilistic perspective on iterative methods for
approximating the solution $\mathbf{x}_* \in \mathbb{R}^d$ of a nonsingular
linear system $\mathbf{A} \mathbf{x}_* = \mathbf{b}$. In the approach a
standard iterative method on $\mathbb{R}^d$ is lifted to act on the space of
probability distributions $\mathcal{P}(\mathbb{R}^d)$. Classically, an
iterative method produces a sequence $\mathbf{x}_m$ of approximations that
converge to $\mathbf{x}_*$. The output of the iterative methods proposed in
this paper is, instead, a sequence of probability distributions $\mu_m \in
\mathcal{P}(\mathbb{R}^d)$. The distributional output both provides a "best
guess" for $\mathbf{x}_*$, for example as the mean of $\mu_m$, and also
probabilistic uncertainty quantification for the value of $\mathbf{x}_*$ when
it has not been exactly determined. Theoretical analysis is provided in the
prototypical case of a stationary linear iterative method. In this setting we
characterise both the rate of contraction of $\mu_m$ to an atomic measure on
$\mathbf{x}_*$ and the nature of the uncertainty quantification being provided.
We conclude with an empirical illustration that highlights the insight into
solution uncertainty that can be provided by probabilistic iterative methods.
- Abstract(参考訳): 本稿では、非特異線型系 $\mathbf{A} \mathbf{x}_* = \mathbf{b}$ の解 $\mathbf{x}_* \in \mathbb{R}^d$ を近似する反復法に関する確率論的視点を示す。
このアプローチでは、$\mathbb{r}^d$ の標準的な反復法が持ち上げられ、確率分布 $\mathcal{p}(\mathbb{r}^d)$ の空間に作用する。
古典的には、反復法は$\mathbf{x}_m$ に収束する近似の列 $\mathbf{x}_m$ を生成する。
この論文で提案された反復的手法の出力は、代わりに確率分布の列 $\mu_m \in \mathcal{p}(\mathbb{r}^d)$ である。
分布出力はともに$\mathbf{x}_*$に対して「最良の推算」を提供し、例えば$\mu_m$の平均と、その値が正確に決定されていないときに$\mathbf{x}_*$の確率的不確実性定量化を提供する。
理論解析は定常線形反復法の原型として提供される。
この設定では、$\mu_m$ の縮小率と$\mathbf{x}_*$ の原子測度と不確かさの定量化の性質の両方を特徴付ける。
最後に,確率的反復的手法によって得られる解の不確実性に対する洞察を強調する経験的例を示す。
関連論文リスト
- Which exceptional low-dimensional projections of a Gaussian point cloud can be found in polynomial time? [8.74634652691576]
反復アルゴリズムのクラスで実現可能な分布のサブセット$mathscrF_m,alpha$について検討する。
統計物理学の非厳密な手法は、一般化されたパリの公式の言葉で$mathscrF_m,alpha$の間接的な特徴づけを与える。
論文 参考訳(メタデータ) (2024-06-05T05:54:56Z) - Provably learning a multi-head attention layer [55.2904547651831]
マルチヘッドアテンション層は、従来のフィードフォワードモデルとは分離したトランスフォーマーアーキテクチャの重要な構成要素の1つである。
本研究では,ランダムな例から多面的注意層を実証的に学習する研究を開始する。
最悪の場合、$m$に対する指数的依存は避けられないことを示す。
論文 参考訳(メタデータ) (2024-02-06T15:39:09Z) - Optimal Estimator for Linear Regression with Shuffled Labels [17.99906229036223]
本稿では,シャッフルラベルを用いた線形回帰の課題について考察する。
mathbb Rntimes m の $mathbf Y、mathbb Rntimes p の mathbf Pi、mathbb Rptimes m$ の mathbf B、mathbb Rntimes m$ の $mathbf Win mathbb Rntimes m$ である。
論文 参考訳(メタデータ) (2023-10-02T16:44:47Z) - Misspecified Phase Retrieval with Generative Priors [15.134280834597865]
単一のインデックスモデル $y の $m$ i.d.realization から$n$-dimensional signal $mathbfx$ を推定する。
どちらのステップも、適切な条件下では、$sqrt(klog L)cdot (log m)/m$の統計的レートを享受できることが示される。
論文 参考訳(メタデータ) (2022-10-11T16:04:11Z) - Learning a Single Neuron with Adversarial Label Noise via Gradient
Descent [50.659479930171585]
モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。
学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
論文 参考訳(メタデータ) (2022-06-17T17:55:43Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳(メタデータ) (2021-10-05T09:33:49Z) - Spectral properties of sample covariance matrices arising from random
matrices with independent non identically distributed columns [50.053491972003656]
関数 $texttr(AR(z))$, for $R(z) = (frac1nXXT- zI_p)-1$ and $Ain mathcal M_p$ deterministic, have a standard deviation of order $O(|A|_* / sqrt n)$.
ここでは、$|mathbb E[R(z)] - tilde R(z)|_F を示す。
論文 参考訳(メタデータ) (2021-09-06T14:21:43Z) - Universal Regular Conditional Distributions via Probability
Measure-Valued Deep Neural Models [3.8073142980733]
提案したフレームワークを用いて構築されたモデルはすべて、$C(mathcalX,mathcalP_1(mathcalY))$で密集している。
提案モデルはまた、ほとんどのランダム化された機械学習モデルに存在するアレラトリック不確かさを汎用的に表現できることも示している。
論文 参考訳(メタデータ) (2021-05-17T11:34:09Z) - Optimal Mean Estimation without a Variance [103.26777953032537]
本研究では,データ生成分布の分散が存在しない環境での重み付き平均推定問題について検討する。
最小の信頼区間を$n,d,delta$の関数として得る推定器を設計する。
論文 参考訳(メタデータ) (2020-11-24T22:39:21Z) - Near-Optimal SQ Lower Bounds for Agnostically Learning Halfspaces and
ReLUs under Gaussian Marginals [49.60752558064027]
ガウス境界の下では、半空間とReLUを不可知的に学習する基本的な問題について検討する。
我々の下限は、これらのタスクの現在の上限が本質的に最良のものであるという強い証拠を与える。
論文 参考訳(メタデータ) (2020-06-29T17:10:10Z) - Moving Target Monte Carlo [0.0]
我々は、移動目標モンテカルロ (MTMC) と呼ばれる新しい非マルコフサンプリングアルゴリズムを導入する。
後続分布$a_n(mathbfx)$の反復的に更新された近似を用いて、$n$-th繰り返しでの受け入れ率を構築する。
後続$p(mathbfx|mathbfd)$の真値は、候補$mathbfx$が受け入れられた場合にのみ計算される。
論文 参考訳(メタデータ) (2020-03-10T17:38:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。