論文の概要: Fundamental Linear Algebra Problem of Gaussian Inference
- arxiv url: http://arxiv.org/abs/2010.08022v1
- Date: Thu, 15 Oct 2020 21:09:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 05:37:29.645772
- Title: Fundamental Linear Algebra Problem of Gaussian Inference
- Title（参考訳）: ガウス推論の基本線形代数問題
- Authors: Timothy D Barfoot
- Abstract要約: ガウス推論の基本線形代数問題(FLAPOGI)を述べる。
我々はグローバルなソリューションを提供し、エージェント間で並列に計算されるローカルメッセージパッシングを使って実装できるローカルバージョンを提供する。
信念の伝播とは対照的に、我々の局所的なスキームは平均と所望の共分散量の両方に収束することが保証されている。
- 参考スコア（独自算出の注目度）: 14.670851095242451
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Underlying many Bayesian inference techniques that seek to approximate the
posterior as a Gaussian distribution is a fundamental linear algebra problem
that must be solved for both the mean and key entries of the covariance. Even
when the true posterior is not Gaussian (e.g., in the case of nonlinear
measurement functions) we can use variational schemes that repeatedly solve
this linear algebra problem at each iteration. In most cases, the question is
not whether a solution to this problem exists, but rather how we can exploit
problem-specific structure to find it efficiently. Our contribution is to
clearly state the Fundamental Linear Algebra Problem of Gaussian Inference
(FLAPOGI) and to provide a novel presentation (using Kronecker algebra) of the
not-so-well-known result of Takahashi et al. (1973) that makes it possible to
solve for key entries of the covariance matrix. We first provide a global
solution and then a local version that can be implemented using local message
passing amongst a collection of agents calculating in parallel. Contrary to
belief propagation, our local scheme is guaranteed to converge in both the mean
and desired covariance quantities to the global solution even when the
underlying factor graph is loopy; in the case of synchronous updates, we
provide a bound on the number of iterations required for convergence. Compared
to belief propagation, this guaranteed convergence comes at the cost of
additional storage, calculations, and communication links in the case of loops;
however, we show how these can be automatically constructed on the fly using
only local information.
- Abstract（参考訳）: ガウス分布として後部を近似しようとする多くのベイズ推論技法は、共分散の平均成分と鍵成分の両方に対して解かなければならない基本線型代数問題である。
真の後方がガウス的でない場合でも(例えば非線形測度関数の場合)、各反復でこの線型代数問題を繰り返し解く変分スキームを使うことができる。
ほとんどの場合、この問題に対する解決策が存在するかどうかではなく、問題固有の構造を効果的に活用する方法である。
我々の貢献は、ガウス推論の基本線形代数問題(FLAPOGI)を明確に記述し、高橋ら(1973)のよく知られていない結果に対する新しいプレゼンテーション(クローネッカー代数を用いた)を提供することであり、共分散行列のキーエントリを解くことができる。
まずグローバルなソリューションを提供し、次に並列に計算するエージェントの集合の中でローカルメッセージパッシングを使って実装できるローカルバージョンを提供する。
信念の伝播とは対照的に、我々の局所的なスキームは、基礎となる因子グラフがループである場合でも平均と所望の共分散量の両方を大域的解に収束させることが保証される。
信念伝達と比較して、この保証された収束は、ループの場合、追加の記憶、計算、通信リンクのコストがかかるが、ローカル情報のみを用いて、フライで自動的に構築できることが示される。
関連論文リスト
- Disentangled Representation Learning with the Gromov-Monge Gap [65.73194652234848]
乱れのないデータから歪んだ表現を学習することは、機械学習における根本的な課題である。
本稿では,2次最適輸送に基づく非交叉表現学習手法を提案する。
提案手法の有効性を4つの標準ベンチマークで示す。
論文 参考訳（メタデータ） (2024-07-10T16:51:32Z) - Stability of a Generalized Debiased Lasso with Applications to Resampling-Based Variable Selection [11.490578151974285]
本稿では,デバイアス付きラッソ係数を更新するための近似式を提案する。
応用として、近似式により、変数選択アルゴリズムの複雑さを低減できることを示す。
論文 参考訳（メタデータ） (2024-05-05T22:05:02Z) - Approximating a RUM from Distributions on k-Slates [88.32814292632675]
与えられた分布を平均で最もよく近似するRUMを求める一般化時間アルゴリズムを求める。
我々の理論的結果は、実世界のデータセットに効果的でスケール可能なものを得るという、実践的な結果も得られます。
論文 参考訳（メタデータ） (2023-05-22T17:43:34Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳（メタデータ） (2022-08-03T12:31:31Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳（メタデータ） (2022-04-07T17:59:19Z) - Sparse Quadratic Optimisation over the Stiefel Manifold with Application
to Permutation Synchronisation [71.27989298860481]
二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。
そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-09-30T19:17:35Z) - Linear regression with partially mismatched data: local search with
theoretical guarantees [9.398989897176953]
本稿では,予測と応答のペアが部分的に一致しない線形回帰の重要な変種について検討する。
最適化定式化を用いて、基礎となる回帰係数とミスマッチに対応する置換を同時に学習する。
我々は,局所探索アルゴリズムが線形速度でほぼ最適解に収束することを証明した。
論文 参考訳（メタデータ） (2021-06-03T23:32:12Z) - Provably Convergent Working Set Algorithm for Non-Convex Regularized
Regression [0.0]
本稿では、収束保証付き非正則正規化器のためのワーキングセットアルゴリズムを提案する。
その結果,ブロックコーディネートや勾配ソルバの完全解法と比較して高い利得を示した。
論文 参考訳（メタデータ） (2020-06-24T07:40:31Z) - Approximation Schemes for ReLU Regression [80.33702497406632]
我々はReLU回帰の根本的な問題を考察する。
目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
論文 参考訳（メタデータ） (2020-05-26T16:26:17Z) - Sub-Gaussian Matrices on Sets: Optimal Tail Dependence and Applications [6.034622792544481]
ガウス行列が集合上の近距離等距離となる場合について検討する。
我々は、ガウス以下のノルムに対するこれまでの最もよく知られた依存は準最適であることを示した。
また、部分指数確率変数に対する新しいベルンシュタイン型不等式や、準ガウス確率変数の二次形式に対する新しいハンソン-ライト不等式も開発する。
論文 参考訳（メタデータ） (2020-01-28T23:06:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。