論文の概要: Probabilistic Linear Solvers for Machine Learning
- arxiv url: http://arxiv.org/abs/2010.09691v2
- Date: Thu, 22 Oct 2020 19:42:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-05 23:25:59.648333
- Title: Probabilistic Linear Solvers for Machine Learning
- Title(参考訳): 機械学習のための確率線形解法
- Authors: Jonathan Wenger and Philipp Hennig
- Abstract要約: 本稿では,行列と逆行列,および行列ベクトル積の観測から解を共同で推論する線形解法のクラスを提案する。
我々は、不確実性を校正するために、事前のスペクトル情報を組み込むことを実証し、機械学習におけるそのような解法の可能性について実験的に示す。
- 参考スコア(独自算出の注目度): 32.05287257207481
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Linear systems are the bedrock of virtually all numerical computation.
Machine learning poses specific challenges for the solution of such systems due
to their scale, characteristic structure, stochasticity and the central role of
uncertainty in the field. Unifying earlier work we propose a class of
probabilistic linear solvers which jointly infer the matrix, its inverse and
the solution from matrix-vector product observations. This class emerges from a
fundamental set of desiderata which constrains the space of possible algorithms
and recovers the method of conjugate gradients under certain conditions. We
demonstrate how to incorporate prior spectral information in order to calibrate
uncertainty and experimentally showcase the potential of such solvers for
machine learning.
- Abstract(参考訳): 線形系は事実上全ての数値計算の基盤である。
機械学習は、そのようなシステムのスケール、特性構造、確率性、フィールドにおける不確実性の中心的な役割のために、特定の課題を提起する。
初期の研究を統一して、行列と逆行列と行列ベクトル積の観測から解を共同推論する確率線形解法のクラスを提案する。
このクラスは、可能なアルゴリズムの空間を制約し、ある条件下で共役勾配の方法を回復するデシデラタの基本集合から生じる。
不確かさを校正するために、事前のスペクトル情報を組み込む方法を示し、機械学習におけるそのような解法の可能性について実験的に示します。
関連論文リスト
- Regularization, early-stopping and dreaming: a Hopfield-like setup to
address generalization and overfitting [0.0]
正規化損失関数に勾配降下を適用し,最適ネットワークパラメータを求める。
この枠組みの中で、最適なニューロン相互作用行列は、繰り返し学習プロトコルによって修正されたヘビアン核に対応する。
論文 参考訳(メタデータ) (2023-08-01T15:04:30Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Fairness constraint in Structural Econometrics and Application to fair
estimation using Instrumental Variables [3.265773263570237]
教師付き機械学習アルゴリズムは、新しい観測を予測するために使用される学習サンプルからモデルを決定する。
この情報集約は、観測できないものや、トレーニングサンプルに含まれる可能性のあるステータス・クオバイアスについて、潜在的な選択を考慮しない。
後者の偏見は、機械学習アルゴリズムのいわゆるテクストフェアネス(textitfairness)、特に不利なグループに対する懸念を提起している。
論文 参考訳(メタデータ) (2022-02-16T15:34:07Z) - Quantum algorithms for matrix operations and linear systems of equations [65.62256987706128]
本稿では,「Sender-Receiver」モデルを用いた行列演算のための量子アルゴリズムを提案する。
これらの量子プロトコルは、他の量子スキームのサブルーチンとして使用できる。
論文 参考訳(メタデータ) (2022-02-10T08:12:20Z) - Joint Learning of Linear Time-Invariant Dynamical Systems [31.879189478584095]
本稿では,複数システムの遷移行列を同時推定する手法について検討する。
我々は, 軌道長, 寸法, システム数の役割を完全に反映した有限時間推定誤差率を確立する。
同様の共同学習問題に対処する新しい手法を開発した。
論文 参考訳(メタデータ) (2021-12-21T03:09:43Z) - Online Stochastic Gradient Descent Learns Linear Dynamical Systems from
A Single Trajectory [1.52292571922932]
本研究では,システムを記述する未知の重み行列がブルノフスキー正則形式であれば,システムの未知の基底真理を効率的に推定できることを示した。
具体的には、具体的な境界を導出することにより、SGDは基底真理重みから任意の小さなフロベニウスノルム距離に期待して線型収束することを示す。
論文 参考訳(メタデータ) (2021-02-23T17:48:39Z) - Learning with Density Matrices and Random Features [62.997667081978825]
密度行列は、量子系の統計状態を記述する。
本稿では,機械学習モデル構築のためのビルディングブロックとして,密度行列をどのように利用できるかを検討する。
論文 参考訳(メタデータ) (2021-02-08T17:54:59Z) - Linear embedding of nonlinear dynamical systems and prospects for
efficient quantum algorithms [74.17312533172291]
有限非線形力学系を無限線型力学系(埋め込み)にマッピングする方法を述べる。
次に、有限線型系 (truncation) による結果の無限線型系を近似するアプローチを検討する。
論文 参考訳(メタデータ) (2020-12-12T00:01:10Z) - General stochastic separation theorems with optimal bounds [68.8204255655161]
分離性の現象が明らかになり、機械学習で人工知能(AI)システムのエラーを修正し、AI不安定性を分析するために使用された。
エラーやエラーのクラスタは、残りのデータから分離することができる。
AIシステムを修正する能力は、それに対する攻撃の可能性も開き、高次元性は、同じ分離性によって引き起こされる脆弱性を誘発する。
論文 参考訳(メタデータ) (2020-10-11T13:12:41Z) - Eigendecomposition-Free Training of Deep Networks for Linear
Least-Square Problems [107.3868459697569]
我々は、ディープネットワークのトレーニングに固有分解のないアプローチを導入する。
この手法は固有分解の明示的な微分よりもはるかに堅牢であることを示す。
我々の手法は収束特性が良く、最先端の結果が得られます。
論文 参考訳(メタデータ) (2020-04-15T04:29:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。