論文の概要: State Space Expectation Propagation: Efficient Inference Schemes for Temporal Gaussian Processes

• arxiv url: http://arxiv.org/abs/2007.05994v1
• Date: Sun, 12 Jul 2020 13:59:25 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-11 05:20:38.546079
• Title: State Space Expectation Propagation: Efficient Inference Schemes for Temporal Gaussian Processes
• Title（参考訳）: 状態空間期待伝播:時間的ガウス過程の効率的な推論スキーム
• Authors: William J. Wilkinson, Paul E. Chang, Michael Riis Andersen, Arno Solin
• Abstract要約: 非時間的時間的および時間的共役過程モデルにおけるベイズ推定を近似する。 我々はこれらのアルゴリズムについて統一的な視点を提供し、パワーEPモーメントマッチングのステップを線形化に置き換えることで、古典的なスムースラーをいかに回復するかを示す。
• 参考スコア（独自算出の注目度）: 21.22700483305901
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We formulate approximate Bayesian inference in non-conjugate temporal and spatio-temporal Gaussian process models as a simple parameter update rule applied during Kalman smoothing. This viewpoint encompasses most inference schemes, including expectation propagation (EP), the classical (Extended, Unscented, etc.) Kalman smoothers, and variational inference. We provide a unifying perspective on these algorithms, showing how replacing the power EP moment matching step with linearisation recovers the classical smoothers. EP provides some benefits over the traditional methods via introduction of the so-called cavity distribution, and we combine these benefits with the computational efficiency of linearisation, providing extensive empirical analysis demonstrating the efficacy of various algorithms under this unifying framework. We provide a fast implementation of all methods in JAX.
• Abstract（参考訳）: 非共役時空間および時空間ガウス過程モデルにおけるベイズ近似をカルマン平滑化時に適用される単純なパラメータ更新規則として定式化する。 この観点は、予測伝播(EP)、古典的(拡張、非強調など)カルマンスムーダー、変分推論など、ほとんどの推論スキームを含んでいる。 これらのアルゴリズムの統一的な視点を提供し、パワーepモーメントマッチングステップを線形化に置き換えることで、古典的なスムーザをいかに回復するかを示す。 EPは、いわゆる空洞分布を導入することによって従来の手法よりもいくつかの利点を提供し、これらの利点を線形化の計算効率と組み合わせ、この統一フレームワークの下で様々なアルゴリズムの有効性を示す広範な実証分析を提供する。 JAXですべてのメソッドを高速に実装します。

関連論文リスト

• Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
  emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。 本稿では,直感的に設計を記述し,設計選択について説明する。 本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
  論文  参考訳（メタデータ） (2023-10-31T16:15:13Z)
• Gaussian Cooling and Dikin Walks: The Interior-Point Method for Logconcave Sampling [8.655526882770742]
  1990年代、ネスターとネミロフスキーは自己調和障壁に基づく凸最適化のための内部点法(IPM)を開発した。 2012年、カナンとナラヤナンはポリトープを一様にサンプリングするダイキンウォークを提案した。 本稿では、多時間サンプリングアルゴリズムのためのダイキンウォークと共にIPM機械を開発し、適応させることにより、このアプローチを一般化する。
  論文  参考訳（メタデータ） (2023-07-24T17:15:38Z)
• Fast and efficient speech enhancement with variational autoencoders [0.0]
  変分オートエンコーダに基づく教師なし音声強調は、一般的な教師付き手法と比較して有望な性能を示した。 本稿では,複数のサンプル列を生成するランゲヴィン力学に基づく新しい手法を提案する。 提案手法は, 計算効率と品質向上を効果的に両立させ, 既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2022-11-02T09:52:13Z)
• Optimization on manifolds: A symplectic approach [127.54402681305629]
  本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。 我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
  論文  参考訳（メタデータ） (2021-07-23T13:43:34Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• A Discrete Variational Derivation of Accelerated Methods in Optimization [68.8204255655161]
  最適化のための異なる手法を導出できる変分法を導入する。 我々は1対1の対応において最適化手法の2つのファミリを導出する。 自律システムのシンプレクティシティの保存は、ここでは繊維のみに行われる。
  論文  参考訳（メタデータ） (2021-06-04T20:21:53Z)
• Sparse Algorithms for Markovian Gaussian Processes [18.999495374836584]
  スパースマルコフ過程は、誘導変数の使用と効率的なカルマンフィルタライク再帰を結合する。 我々は,局所ガウス項を用いて非ガウス的確率を近似する一般的なサイトベースアプローチであるsitesを導出する。 提案手法は,変動推論,期待伝播,古典非線形カルマンスムーサなど,機械学習と信号処理の両方から得られるアルゴリズムの新たなスパース拡張の一群を導出する。 派生した方法は、モデルが時間と空間の両方で別々の誘導点を持つ文学時間データに適しています。
  論文  参考訳（メタデータ） (2021-03-19T09:50:53Z)
• Fast Variational Learning in State-Space Gaussian Process Models [29.630197272150003]
  我々は共役計算変分推論と呼ばれる既存の手法に基づいて構築する。 ジャスト・イン・タイムのコンパイルを利用する効率的なJAX実装を提供しています。 我々の手法は、何百万ものデータポイントを持つ時系列にスケールできる状態空間GPモデルにおいて、高速かつ安定した変分推論をもたらす。
  論文  参考訳（メタデータ） (2020-07-09T12:06:34Z)
• Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
  離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。 この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。 古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
  論文  参考訳（メタデータ） (2020-07-01T18:43:32Z)
• A Dynamical Systems Approach for Convergence of the Bayesian EM Algorithm [59.99439951055238]
  我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。 本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。 高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-23T01:34:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。