論文の概要: Adaptive, Robust and Scalable Bayesian Filtering for Online Learning

• arxiv url: http://arxiv.org/abs/2505.07267v1
• Date: Mon, 12 May 2025 06:40:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-13 20:21:49.279247
• Title: Adaptive, Robust and Scalable Bayesian Filtering for Online Learning
• Title（参考訳）: オンライン学習のための適応・ロバスト・スケーラブルベイズフィルタ
• Authors: Gerardo Duran-Martin,
• Abstract要約: 本稿では,多様な逐次機械学習問題に対処するための基本的枠組みとしてベイズフィルタを導入する。 この論文は、非定常環境への適応性、不特定性や外れ値のモデル化、ディープニューラルネットワークの高次元パラメータ空間への拡張性といった、ベイズフィルタをこれらの問題に適用する際の重要な課題に対処する。 i)オンライン学習のための開発適応型アプローチを可能にするモジュール型フレームワーク、(ii)一般ベイズを用いた標準フィルタに類似した計算コストで信頼性の高い新規なフィルタ、(ii)
• 参考スコア（独自算出の注目度）: 0.5439020425819
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this thesis, we introduce Bayesian filtering as a principled framework for tackling diverse sequential machine learning problems, including online (continual) learning, prequential (one-step-ahead) forecasting, and contextual bandits. To this end, this thesis addresses key challenges in applying Bayesian filtering to these problems: adaptivity to non-stationary environments, robustness to model misspecification and outliers, and scalability to the high-dimensional parameter space of deep neural networks. We develop novel tools within the Bayesian filtering framework to address each of these challenges, including: (i) a modular framework that enables the development adaptive approaches for online learning; (ii) a novel, provably robust filter with similar computational cost to standard filters, that employs Generalised Bayes; and (iii) a set of tools for sequentially updating model parameters using approximate second-order optimisation methods that exploit the overparametrisation of high-dimensional parametric models such as neural networks. Theoretical analysis and empirical results demonstrate the improved performance of our methods in dynamic, high-dimensional, and misspecified models.
• Abstract（参考訳）: 本論文では,オンライン(連続)学習,先行(一段階)予測,文脈的盗聴など,多様な逐次機械学習問題に対処するための原則的枠組みとしてベイズフィルタを導入する。 この論文は、非定常環境への適応性、不特定性や外れ値のモデルへの堅牢性、ディープニューラルネットワークの高次元パラメータ空間への拡張性といった、ベイズフィルタをこれらの問題に適用する際の重要な課題に対処する。 ベイズフィルタフレームワーク内で,これらの課題に対処する新しいツールを開発した。 i) オンライン学習のための開発適応的アプローチを可能にするモジュール型フレームワーク。 (ii) 一般化ベイズを用いた計算コストと標準フィルタの類似した新規で証明可能な堅牢なフィルタ 三 ニューラルネットワークのような高次元パラメトリックモデルの過度パラメータ化を利用する近似二階最適化法を用いて、モデルパラメータを逐次更新する一連のツール。 理論的解析と実験結果から, 動的, 高次元, 不特定モデルにおける手法の性能向上が示された。

関連論文リスト

• Variational Bayesian Bow tie Neural Networks with Shrinkage [0.276240219662896]
  我々は、標準フィードフォワード修正ニューラルネットワークの緩和版を構築した。 我々は、条件付き線形およびガウス的モデルをレンダリングするために、Polya-Gammaデータ拡張トリックを用いる。 層間における分布仮定や独立性を回避する変分推論アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2024-11-17T17:36:30Z)
• Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
  我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。 EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。 得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
  論文  参考訳（メタデータ） (2023-12-10T15:22:30Z)
• Deep Variational Models for Collaborative Filtering-based Recommender Systems [63.995130144110156]
  ディープラーニングは、リコメンダシステムの結果を改善するために、正確な協調フィルタリングモデルを提供する。 提案するモデルは, 深層建築の潜伏空間において, 変分概念を注入性に適用する。 提案手法は, 入射雑音効果を超える変動エンリッチメントのシナリオにおいて, 提案手法の優位性を示す。
  論文  参考訳（メタデータ） (2021-07-27T08:59:39Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Multitarget Tracking with Transformers [21.81266872964314]
  マルチターゲットトラッキング(MTT)は、ノイズの多い測定を使用して未知のオブジェクトの数の状態を追跡する問題です。 本稿では,Transformer アーキテクチャに基づく MTT の高性能深層学習手法を提案する。
  論文  参考訳（メタデータ） (2021-04-01T19:14:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。