論文の概要: Adaptive, Robust and Scalable Bayesian Filtering for Online Learning

• arxiv url: http://arxiv.org/abs/2505.07267v1
• Date: Mon, 12 May 2025 06:40:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-13 20:21:49.279247
• Title: Adaptive, Robust and Scalable Bayesian Filtering for Online Learning
• Title（参考訳）: オンライン学習のための適応・ロバスト・スケーラブルベイズフィルタ
• Authors: Gerardo Duran-Martin,
• Abstract要約: 本稿では,多様な逐次機械学習問題に対処するための基本的枠組みとしてベイズフィルタを導入する。 この論文は、非定常環境への適応性、不特定性や外れ値のモデル化、ディープニューラルネットワークの高次元パラメータ空間への拡張性といった、ベイズフィルタをこれらの問題に適用する際の重要な課題に対処する。 i)オンライン学習のための開発適応型アプローチを可能にするモジュール型フレームワーク、(ii)一般ベイズを用いた標準フィルタに類似した計算コストで信頼性の高い新規なフィルタ、(ii)
• 参考スコア（独自算出の注目度）: 0.5439020425819
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this thesis, we introduce Bayesian filtering as a principled framework for tackling diverse sequential machine learning problems, including online (continual) learning, prequential (one-step-ahead) forecasting, and contextual bandits. To this end, this thesis addresses key challenges in applying Bayesian filtering to these problems: adaptivity to non-stationary environments, robustness to model misspecification and outliers, and scalability to the high-dimensional parameter space of deep neural networks. We develop novel tools within the Bayesian filtering framework to address each of these challenges, including: (i) a modular framework that enables the development adaptive approaches for online learning; (ii) a novel, provably robust filter with similar computational cost to standard filters, that employs Generalised Bayes; and (iii) a set of tools for sequentially updating model parameters using approximate second-order optimisation methods that exploit the overparametrisation of high-dimensional parametric models such as neural networks. Theoretical analysis and empirical results demonstrate the improved performance of our methods in dynamic, high-dimensional, and misspecified models.
• Abstract（参考訳）: 本論文では,オンライン(連続)学習,先行(一段階)予測,文脈的盗聴など,多様な逐次機械学習問題に対処するための原則的枠組みとしてベイズフィルタを導入する。 この論文は、非定常環境への適応性、不特定性や外れ値のモデルへの堅牢性、ディープニューラルネットワークの高次元パラメータ空間への拡張性といった、ベイズフィルタをこれらの問題に適用する際の重要な課題に対処する。 ベイズフィルタフレームワーク内で,これらの課題に対処する新しいツールを開発した。 i) オンライン学習のための開発適応的アプローチを可能にするモジュール型フレームワーク。 (ii) 一般化ベイズを用いた計算コストと標準フィルタの類似した新規で証明可能な堅牢なフィルタ 三 ニューラルネットワークのような高次元パラメトリックモデルの過度パラメータ化を利用する近似二階最適化法を用いて、モデルパラメータを逐次更新する一連のツール。 理論的解析と実験結果から, 動的, 高次元, 不特定モデルにおける手法の性能向上が示された。

関連論文リスト

• Deep Equilibrium models for Poisson Imaging Inverse problems via Mirror Descent [7.248102801711294]
  ディープ平衡モデル(Deep Equilibrium Models、DEQ)は、固定点を持つ暗黙のニューラルネットワークである。 我々は、非ユークリッド幾何学の仕方で定義されるミラー・ディクセントに基づく新しいDEC式を導入する。 本稿では,効率的なトレーニングと完全パラメータフリー推論が可能な計算戦略を提案する。
  論文  参考訳（メタデータ） (2025-07-15T16:33:01Z)
• Robust Filtering -- Novel Statistical Learning and Inference Algorithms with Applications [0.0]
  状態推定は、自動運転車、ロボット工学、医療監視、スマートグリッド、インテリジェントトランスポート、予測保守などのアプリケーションにおけるインテリジェントな意思決定を可能にするための基本的なタスクである。 標準フィルタリングはノイズ統計の事前知識を前提としてノイズセンサデータから潜時状態の抽出を行う。 現実のシナリオは、外れ値、偏見、漂流、未知あるいは部分的に知られている統計の欠如といった異常を伴い、従来のアプローチを制限している。 この論文は、これらの課題を軽減するために、新しい頑健な非線形フィルタリング法を示す。
  論文  参考訳（メタデータ） (2025-06-13T07:30:35Z)
• Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [55.914891182214475]
  モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。 本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。 残る技術的課題や倫理的考察も分析する。
  論文  参考訳（メタデータ） (2025-06-05T05:42:27Z)
• Variational Bayesian Bow tie Neural Networks with Shrinkage [0.276240219662896]
  我々は、標準フィードフォワード修正ニューラルネットワークの緩和版を構築した。 我々は、条件付き線形およびガウス的モデルをレンダリングするために、Polya-Gammaデータ拡張トリックを用いる。 層間における分布仮定や独立性を回避する変分推論アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2024-11-17T17:36:30Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
  我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。 EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。 得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
  論文  参考訳（メタデータ） (2023-12-10T15:22:30Z)
• End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
  本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。 我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
  論文  参考訳（メタデータ） (2023-05-25T10:58:46Z)
• Deep Variational Models for Collaborative Filtering-based Recommender Systems [63.995130144110156]
  ディープラーニングは、リコメンダシステムの結果を改善するために、正確な協調フィルタリングモデルを提供する。 提案するモデルは, 深層建築の潜伏空間において, 変分概念を注入性に適用する。 提案手法は, 入射雑音効果を超える変動エンリッチメントのシナリオにおいて, 提案手法の優位性を示す。
  論文  参考訳（メタデータ） (2021-07-27T08:59:39Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Multitarget Tracking with Transformers [21.81266872964314]
  マルチターゲットトラッキング(MTT)は、ノイズの多い測定を使用して未知のオブジェクトの数の状態を追跡する問題です。 本稿では,Transformer アーキテクチャに基づく MTT の高性能深層学習手法を提案する。
  論文  参考訳（メタデータ） (2021-04-01T19:14:55Z)
• Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
  最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。 このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
  論文  参考訳（メタデータ） (2020-03-13T13:11:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。