論文の概要: A unifying framework for generalised Bayesian online learning in non-stationary environments

• arxiv url: http://arxiv.org/abs/2411.10153v3
• Date: Wed, 12 Mar 2025 10:05:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-13 15:37:32.399344
• Title: A unifying framework for generalised Bayesian online learning in non-stationary environments
• Title（参考訳）: 非定常環境における一般ベイズオンライン学習のための統一フレームワーク
• Authors: Gerardo Duran-Martin, Leandro Sánchez-Betancourt, Alexander Y. Shestopaloff, Kevin Murphy,
• Abstract要約: 我々はこのフレームワークを (B)ayesian (O)nline learning in (N)on-stationary (E)nvironments で一般化された (B)ayesian (O)nline learning を意味する BONE と呼ぶ。 BONEは、オンライン連続学習、事前予測、文脈的盗賊など、さまざまな問題に対処するための共通の構造を提供する。
• 参考スコア（独自算出の注目度）: 44.30046484614902
• License:
• Abstract: We propose a unifying framework for methods that perform probabilistic online learning in non-stationary environments. We call the framework BONE, which stands for generalised (B)ayesian (O)nline learning in (N)on-stationary (E)nvironments. BONE provides a common structure to tackle a variety of problems, including online continual learning, prequential forecasting, and contextual bandits. The framework requires specifying three modelling choices: (i) a model for measurements (e.g., a neural network), (ii) an auxiliary process to model non-stationarity (e.g., the time since the last changepoint), and (iii) a conditional prior over model parameters (e.g., a multivariate Gaussian). The framework also requires two algorithmic choices, which we use to carry out approximate inference under this framework: (i) an algorithm to estimate beliefs (posterior distribution) about the model parameters given the auxiliary variable, and (ii) an algorithm to estimate beliefs about the auxiliary variable. We show how the modularity of our framework allows for many existing methods to be reinterpreted as instances of BONE, and it allows us to propose new methods. We compare experimentally existing methods with our proposed new method on several datasets, providing insights into the situations that make each method more suitable for a specific task. We provide a Jax open source library to facilitate the adoption of this framework.
• Abstract（参考訳）: 非定常環境下で確率論的オンライン学習を行う手法の統一フレームワークを提案する。 我々はこのフレームワークを (B)ayesian (O)nline learning in (N)on-stationary (E)nvironments で一般化された (B)ayesian (O)nline learning を意味する BONE と呼ぶ。 BONEは、オンライン連続学習、事前予測、文脈的盗賊など、さまざまな問題に対処するための共通の構造を提供する。 フレームワークは3つのモデリング選択を指定する必要がある。 (i)測定用モデル(例えば、ニューラルネットワーク) 二 非定常性(例えば、最後の変更点以降の時間)をモデル化するための補助的過程及び (三)モデルパラメータ(例えば多変量ガウス)に対する条件付き事前 このフレームワークには2つのアルゴリズムの選択が必要です。 一 補助変数が与えられたモデルパラメータについての信念(後続分布)を推定するアルゴリズム及び (ii)補助変数についての信念を推定するアルゴリズム。 我々のフレームワークのモジュラリティによって、既存の多くのメソッドがBONEのインスタンスとして再解釈され、新しいメソッドが提案できることを示す。 提案手法をいくつかのデータセット上で実験的に比較し,各手法を特定のタスクに適合させる状況について考察した。 私たちは、このフレームワークの採用を容易にするために、Jaxオープンソースライブラリを提供しています。

関連論文リスト

• Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
  この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。 第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。 第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
  論文  参考訳（メタデータ） (2025-02-11T19:24:09Z)
• Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review [59.856222854472605]
  このチュートリアルは、拡散モデルにおける下流の報酬関数を最適化するための推論時ガイダンスとアライメント方法に関する詳細なガイドを提供する。 生物学のような分野における実践的な応用は、しばしば特定の指標を最大化するサンプル生成を必要とする。 本稿では,(1)推論時と組み合わせた微調整手法,(2)モンテカルロ木探索などの探索アルゴリズムに基づく推論時アルゴリズム,(3)言語モデルと拡散モデルにおける推論時アルゴリズムの接続について論じる。
  論文  参考訳（メタデータ） (2025-01-16T17:37:35Z)
• A Survey of Low-shot Vision-Language Model Adaptation via Representer Theorem [38.84662767814454]
  限られた訓練データの条件下で対処する主な課題は、パラメータ効率のよい方法で事前訓練された視覚言語モデルを微調整する方法である。 本稿では,既存の手法を統合化し,それらの性質を同定し,詳細な比較を支援するための統一的な計算フレームワークを提案する。 実演として、カーネルヒルベルト空間(RKHS)における表現子間のクラス間相関をモデル化し、既存の手法を拡張した。
  論文  参考訳（メタデータ） (2024-10-15T15:22:30Z)
• Federated Variational Inference Methods for Structured Latent Variable Models [1.0312968200748118]
  フェデレートされた学習方法は、データが元の場所を離れることなく、分散データソースをまたいだモデルトレーニングを可能にする。 本稿では,ベイズ機械学習において広く用いられている構造的変分推論に基づく汎用的でエレガントな解を提案する。 また、標準FedAvgアルゴリズムに類似した通信効率のよい変種も提供する。
  論文  参考訳（メタデータ） (2023-02-07T08:35:04Z)
• MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood Inference from Sampled Trajectories [61.3299263929289]
  シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。 あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。 モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-03T12:59:16Z)
• Deep Magnification-Flexible Upsampling over 3D Point Clouds [103.09504572409449]
  本稿では,高密度点雲を生成するためのエンドツーエンド学習ベースのフレームワークを提案する。 まずこの問題を明示的に定式化し、重みと高次近似誤差を判定する。 そこで我々は,高次改良とともに,統一重みとソート重みを適応的に学習する軽量ニューラルネットワークを設計する。
  論文  参考訳（メタデータ） (2020-11-25T14:00:18Z)
• Deep Conditional Transformation Models [0.0]
  特徴集合上の結果変数条件の累積分布関数(CDF)を学習することは依然として困難である。 条件変換モデルは、条件付きCDFの大規模なクラスをモデル化できる半パラメトリックなアプローチを提供する。 我々は,新しいネットワークアーキテクチャを提案し,異なるモデル定義の詳細を提供し,適切な制約を導出する。
  論文  参考訳（メタデータ） (2020-10-15T16:25:45Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)
• Multi-view Orthonormalized Partial Least Squares: Regularizations and Deep Extensions [8.846165479467324]
  最小二乗を基本としたマルチビュー学習のためのサブスペース学習手法のファミリーを確立する。 全ビューで共有される共通潜在空間上の分類器を学習するための統合された多視点学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-09T19:00:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。