論文の概要: BONE: a unifying framework for Bayesian online learning in non-stationary environments

• arxiv url: http://arxiv.org/abs/2411.10153v2
• Date: Mon, 18 Nov 2024 10:16:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:35:39.711490
• Title: BONE: a unifying framework for Bayesian online learning in non-stationary environments
• Title（参考訳）: BONE:非定常環境におけるベイズオンライン学習のための統合フレームワーク
• Authors: Gerardo Duran-Martin, Leandro Sánchez-Betancourt, Alexander Y. Shestopaloff, Kevin Murphy,
• Abstract要約: BONE は (B)ayesian (O)nline learning in (N)on-stationary (E)nvironments の略である。 BONEは、オンライン学習、事前予測、文脈的盗賊など、さまざまな問題に対処するための共通の構造を提供する。
• 参考スコア（独自算出の注目度）: 44.30046484614902
• License:
• Abstract: We propose a unifying framework for methods that perform Bayesian online learning in non-stationary environments. We call the framework BONE, which stands for (B)ayesian (O)nline learning in (N)on-stationary (E)nvironments. BONE provides a common structure to tackle a variety of problems, including online continual learning, prequential forecasting, and contextual bandits. The framework requires specifying three modelling choices: (i) a model for measurements (e.g., a neural network), (ii) an auxiliary process to model non-stationarity (e.g., the time since the last changepoint), and (iii) a conditional prior over model parameters (e.g., a multivariate Gaussian). The framework also requires two algorithmic choices, which we use to carry out approximate inference under this framework: (i) an algorithm to estimate beliefs (posterior distribution) about the model parameters given the auxiliary variable, and (ii) an algorithm to estimate beliefs about the auxiliary variable. We show how this modularity allows us to write many different existing methods as instances of BONE; we also use this framework to propose a new method. We then experimentally compare existing methods with our proposed new method on several datasets; we provide insights into the situations that make one method more suitable than another for a given task.
• Abstract（参考訳）: 本研究では,非定常環境下でベイズオンライン学習を行う手法の統一フレームワークを提案する。 BONE は (B)ayesian (O)nline learning in (N)on-stationary (E)nvironments の略である。 BONEは、オンライン連続学習、事前予測、文脈的盗賊など、さまざまな問題に対処するための共通の構造を提供する。 フレームワークは3つのモデリング選択を指定する必要がある。 (i)測定用モデル(例えば、ニューラルネットワーク) 二 非定常性(例えば、最後の変更点以降の時間)をモデル化するための補助的過程及び (三)モデルパラメータ(例えば多変量ガウス)に対する条件付き事前 このフレームワークには2つのアルゴリズムの選択が必要です。 一 補助変数が与えられたモデルパラメータについての信念(後続分布)を推定するアルゴリズム及び (ii)補助変数についての信念を推定するアルゴリズム。 このモジュール化によって、BONEのインスタンスとして多くの異なる既存メソッドを記述することが可能になったことを示し、また、このフレームワークを使って新しいメソッドを提案する。 そして,既存の手法といくつかのデータセット上で提案した新しい手法を実験的に比較し,あるタスクに対して,あるメソッドが他のメソッドよりも適している状況について考察する。

関連論文リスト

• Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
  この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。 第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。 第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
  論文  参考訳（メタデータ） (2025-02-11T19:24:09Z)
• Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review [59.856222854472605]
  このチュートリアルは、拡散モデルにおける下流の報酬関数を最適化するための推論時ガイダンスとアライメント方法に関する詳細なガイドを提供する。 生物学のような分野における実践的な応用は、しばしば特定の指標を最大化するサンプル生成を必要とする。 本稿では,(1)推論時と組み合わせた微調整手法,(2)モンテカルロ木探索などの探索アルゴリズムに基づく推論時アルゴリズム,(3)言語モデルと拡散モデルにおける推論時アルゴリズムの接続について論じる。
  論文  参考訳（メタデータ） (2025-01-16T17:37:35Z)
• A Survey of Low-shot Vision-Language Model Adaptation via Representer Theorem [38.84662767814454]
  限られた訓練データの条件下で対処する主な課題は、パラメータ効率のよい方法で事前訓練された視覚言語モデルを微調整する方法である。 本稿では,既存の手法を統合化し,それらの性質を同定し,詳細な比較を支援するための統一的な計算フレームワークを提案する。 実演として、カーネルヒルベルト空間(RKHS)における表現子間のクラス間相関をモデル化し、既存の手法を拡張した。
  論文  参考訳（メタデータ） (2024-10-15T15:22:30Z)
• Federated Variational Inference Methods for Structured Latent Variable Models [1.0312968200748118]
  フェデレートされた学習方法は、データが元の場所を離れることなく、分散データソースをまたいだモデルトレーニングを可能にする。 本稿では,ベイズ機械学習において広く用いられている構造的変分推論に基づく汎用的でエレガントな解を提案する。 また、標準FedAvgアルゴリズムに類似した通信効率のよい変種も提供する。
  論文  参考訳（メタデータ） (2023-02-07T08:35:04Z)
• MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood Inference from Sampled Trajectories [61.3299263929289]
  シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。 あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。 モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-03T12:59:16Z)
• Deep Magnification-Flexible Upsampling over 3D Point Clouds [103.09504572409449]
  本稿では,高密度点雲を生成するためのエンドツーエンド学習ベースのフレームワークを提案する。 まずこの問題を明示的に定式化し、重みと高次近似誤差を判定する。 そこで我々は,高次改良とともに,統一重みとソート重みを適応的に学習する軽量ニューラルネットワークを設計する。
  論文  参考訳（メタデータ） (2020-11-25T14:00:18Z)
• Deep Conditional Transformation Models [0.0]
  特徴集合上の結果変数条件の累積分布関数(CDF)を学習することは依然として困難である。 条件変換モデルは、条件付きCDFの大規模なクラスをモデル化できる半パラメトリックなアプローチを提供する。 我々は,新しいネットワークアーキテクチャを提案し,異なるモデル定義の詳細を提供し,適切な制約を導出する。
  論文  参考訳（メタデータ） (2020-10-15T16:25:45Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)
• Multi-view Orthonormalized Partial Least Squares: Regularizations and Deep Extensions [8.846165479467324]
  最小二乗を基本としたマルチビュー学習のためのサブスペース学習手法のファミリーを確立する。 全ビューで共有される共通潜在空間上の分類器を学習するための統合された多視点学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-09T19:00:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。