論文の概要: The Bernstein-von Mises theorem for Bayesian one-pass online learning

• arxiv url: http://arxiv.org/abs/2604.27442v1
• Date: Thu, 30 Apr 2026 05:29:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:53.935352
• Title: The Bernstein-von Mises theorem for Bayesian one-pass online learning
• Title（参考訳）: ベイジアンワンパスオンライン学習のためのバーンスタイン・ヴォン・ミゼス定理
• Authors: Jeyong Lee, Junhyeok Choi, Dongguen Kim, Minwoo Chae,
• Abstract要約: 本稿では,ワンパス設定に適したベイズオンライン学習アルゴリズムを提案する。 このアルゴリズムでは、逐次更新された後続の収束率が最適となることを示す。 我々の分析は、オンライン学習文学における既存のアプローチと根本的に異なる理論的枠組みに基づいている。
• 参考スコア（独自算出の注目度）: 1.0149624140985478
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian online learning provides a coherent framework for sequential inference. However, its theoretical understanding remains limited, particularly in the one-pass setting. Existing theoretical guarantees typically require the mini-batch sample size to diverge, a condition that fails in the one-pass regime. In this paper, we propose a new Bayesian online learning algorithm tailored to the one-pass setting, which incorporates a warm-start phase to ensure stable sequential updates. For this algorithm, we show that the sequentially updated posterior attains the optimal convergence rate. Building on this, we establish an online analogue of the Bernstein-von Mises theorem, which guarantees valid uncertainty quantification without diverging mini-batch sample sizes. Our analysis is based on a novel theoretical framework that differs fundamentally from existing approaches in the online learning literature. Numerical experiments on generalized linear models show that the proposed method matches the performance of the batch estimator while outperforming existing online procedures.
• Abstract（参考訳）: ベイジアンオンライン学習は、逐次推論のためのコヒーレントなフレームワークを提供する。 しかし、その理論的な理解は、特にワンパス設定において限られている。 既存の理論上の保証は、通常、1パス状態で失敗する条件である、ミニバッチのサンプルサイズを分散させる必要がある。 本稿では,安定した逐次更新を保証するために,ウォームスタートフェーズを組み込んだワンパス設定に適した新しいベイズオンライン学習アルゴリズムを提案する。 このアルゴリズムでは、逐次更新された後続の収束率が最適となることを示す。 これに基づいて、我々は、ミニバッチのサンプルサイズをバラバラにすることなく、有効な不確実性定量化を保証するBernstein-von Mises定理のオンライン類似体を確立する。 我々の分析は、オンライン学習文学における既存のアプローチと根本的に異なる理論的枠組みに基づいている。 一般化線形モデルに関する数値実験により,提案手法は既存のオンライン手順を上回りながら,バッチ推定器の性能と一致することを示した。

関連論文リスト

• On the Limits of Test-Time Compute: Sequential Reward Filtering for Better Inference [71.09125259964684]
  テスト時計算(TTC)は、大規模言語モデル(LLM)の拡張のパラダイムとして、ますます顕著になっている。 本稿では,高次世代のみを文脈に選択的に組み込む単純な手順である報酬フィルタシーケンシャル推論について検討する。 理論的には、報酬フィルタによる逐次推論は標準TTCパラダイムよりも厳密な保証が得られることを示す。
  論文  参考訳（メタデータ） (2025-12-04T08:21:33Z)
• Semiparametric Learning from Open-Set Label Shift Data [14.537408547515627]
  オープンセットラベルシフト問題について検討し、テストデータにはトレーニングに欠席した新しいクラスが含まれる可能性がある。 この設定は、クラス比率と新しいクラスの分布の両方が余分な仮定なしでは識別できないため、難しい。 本稿では,新しいクラスと既知のクラス間の重なりを許容しながら,識別可能性を保証する半パラメトリック密度比モデルフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-18T01:32:29Z)
• Generalized Linear Bandits: Almost Optimal Regret with One-Pass Update [70.38810219913593]
  非線形リンク関数を組み込んで古典線形モデルを拡張したコンテキスト型多武装バンディットフレームワークである一般化線形バンディット問題(GLB)について検討する。 GLBは現実世界のシナリオに広く適用できるが、その非線形性は計算効率と統計効率の両方を達成する上で大きな課題をもたらす。 本稿では,$mathcalO(1)$時間と1ラウンドあたりの空間複雑度をほぼ最適に再現するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-07-16T02:24:21Z)
• Bayesian Online Natural Gradient (BONG) [9.800443064368467]
  変分ベイズ(VB)に基づく逐次ベイズ推論への新しいアプローチを提案する。 重要な洞察は、オンライン環境では、前もって正規化するためにKLという用語を追加する必要はありません。 提案手法は,非共役条件下での他のオンラインVB手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-05-30T04:27:36Z)
• SimPro: A Simple Probabilistic Framework Towards Realistic Long-Tailed Semi-Supervised Learning [49.94607673097326]
  ラベルなしデータの分散に関する前提を前提としない、高度に適応可能なフレームワークをSimProとして提案する。 我々のフレームワークは確率モデルに基づいており、期待最大化アルゴリズムを革新的に洗練する。 本手法は,様々なベンチマークやデータ分散シナリオにまたがる一貫した最先端性能を示す。
  論文  参考訳（メタデータ） (2024-02-21T03:39:04Z)
• A Metalearned Neural Circuit for Nonparametric Bayesian Inference [4.767884267554628]
  機械学習の分類への応用のほとんどは、バランスの取れたクラスの閉じた集合を前提としている。 これは、クラス発生統計が長い尾の力量分布に従うことがしばしばある実世界と矛盾する。 本研究では,非パラメトリックベイズモデルから誘導バイアスを抽出し,人工ニューラルネットワークに転送する手法を提案する。
  論文  参考訳（メタデータ） (2023-11-24T16:43:17Z)
• Online Statistical Inference in Decision-Making with Matrix Context [5.2071564436846245]
  本稿では,適応的に収集したデータを用いて統計的推測を行うオンライン手法を提案する。 標準の低ランク推定器は偏りがあり、逐次的には得られない。 シーケンシャルな意思決定アルゴリズムにおける既存のアプローチは、低ランク性を考慮しておらず、バイアスもある。
  論文  参考訳（メタデータ） (2022-12-21T22:03:06Z)
• Semantic Self-adaptation: Enhancing Generalization with a Single Sample [45.111358665370524]
  セマンティックセグメンテーションのための自己適応型アプローチを提案する。 整合正則化を用いて畳み込み層のパラメータを入力画像に微調整する。 実験により, 自己適応は訓練時のモデル正規化の確立した実践を補完する可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-10T12:29:01Z)
• COMBO: Conservative Offline Model-Based Policy Optimization [120.55713363569845]
  ディープニューラルネットワークのような複雑なモデルによる不確実性推定は困難であり、信頼性が低い。 我々は,サポート外状態動作の値関数を正規化するモデルベースオフラインRLアルゴリズムCOMBOを開発した。 従来のオフラインモデルフリーメソッドやモデルベースメソッドと比べて、comboは一貫してパフォーマンスが良いことが分かりました。
  論文  参考訳（メタデータ） (2021-02-16T18:50:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。