論文の概要: The Bernstein-von Mises theorem for Bayesian one-pass online learning

• arxiv url: http://arxiv.org/abs/2604.27442v1
• Date: Thu, 30 Apr 2026 05:29:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:53.935352
• Title: The Bernstein-von Mises theorem for Bayesian one-pass online learning
• Title（参考訳）: ベイジアンワンパスオンライン学習のためのバーンスタイン・ヴォン・ミゼス定理
• Abstract要約: 本稿では,ワンパス設定に適したベイズオンライン学習アルゴリズムを提案する。 このアルゴリズムでは、逐次更新された後続の収束率が最適となることを示す。 我々の分析は、オンライン学習文学における既存のアプローチと根本的に異なる理論的枠組みに基づいている。
• 参考スコア（独自算出の注目度）: 1.0149624140985478
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian online learning provides a coherent framework for sequential inference. However, its theoretical understanding remains limited, particularly in the one-pass setting. Existing theoretical guarantees typically require the mini-batch sample size to diverge, a condition that fails in the one-pass regime. In this paper, we propose a new Bayesian online learning algorithm tailored to the one-pass setting, which incorporates a warm-start phase to ensure stable sequential updates. For this algorithm, we show that the sequentially updated posterior attains the optimal convergence rate. Building on this, we establish an online analogue of the Bernstein-von Mises theorem, which guarantees valid uncertainty quantification without diverging mini-batch sample sizes. Our analysis is based on a novel theoretical framework that differs fundamentally from existing approaches in the online learning literature. Numerical experiments on generalized linear models show that the proposed method matches the performance of the batch estimator while outperforming existing online procedures.
• Abstract（参考訳）: ベイジアンオンライン学習は、逐次推論のためのコヒーレントなフレームワークを提供する。 しかし、その理論的な理解は、特にワンパス設定において限られている。 既存の理論上の保証は、通常、1パス状態で失敗する条件である、ミニバッチのサンプルサイズを分散させる必要がある。 本稿では,安定した逐次更新を保証するために,ウォームスタートフェーズを組み込んだワンパス設定に適した新しいベイズオンライン学習アルゴリズムを提案する。 このアルゴリズムでは、逐次更新された後続の収束率が最適となることを示す。 これに基づいて、我々は、ミニバッチのサンプルサイズをバラバラにすることなく、有効な不確実性定量化を保証するBernstein-von Mises定理のオンライン類似体を確立する。 我々の分析は、オンライン学習文学における既存のアプローチと根本的に異なる理論的枠組みに基づいている。 一般化線形モデルに関する数値実験により,提案手法は既存のオンライン手順を上回りながら,バッチ推定器の性能と一致することを示した。

関連論文リスト

• Online Learning with Gradient-Variation Interval Regret [54.59204826681113]
  そこで本研究では,勾配変動を伴う時間間隔のリフレッシュなスケーリングを実現するオンライン学習アルゴリズムを提案する。 提案手法では, よりシンプルで効率的な2層オンラインアンサンブル構造を用いて, 高い理論的保証を実現する。
  論文  参考訳（メタデータ） (2026-06-02T16:16:45Z)
• Bridging the Gap Between Average and Discounted TD Learning [14.556544278062793]
  平均回帰設定において,政策評価のために明示的に設計された新しいアルゴリズムを提案する。 提案手法は, 適切に定義されたベルマン方程式の一意解への収束を保証することによって, 従来の限界を克服する。
  論文  参考訳（メタデータ） (2026-05-03T23:54:36Z)
• Optimal training-conditional regret for online conformal prediction [20.643619398558315]
  本研究では,未知分布のドリフトを受ける非定常データストリームのオンラインコンフォメーション予測について検討する。 具体的には、急激な変化点と滑らかなドリフトの2種類の分散シフトを持つ独立に生成されたデータに焦点を当てる。 我々は,オンライン完全共形アルゴリズムにおいて,予測セットの適切な制約の下でミニマックス下限と一致する非漸近的後悔保証を確立する。
  論文  参考訳（メタデータ） (2026-02-18T15:31:15Z)
• On the Limits of Test-Time Compute: Sequential Reward Filtering for Better Inference [71.09125259964684]
  テスト時計算(TTC)は、大規模言語モデル(LLM)の拡張のパラダイムとして、ますます顕著になっている。 本稿では,高次世代のみを文脈に選択的に組み込む単純な手順である報酬フィルタシーケンシャル推論について検討する。 理論的には、報酬フィルタによる逐次推論は標準TTCパラダイムよりも厳密な保証が得られることを示す。
  論文  参考訳（メタデータ） (2025-12-04T08:21:33Z)
• Semiparametric Learning from Open-Set Label Shift Data [14.537408547515627]
  オープンセットラベルシフト問題について検討し、テストデータにはトレーニングに欠席した新しいクラスが含まれる可能性がある。 この設定は、クラス比率と新しいクラスの分布の両方が余分な仮定なしでは識別できないため、難しい。 本稿では,新しいクラスと既知のクラス間の重なりを許容しながら,識別可能性を保証する半パラメトリック密度比モデルフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-18T01:32:29Z)
• Generalized Linear Bandits: Almost Optimal Regret with One-Pass Update [70.38810219913593]
  非線形リンク関数を組み込んで古典線形モデルを拡張したコンテキスト型多武装バンディットフレームワークである一般化線形バンディット問題(GLB)について検討する。 GLBは現実世界のシナリオに広く適用できるが、その非線形性は計算効率と統計効率の両方を達成する上で大きな課題をもたらす。 本稿では,$mathcalO(1)$時間と1ラウンドあたりの空間複雑度をほぼ最適に再現するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-07-16T02:24:21Z)
• Online-BLS: An Accurate and Efficient Online Broad Learning System for Data Stream Classification [52.251569042852815]
  オンライン更新毎にクローズドフォームソリューションを備えたオンライン広範学習システムフレームワークを導入する。 我々は,効果的な重み推定アルゴリズムと効率的なオンライン更新戦略を設計する。 我々のフレームワークは、コンセプトドリフトを伴うデータストリームシナリオに自然に拡張され、最先端のベースラインを超えます。
  論文  参考訳（メタデータ） (2025-01-28T13:21:59Z)
• Bayesian Online Natural Gradient (BONG) [9.800443064368467]
  変分ベイズ(VB)に基づく逐次ベイズ推論への新しいアプローチを提案する。 重要な洞察は、オンライン環境では、前もって正規化するためにKLという用語を追加する必要はありません。 提案手法は,非共役条件下での他のオンラインVB手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-05-30T04:27:36Z)
• SimPro: A Simple Probabilistic Framework Towards Realistic Long-Tailed Semi-Supervised Learning [49.94607673097326]
  ラベルなしデータの分散に関する前提を前提としない、高度に適応可能なフレームワークをSimProとして提案する。 我々のフレームワークは確率モデルに基づいており、期待最大化アルゴリズムを革新的に洗練する。 本手法は,様々なベンチマークやデータ分散シナリオにまたがる一貫した最先端性能を示す。
  論文  参考訳（メタデータ） (2024-02-21T03:39:04Z)
• A Metalearned Neural Circuit for Nonparametric Bayesian Inference [4.767884267554628]
  機械学習の分類への応用のほとんどは、バランスの取れたクラスの閉じた集合を前提としている。 これは、クラス発生統計が長い尾の力量分布に従うことがしばしばある実世界と矛盾する。 本研究では,非パラメトリックベイズモデルから誘導バイアスを抽出し,人工ニューラルネットワークに転送する手法を提案する。
  論文  参考訳（メタデータ） (2023-11-24T16:43:17Z)
• Online Statistical Inference in Decision-Making with Matrix Context [5.2071564436846245]
  本稿では,適応的に収集したデータを用いて統計的推測を行うオンライン手法を提案する。 標準の低ランク推定器は偏りがあり、逐次的には得られない。 シーケンシャルな意思決定アルゴリズムにおける既存のアプローチは、低ランク性を考慮しておらず、バイアスもある。
  論文  参考訳（メタデータ） (2022-12-21T22:03:06Z)
• Semantic Self-adaptation: Enhancing Generalization with a Single Sample [45.111358665370524]
  セマンティックセグメンテーションのための自己適応型アプローチを提案する。 整合正則化を用いて畳み込み層のパラメータを入力画像に微調整する。 実験により, 自己適応は訓練時のモデル正規化の確立した実践を補完する可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-10T12:29:01Z)
• COMBO: Conservative Offline Model-Based Policy Optimization [120.55713363569845]
  ディープニューラルネットワークのような複雑なモデルによる不確実性推定は困難であり、信頼性が低い。 我々は,サポート外状態動作の値関数を正規化するモデルベースオフラインRLアルゴリズムCOMBOを開発した。 従来のオフラインモデルフリーメソッドやモデルベースメソッドと比べて、comboは一貫してパフォーマンスが良いことが分かりました。
  論文  参考訳（メタデータ） (2021-02-16T18:50:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。