論文の概要: Unsupervised Continual Learning for Amortized Bayesian Inference

• arxiv url: http://arxiv.org/abs/2602.22884v1
• Date: Thu, 26 Feb 2026 11:22:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-27 18:41:22.660949
• Title: Unsupervised Continual Learning for Amortized Bayesian Inference
• Title（参考訳）: 償却ベイズ推論のための教師なし連続学習
• Authors: Aayush Mishra, Šimon Kucharský, Paul-Christian Bürkner,
• Abstract要約: ABI(Amortized Bayesian Inference)は、シミュレーションデータに基づいてトレーニングされた生成ニューラルネットワークを用いて、効率的な後部推定を可能にする。 現在のアプローチは静的なシングルタスク設定に限られており、シーケンシャルに到着したデータや分散シフトを処理できない。 本研究では,シミュレーションに基づく事前学習を非教師付き逐次SC微調整から切り離したABIのための連続学習フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 7.052272974286418
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Amortized Bayesian Inference (ABI) enables efficient posterior estimation using generative neural networks trained on simulated data, but often suffers from performance degradation under model misspecification. While self-consistency (SC) training on unlabeled empirical data can enhance network robustness, current approaches are limited to static, single-task settings and fail to handle sequentially arriving data or distribution shifts. We propose a continual learning framework for ABI that decouples simulation-based pre-training from unsupervised sequential SC fine-tuning on real-world data. To address the challenge of catastrophic forgetting, we introduce two adaptation strategies: (1) SC with episodic replay, utilizing a memory buffer of past observations, and (2) SC with elastic weight consolidation, which regularizes updates to preserve task-critical parameters. Across three diverse case studies, our methods significantly mitigate forgetting and yield posterior estimates that outperform standard simulation-based training, achieving estimates closer to MCMC reference, providing a viable path for trustworthy ABI across a range of different tasks.
• Abstract（参考訳）: ABI(Amortized Bayesian Inference)は、シミュレーションデータに基づいてトレーニングされた生成ニューラルネットワークを用いた効率的な後部推定を可能にするが、しばしばモデルミススペクテーションによる性能劣化に悩まされる。 ラベルのない経験的データに対する自己整合性(SC)トレーニングはネットワークの堅牢性を高めることができるが、現在のアプローチは静的な単一タスク設定に限られており、シーケンシャルに到着したデータや分散シフトを処理できない。 本研究では,シミュレーションに基づく事前学習を非教師付き逐次SC微調整から切り離したABIのための連続学習フレームワークを提案する。 破滅的忘れ込みの課題に対処するため,(1) エピソード・リプレイのSC, 過去の観測のメモリバッファの活用,(2) 弾性重み付けのSCの2つの適応戦略を導入し, タスククリティカルなパラメータを保存するために更新を規則化する。 3つの多種多様なケーススタディにおいて,提案手法は,標準シミュレーションベーストレーニングを上回り,MCMC基準に近い評価を達成し,様々なタスクにおいて信頼性の高いABIを実現するための有効な経路を提供するという,後方推定を著しく緩和する。

関連論文リスト

• Flow Matching for Robust Simulation-Based Inference under Model Misspecification [11.172752919335394]
  Flow Matching Corrected Posterior Estimation(フローマッチング補正後推定)は、シミュレーションによって訓練された後部推定を、少数の実校正サンプルを用いて洗練するフレームワークである。 提案手法は,従来のSBIベースラインと比較して,推論精度と不確実性を向上し,不特定性の影響を常に緩和することを示す。
  論文  参考訳（メタデータ） (2025-09-27T16:10:53Z)
• Temporal-Difference Variational Continual Learning [77.92320830700797]
  複数の先行推定の正則化効果を統合する新たな学習目標を提案する。 提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• Reshaping the Online Data Buffering and Organizing Mechanism for Continual Test-Time Adaptation [49.53202761595912]
  継続的なテスト時間適応は、訓練済みのソースモデルを適用して、教師なしのターゲットドメインを継続的に変更する。 我々は、オンライン環境、教師なしの自然、エラー蓄積や破滅的な忘れのリスクなど、このタスクの課題を分析する。 教師なしシングルパスデータストリームから重要サンプルを高い確実性で識別・集約する不確実性を考慮したバッファリング手法を提案する。
  論文  参考訳（メタデータ） (2024-07-12T15:48:40Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• Statistically Efficient Variance Reduction with Double Policy Estimation for Off-Policy Evaluation in Sequence-Modeled Reinforcement Learning [53.97273491846883]
  本稿では、オフラインシーケンスモデリングとオフライン強化学習をダブルポリシー推定と組み合わせたRLアルゴリズムDPEを提案する。 D4RLベンチマークを用いて,OpenAI Gymの複数のタスクで本手法を検証した。
  論文  参考訳（メタデータ） (2023-08-28T20:46:07Z)
• TWINS: A Fine-Tuning Framework for Improved Transferability of Adversarial Robustness and Generalization [89.54947228958494]
  本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。 本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。 TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
  論文  参考訳（メタデータ） (2023-03-20T14:12:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。