論文の概要: Black-Mamba: Biologically-Inspired Leaky Accumulation for Conceptual Knowledge under Distribution Drift
- arxiv url: http://arxiv.org/abs/2607.18899v1
- Date: Tue, 21 Jul 2026 09:37:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 19:05:05.384349
- Title: Black-Mamba: Biologically-Inspired Leaky Accumulation for Conceptual Knowledge under Distribution Drift
- Title(参考訳): ブラックマンバ:分布ドリフト下の概念知識のための生物学的にヒントを得た漏洩累積
- Abstract要約: 我々は,オンライン適応を分布ドリフト下でのエビデンスゲート状態追跡として追跡するテスト時間適応シーケンスモデルであるBlack-Mambaを紹介する。
Black-Mambaは既存のテスト時間適応法と比較して、競争力や予測性能の向上を実現している。
これらの結果は、数学的解析や生物学的証拠とともに、蓄積された仮定が過渡雑音から持続的ドリフトを区別するための原理的な信号を与えることを示唆している。
- 参考スコア(独自算出の注目度): 8.664455165774896
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Forecasting under real-world conditions is inherently non-stationary, as the conditional distribution of future observations evolves over time. Recent test-time adaptive sequence models address this challenge by updating internal states during inference, but tie adaptation to instantaneous prediction errors or surprise. This coupling can conflate persistent distribution shift with stochastic innovations, leading to unnecessary updates and inefficient adaptation. We introduce Black-Mamba, a test-time adaptive forecasting architecture that formulates online adaptation as evidence-gated state tracking under distribution drift. The model augments a base predictor with a dynamic memory updated when temporally accumulated surprisal provides sufficient evidence of a regime change. This turns adaptation into a selective, event-driven process rather than a continuous one. Across multiple forecasting benchmarks with non-stationary dynamics, Black-Mamba achieves competitive or improved predictive performance compared to existing test-time adaptation methods while significantly reducing the number of memory updates during inference. Together with mathematical analysis and biological evidence, these results suggest that accumulated surprisal provides a principled signal for distinguishing persistent drift from transient noise, yielding more efficient and robust adaptation.
- Abstract(参考訳): 実世界の条件下での予測は本質的に非定常であり、将来の観測の条件分布は時間とともに進化する。
最近のテスト時間適応シーケンスモデルは、推論中に内部状態を更新することでこの問題に対処するが、適応を瞬時に予測エラーやサプライズに結びつける。
この結合は、持続的な分散シフトを確率的革新と説明し、不要な更新と非効率な適応をもたらす。
我々は,オンライン適応を分布流下でのエビデンスゲート状態追跡として定式化する,テスト時間適応予測アーキテクチャであるBlack-Mambaを紹介する。
このモデルは、時間的に蓄積された仮定が状態変化の十分な証拠を提供すると、動的メモリが更新されたベース予測器を増強する。
これにより、適応は継続的ではなく、選択的でイベント駆動のプロセスに変わります。
非定常力学を用いた複数の予測ベンチマークにおいて、Black-Mambaは既存のテスト時間適応法と比較して競合的あるいは改善された予測性能を実現し、推論中のメモリ更新数を著しく削減した。
数学的解析や生物学的証拠とともに、蓄積された仮定は過渡的雑音から持続的ドリフトを区別する原理的な信号を与え、より効率的で堅牢な適応をもたらすことを示唆している。
関連論文リスト
- Dirichlet-Guided Group Forecasting for Alleviating Over-smoothing in Time Series Forecasting [30.49998293741518]
時系列予測は、特に将来のダイナミクスがマルチモーダルである場合、しばしば過度に平滑化に悩まされる。
モード保存型予測フレームワークであるDirichlet-Guided Group Forecasting (DGF)を提案する。
DGFはディリクレ誘導の階層的なサンプリング機構と報酬に基づく最適化を使用して、正確で、動的に一貫性があり、モード固有の予測を促進する。
論文 参考訳(メタデータ) (2026-06-09T08:56:21Z) - Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。
本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-24T07:31:55Z) - TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting [67.91113180885601]
TimeAPNは時間領域と周波数領域の両方から非定常因子を明示的にモデル化し、予測する。
TimeAPNは、複数の予測水平線にわたる長期的な予測精度を一貫して改善する。
これは最先端の可逆正規化法より優れている。
論文 参考訳(メタデータ) (2026-03-18T07:21:24Z) - Learning from Yesterday's Error: An Efficient Online Learning Method for Traffic Demand Prediction [6.104967994062357]
FORESEE(Forecasting Online with Residual Smoothing and Ensemble Experts)は、正確で堅牢で効率的なオンライン適応フレームワークである。
これは、昨日の予測エラーを使用して、各地域の今日の予測を補正する。
バックボーンモデルを用いた7つの実世界のデータセットの実験では、ForESEEは予測精度を一貫して改善し、分散シフトが最小でもロバスト性を維持する。
論文 参考訳(メタデータ) (2026-02-25T10:19:39Z) - Filtering Beats Fine Tuning: A Bayesian Kalman View of In Context Learning in LLMs [0.0]
本稿では,大規模言語モデルにおける推論時適応をオンラインベイズ状態推定として解釈する理論優先フレームワークを提案する。
線形化状態空間モデルにより制御された低次元潜在状態の逐次的推論としてタスク固有学習とコンテキスト固有学習を定式化する。
論文 参考訳(メタデータ) (2026-01-02T21:18:48Z) - SimDiff: Simpler Yet Better Diffusion Model for Time Series Point Forecasting [8.141505251306622]
拡散モデルは近年,時系列予測において有望であることが示されている。
それらはしばしば最先端のポイント推定性能を達成するのに失敗する。
ポイント推定のための一段階のエンドツーエンドフレームワークであるSimDiffを提案する。
論文 参考訳(メタデータ) (2025-11-24T16:09:55Z) - BayesTTA: Continual-Temporal Test-Time Adaptation for Vision-Language Models via Gaussian Discriminant Analysis [41.09181390655176]
CLIPのような視覚言語モデル(VLM)は、強いゼロショット認識を実現するが、実世界のシナリオに共通する時空間的な分散シフトの下で大幅に劣化する。
テスト分布が時間とともに徐々に変化するCT-TTA(textitContinal-Temporal Test-Time Adaptation)として、この実践的問題を定式化する。
我々は、時間的に一貫した予測を実行し、視覚表現を動的に調整する、ベイズ適応フレームワークであるtextitBayesTTAを提案する。
論文 参考訳(メタデータ) (2025-07-11T14:02:54Z) - Dynamical Diffusion: Learning Temporal Dynamics with Diffusion Models [71.63194926457119]
動的拡散(DyDiff, Dynamical Diffusion)は, 時間的に意識された前と逆のプロセスを含む理論的に健全なフレームワークである。
科学的時間的予測、ビデオ予測、時系列予測に関する実験は、動的拡散が時間的予測タスクのパフォーマンスを一貫して改善することを示した。
論文 参考訳(メタデータ) (2025-03-02T16:10:32Z) - Neural Conformal Control for Time Series Forecasting [54.96087475179419]
非定常環境における適応性を高める時系列のニューラルネットワーク共形予測手法を提案する。
提案手法は,ニューラルネットワークエンコーダを用いた補助的マルチビューデータを活用することにより,望ましい対象範囲を達成するために設計されたニューラルネットワークコントローラとして機能する。
予測間隔の整合性に優れたキャリブレーションを組み合わさった手法は, 適用範囲と確率的精度の大幅な向上を実証的に示す。
論文 参考訳(メタデータ) (2024-12-24T03:56:25Z) - Proactive Model Adaptation Against Concept Drift for Online Time Series Forecasting [23.50574069148193]
本稿では,オンライン時系列予測のための新しいプロアクティブモデル適応フレームワークを提案する。
Proceedは最初に、最近使用したトレーニングサンプルと現在のテストサンプルの間のコンセプトドリフトを推定する。
次に、推定ドリフトをパラメータ調整に効率的に変換するために適応生成器を使用する。
論文 参考訳(メタデータ) (2024-12-11T14:57:10Z) - A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。
後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。
実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文 参考訳(メタデータ) (2024-02-26T04:39:01Z) - Stabilizing Machine Learning Prediction of Dynamics: Noise and
Noise-inspired Regularization [58.720142291102135]
近年、機械学習(ML)モデルはカオス力学系の力学を正確に予測するために訓練可能であることが示されている。
緩和技術がなければ、この技術は人工的に迅速にエラーを発生させ、不正確な予測と/または気候不安定をもたらす可能性がある。
トレーニング中にモデル入力に付加される多数の独立雑音実効化の効果を決定論的に近似する正規化手法であるLinearized Multi-Noise Training (LMNT)を導入する。
論文 参考訳(メタデータ) (2022-11-09T23:40:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。