論文の概要: Abstain Mask Retain Core: Time Series Prediction by Adaptive Masking Loss with Representation Consistency
- arxiv url: http://arxiv.org/abs/2510.19980v1
- Date: Wed, 22 Oct 2025 19:23:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 03:08:16.723237
- Title: Abstain Mask Retain Core: Time Series Prediction by Adaptive Masking Loss with Representation Consistency
- Title(参考訳): 絶対マスク保持コア:表現整合性を考慮した適応型マスキング損失による時系列予測
- Authors: Renzhao Liang, Sizhe Xu, Chenggang Xie, Jingru Chen, Feiyang Ren, Shu Yang, Takahiro Yabe,
- Abstract要約: 時系列予測はエネルギー管理や金融市場といった重要な領域において重要な役割を担っている。
本研究は, 履歴データを適切に切り詰めることによって予測精度を向上させるという, 直感に反する現象を明らかにする。
本稿では,適応的マスキング・ロス(Adaptive Masking Loss)と表現整合性(Representation Consistency)を提案する。
- 参考スコア(独自算出の注目度): 4.047219770183742
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series forecasting plays a pivotal role in critical domains such as energy management and financial markets. Although deep learning-based approaches (e.g., MLP, RNN, Transformer) have achieved remarkable progress, the prevailing "long-sequence information gain hypothesis" exhibits inherent limitations. Through systematic experimentation, this study reveals a counterintuitive phenomenon: appropriately truncating historical data can paradoxically enhance prediction accuracy, indicating that existing models learn substantial redundant features (e.g., noise or irrelevant fluctuations) during training, thereby compromising effective signal extraction. Building upon information bottleneck theory, we propose an innovative solution termed Adaptive Masking Loss with Representation Consistency (AMRC), which features two core components: 1) Dynamic masking loss, which adaptively identified highly discriminative temporal segments to guide gradient descent during model training; 2) Representation consistency constraint, which stabilized the mapping relationships among inputs, labels, and predictions. Experimental results demonstrate that AMRC effectively suppresses redundant feature learning while significantly improving model performance. This work not only challenges conventional assumptions in temporal modeling but also provides novel theoretical insights and methodological breakthroughs for developing efficient and robust forecasting models.
- Abstract(参考訳): 時系列予測はエネルギー管理や金融市場といった重要な領域において重要な役割を担っている。
深層学習に基づくアプローチ(例えば、MLP、RNN、Transformer)は目覚ましい進歩を遂げているが、一般的な「ロングシーケンス情報ゲイン仮説」は固有の限界を示している。
本研究は, 系統的な実験を通じて, 歴史的データを適切に切り離すことで, 予測精度をパラドックス的に向上させ, 既存のモデルが訓練中に十分な冗長な特徴(例えば, ノイズや不適切なゆらぎ)を学習し, 効果的な信号抽出を行うことを示す。
情報ボトルネック理論に基づいて,適応的マスキング損失と表現整合性(AMRC)という,2つのコアコンポーネントを特徴とするイノベーティブなソリューションを提案する。
1) モデルトレーニング中の勾配降下を誘導するために,高度に識別された時間セグメントを適応的に同定する動的マスキング損失
2)表現整合性制約は,入力,ラベル,予測のマッピング関係を安定化させる。
実験の結果,AMRCは冗長な特徴学習を効果的に抑制し,モデル性能を著しく向上することが示された。
この研究は、時間モデリングにおける従来の仮定に挑戦するだけでなく、効率的で堅牢な予測モデルを開発するための新しい理論的な洞察と方法論的なブレークスルーを提供する。
関連論文リスト
- ARISE: An Adaptive Resolution-Aware Metric for Test-Time Scaling Evaluation in Large Reasoning Models [102.4511331368587]
ARISE(Adaptive Resolution-Aware Scaling Evaluation)は、大規模推論モデルの試験時間スケーリングの有効性を評価するために設計された新しい尺度である。
我々は、様々な領域にわたる最先端の推論モデルを評価する包括的な実験を行う。
論文 参考訳(メタデータ) (2025-10-07T15:10:51Z) - Characteristic Root Analysis and Regularization for Linear Time Series Forecasting [9.254995889539716]
時系列予測は多くの領域において重要な課題である。
近年の研究では、単純な線形モデルの驚くほどの競争性が強調されている。
本稿では時間力学における特性根の役割に焦点を当てる。
論文 参考訳(メタデータ) (2025-09-28T03:06:30Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [74.56971641937771]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - Beyond Model Ranking: Predictability-Aligned Evaluation for Time Series Forecasting [18.018179328110048]
スペクトルコヒーレンスに基づく予測可能性整合診断フレームワークを提案する。
予測可能性ドリフト(predictability drift, 予測可能性ドリフト)の最初の体系的な証拠として, タスクの予測困難度が時間とともに急激に変化することを示す。
複雑なモデルは予測可能性の低いデータより優れているのに対し、線形モデルは予測可能なタスクに非常に効果的である。
論文 参考訳(メタデータ) (2025-09-27T02:56:06Z) - Learning Temporal Saliency for Time Series Forecasting with Cross-Scale Attention [5.992220383989106]
パッチベースのクロスアテンション機構とマルチスケール処理を組み合わせた,革新的なアーキテクチャであるCrossScaleNetを提案する。
本評価は,時間的塩分濃度検出と予測精度の両方において優れた性能を示す。
論文 参考訳(メタデータ) (2025-09-26T18:43:51Z) - Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories [58.988535279557546]
適応推論トラジェクトリを用いたtextbf sycophancy Mitigation を提案する。
SMARTは,分布外の入力に対して強い性能を維持しながら,サイコファンティクスの挙動を著しく低下させることを示した。
論文 参考訳(メタデータ) (2025-09-20T17:09:14Z) - Advancing Reliable Test-Time Adaptation of Vision-Language Models under Visual Variations [67.35596444651037]
視覚言語モデル(VLM)は、素晴らしいゼロショット機能を示すが、ラベル付きデータが利用できない場合、下流タスクの分散シフトに苦慮する。
本稿では,信頼性を両面から高めるReliable Test-Time Adaptation (ReTA)法を提案する。
論文 参考訳(メタデータ) (2025-07-13T05:37:33Z) - Dynamic Sparse Causal-Attention Temporal Networks for Interpretable Causality Discovery in Multivariate Time Series [0.4369550829556578]
MTS(DyCAST-Net)における解釈因果発見のための動的スパース因果ネットワークを導入する。
DyCAST-Netは、拡張時間的畳み込みと動的スパースアテンション機構を統合することで因果発見を強化するために設計された新しいアーキテクチャである。
我々は、DyCAST-Netが、TCDF、GCFormer、CausalFormerといった既存のモデルより一貫して優れていることを示す。
論文 参考訳(メタデータ) (2025-07-13T01:03:27Z) - Time-Series Learning for Proactive Fault Prediction in Distributed Systems with Deep Neural Structures [5.572536027964037]
本稿では,分散システムにおける障害予測と遅延応答の課題に対処する。
時間とともにシステム状態の進化をモデル化するために、Gated Recurrent Unitを使用します。
次に、注意機構を適用して、重要な時間セグメントを強化し、潜在的な欠陥を識別するモデルの能力を向上させる。
論文 参考訳(メタデータ) (2025-05-27T04:31:12Z) - A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳(メタデータ) (2023-11-13T01:48:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。