論文の概要: Beyond Magnitude and Shape: A Direction-Aware Loss for Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2608.01857v1
- Date: Mon, 03 Aug 2026 08:06:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.393875
- Title: Beyond Magnitude and Shape: A Direction-Aware Loss for Time Series Forecasting
- Title(参考訳): マグニチュードとシェイプを超えて - 時系列予測のための方向認識損失
- Abstract要約: MSEで訓練された予測器は、小さな動きの方向で失敗する。
予測と目標の差分ベクトルを整列する,シンプルで効果的な方向認識損失であるCosDirを提案する。
CosDirは軽量なプラグイン用語で、アーキテクチャの変更なしにバックボーンにアタッチされる。
- 参考スコア(独自算出の注目度): 13.359564942661251
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The direction of change --- whether a series will move up or down --- is often as important as its exact value in decisiondriven applications such as risk management and financial forecasting. However, most forecasting losses optimize either point magnitude or shape and frequency structure, and none explicitly targets the direction of change. In this paper, we find that MSE-trained forecasters fail on the direction of small moves. To address this, we propose CosDir, a simple yet effective direction-aware loss that aligns the difference vectors of the prediction and the target via cosine similarity. Being scale-invariant, CosDir keeps a directional gradient on small moves, re-injecting learning signal exactly where MSE neglects it. CosDir is a lightweight, plug-in term that attaches to any backbone without architectural modification. Since the best ratio for mixing the directional and magnitude terms differs across datasets, we further propose CosDir-UW, an extension that makes this ratio adaptive by learning it during training, matching a per-dataset tuned weight with no hyperparameter. We conduct over 100K experiments, demonstrating that our method consistently and significantly improves directional accuracy while preserving magnitude accuracy, and that it outperforms various loss functions. Code is available at: https://github.com/seunghan96/cosdir.
- Abstract(参考訳): 変化の方向 -- シリーズが上下するかどうか -- は、リスク管理や財務予測といった意思決定型アプリケーションにおいて、その正確な価値と同じくらい重要であることが多い。
しかしながら、ほとんどの予測損失は、点の大きさや形状、周波数構造を最適化し、変化の方向を明示的に目標としない。
本稿では,MSEが学習した予測器が小さな動きの方向で故障することを示す。
そこで我々はCosDirを提案する。CosDirは、予測と目標の差分ベクトルをコサイン類似性により整列する、シンプルで効果的な方向認識損失である。
スケール不変であるため、CosDirは小さな動きの方向勾配を保ち、MSEが無視する場所で学習信号を再注入する。
CosDirは軽量なプラグイン用語で、アーキテクチャの変更なしにバックボーンにアタッチされる。
方向と大きさの項を混合するのに最適な比率はデータセットによって異なるため、トレーニング中に学習して適応させる拡張であるCosDir-UWを提案し、データセット毎の調整重量をハイパーパラメータなしでマッチングする。
我々は100K以上の実験を行い、精度を保ちながら方向性の精度を一貫して向上し、様々な損失関数より優れることを示した。
コードは、https://github.com/seunghan96/cosdir.comで入手できる。
関連論文リスト
- Improving Neural Network Training by Decoupling the Magnitude and Direction of Weight Vectors [110.10775872372047]
EmphMagnitude-Direction-Direction (MD) Decouplingを提案する。
これは、各重量をハイパースフィア上の固定ノルム方向に分解し、学習可能な1ローとカラムごとのマグニチュードゲインを、別々の学習速度で更新する。
アダムとムーンの双方で、MD Decouplingはよく調整されたベースラインを改善し、モデルの幅を調整せずに最適なLRを転送し、大規模なMixture-of-Expertsモデルのスケールに役立っている。
論文 参考訳(メタデータ) (2026-06-24T15:40:26Z) - Directional Consistency as a Complementary Optimization Signal: The GONO Framework [0.0]
我々は、深層学習最適化における未探索現象を定式化し、指向性アライメントと損失収束を分離することができる。
本稿では,方向整合性の下でモーメントを増幅し,振動中にそれを抑圧する cc_t に基づいて,Adam の運動量ベータを適応させる GONO を紹介する。
我々は、GONOがAdamの収束率と一致することを証明し、信号が非形式的であるとき、正確にAdamに還元する。
論文 参考訳(メタデータ) (2026-05-07T17:05:05Z) - Gravity-aligned Rotation Averaging with Circular Regression [53.81374943525774]
我々は,重力方向をグローバルパイプラインの回転平均位相に統合する原理的アプローチを導入する。
4つの大規模データセットで最先端の精度を実現する。
論文 参考訳(メタデータ) (2024-10-16T17:37:43Z) - Unified Gradient-Based Machine Unlearning with Remain Geometry Enhancement [29.675650285351768]
深層ニューラルネットワークのプライバシーと信頼性を高めるために、機械学習(MU)が登場した。
近似MUは大規模モデルの実用的手法である。
本稿では,最新の学習方向を暗黙的に近似する高速スローパラメータ更新手法を提案する。
論文 参考訳(メタデータ) (2024-09-29T15:17:33Z) - Stabilizing Backpropagation Through Time to Learn Complex Physics [21.850601375335074]
物理シミュレーションにおいて、バックプロパゲーションフィードバックは時間的コヒーレントな振る舞いを取得するために重要である。
物理シミュレータはバランスの取れた勾配の流れを持ち、バックプロパゲーションパスの特定の変更は元のミニマの位置を変化させる。
最終手順は、一連の勾配停止と成分比較演算により容易に実装できる。
論文 参考訳(メタデータ) (2024-05-03T12:20:08Z) - Step-size Optimization for Continual Learning [5.834516080130717]
継続的な学習では、学習者は生涯にわたってデータから学び続けなければならない。
ニューラルネットワークでは、ステップサイズのベクトルを使用して、サンプルがネットワーク重みを変化させる程度をスケールすることで、これを実装できる。
RMSPropやAdamのような一般的なアルゴリズムは、このステップサイズのベクトルに適応するために勾配、特に正規化を使用する。
論文 参考訳(メタデータ) (2024-01-30T19:35:43Z) - The KFIoU Loss for Rotated Object Detection [115.334070064346]
本稿では,SkewIoU損失とトレンドレベルアライメントを両立できる近似的損失を考案する上で,有効な方法の1つとして論じる。
具体的には、対象をガウス分布としてモデル化し、SkewIoUのメカニズムを本質的に模倣するためにカルマンフィルタを採用する。
KFIoUと呼ばれる新たな損失は実装が容易で、正確なSkewIoUよりもうまく動作する。
論文 参考訳(メタデータ) (2022-01-29T10:54:57Z) - Correcting Momentum with Second-order Information [50.992629498861724]
最適積に$O(epsilon)$epsilon点を求める非臨界最適化のための新しいアルゴリズムを開発した。
我々は、さまざまな大規模ディープラーニングベンチマークとアーキテクチャで結果を検証する。
論文 参考訳(メタデータ) (2021-03-04T19:01:20Z) - Deriving Differential Target Propagation from Iterating Approximate
Inverses [91.3755431537592]
本稿では,各層が学習した逆数に依存するターゲット伝搬の特定の形態が,ガウス-ニュートン勾配に基づく近似最適化に対応する更新規則を導出することを示す。
そこで我々は,各層における局所的自動エンコーダに基づく反復計算について検討し,より正確な目標伝搬のインバージョンを実現する。
論文 参考訳(メタデータ) (2020-07-29T22:34:45Z) - AdamP: Slowing Down the Slowdown for Momentum Optimizers on
Scale-invariant Weights [53.8489656709356]
正規化技術は現代の深層学習の恩恵である。
しかし、運動量を導入することで、スケール不変の重みに対する効果的なステップサイズが急速に小さくなることがしばしば見過ごされる。
本稿では,この2つの材料の組み合わせが,有効ステップサイズと準最適モデル性能の早期劣化につながることを検証した。
論文 参考訳(メタデータ) (2020-06-15T08:35:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。