論文の概要: Not All Variables Agree: Reliability-Aware Variable-Wise Gradient Surgery for Multivariate Time-Series Forecasting

• arxiv url: http://arxiv.org/abs/2609.08554v1
• Date: Tue, 08 Sep 2026 10:38:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.629587
• Title: Not All Variables Agree: Reliability-Aware Variable-Wise Gradient Surgery for Multivariate Time-Series Forecasting
• Title（参考訳）: 多変量時系列予測のための信頼性を考慮した可変幅勾配手術
• Abstract要約: 変数ワイズ勾配を直接測定し、そのペアワイズ類似度の30.6%が7つのデータセットの平均で負であることが分かる。 共有トレーニングでは、64変数のうち35変数は、フルインプットの単一ターゲットオラクルよりも悪い。 キャッシュ互換層を有するバックボーンに対するPV-Surgery(Per-Variable Surgery)を提案する。
• 参考スコア（独自算出の注目度）: 9.878279973302135
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In data-driven training, multivariate time-series forecasting is usually optimized with a scalar loss averaged over samples, variables, and horizons. This averaging is convenient, but the optimizer sees only the aggregated gradient, which does not reveal whether the variable-wise contributions align or oppose one another. To quantify how often this disagreement arises, we measure the variable-wise gradients directly and find that 30.6% of their pairwise cosine similarities are negative on average across seven datasets. However, conflict and harm are not the same thing. Under shared training 35 of the 64 variables do worse than a full-input single-target oracle, and the harmed fraction is not reliably predicted by how often gradients conflict. We propose Per-Variable Surgery (PV-Surgery), an optimizer-side training strategy for backbones with cache-compatible layers. One backward pass builds variable-wise gradient proxies from output-side signals and keeps the pointwise forecasting loss. Reliability-aware selection targets layers whose proxy sums closely approximate their shared-gradient slices. Conditional pooling forms anchor and conflict pools without dropping variables. Common-direction surgery aligns variable or pooled gradients with their normalized mean and restores input norms to avoid reweighting. In experiments across five backbones, seven datasets, and four horizons, PV-Surgery lowers MSE by 3.61% and MAE by 2.93% on average. For multivariate forecasting, this indicates that the variable-wise structure hidden by mean-loss training is a usable optimization signal.
• Abstract（参考訳）: データ駆動トレーニングでは、多変量時系列予測は通常、サンプル、変数、水平線の平均的なスカラー損失で最適化される。 この平均化は便利であるが、オプティマイザは集約された勾配しか見ていないため、変数的なコントリビューションが互いに一致しているか、反対するかは明らかにしない。 この不一致の発生頻度を定量化するために、変数ワイズ勾配を直接測定し、7つのデータセットの平均で30.6%のペアワイズコサイン類似性が負であることが分かる。 しかし、紛争と危害は同じものではない。 64変数の35変数の共有トレーニングでは、フルインプットの単一ターゲットのオラクルよりも悪くなる。 キャッシュ互換層を有するバックボーンに対する最適化側トレーニング戦略として,Per-Variable Surgery (PV-Surgery)を提案する。 1つの後方通過は、出力側信号から可変ワイド勾配プロキシを構築し、ポイントワイドの損失を予測する。 信頼性に配慮した選択は、プロキシの合計が共有段階スライスに近い層をターゲットにしている。 条件プーリングは変数を落とさずにアンカーとコンフリクトプールを形成する。 共通方向手術は、可変勾配またはプール勾配を正規化平均と整列させ、再重み付けを避けるために入力ノルムを復元する。 5つのバックボーン、7つのデータセット、4つの水平線に関する実験では、PV-SurgeryはMSEを3.61%、MAEを2.93%下げる。 多変量予測では,平均余剰学習によって隠蔽される変数ワイド構造が最適化信号であることを示す。

関連論文リスト

• On-Policy Self-Distillation in Diffusion Models [89.32656931795293]
  強化学習は、拡散モデルと人間の好みやタスク固有の目的とを一致させることができるが、エンドポイント報酬は、中間的偏見予測をどのように変更すべきかを規定していない。 そこで我々は、DiffusionOPSDを、画像レベルの報酬誘導を明示的なターゲットに変換して、サンプルクエリにおけるクリーンな出力予測を行うオンライン自己蒸留フレームワークとして導入する。 SD 3.5-Mとステップ蒸留したZ-Image-Turboを用いて、2つのバックボーンと10個の評価器で20の報酬マッチング設定のうち19のファイナルホールトアウトスコアを達成した。
  論文  参考訳（メタデータ） (2026-08-25T14:55:24Z)
• Sample-Adaptive Latent Rewards for Uncertainty-Guided Diffusion Post-Training [51.18425726646089]
  我々は、画像とビデオの拡散モデルのための統合潜在空間フレームワークであるtextscSUREを提案する。 報酬分布を学習し、信頼性を直接利用して、密集したポストトレーニングをガイドする。 textscSURE-REFLは評価手法の中で最も高いVBench品質、セマンティック、総得点を達成する。
  論文  参考訳（メタデータ） (2026-08-06T14:55:42Z)
• The Loss Does Not See the Basis, but Adam Does [0.0]
  因子モデル$W = UVtop$の勾配勾配は低ランク解に対して暗黙的に偏りがあることが示される。 次に, 埋設地真実に対する回復誤差により, 未決定行列検出に関する9つの更新規則を整理した。
  論文  参考訳（メタデータ） (2026-08-05T17:56:26Z)
• A Tale of Two Variances: When Single-Seed Benchmarks Fail in Bayesian Deep Learning [10.891872788947298]
  局所CRPS分散は単列推定誤差の直接信号を提供する。 パワーロー適合品質と単調性は、トラジェクトリ正則性のコンパクトなメソッドレベルの要約を提供する。
  論文  参考訳（メタデータ） (2026-04-25T02:52:33Z)
• Towards Self-Supervised Covariance Estimation in Deep Heteroscedastic Regression [102.24287051757469]
  深部異方性回帰における自己教師付き共分散推定について検討する。 正規分布の間の2-ワッサーシュタイン距離の上界を導出する。 幅広い合成データセットと実データセットに対する実験により、提案された2-ワッサーシュタインと擬似ラベルアノテーションが結合した結果、計算的に安価で正確な深部ヘテロ代用回帰が導かれることが示された。
  論文  参考訳（メタデータ） (2025-02-14T22:37:11Z)
• Adapting to Latent Subgroup Shifts via Concepts and Proxies [82.01141290360562]
  最適ターゲット予測器は、ソースドメインでのみ利用できる概念とプロキシ変数の助けを借りて、非パラメトリックに識別可能であることを示す。 本研究では,データ生成プロセスに特有の潜在変数モデルを提案する。
  論文  参考訳（メタデータ） (2022-12-21T18:30:22Z)
• Intra-class Adaptive Augmentation with Neighbor Correction for Deep Metric Learning [99.14132861655223]
  深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。 クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。 本手法は,検索性能の最先端手法を3%～6%向上させる。
  論文  参考訳（メタデータ） (2022-11-29T14:52:38Z)
• Gradient Estimation for Binary Latent Variables via Gradient Variance Clipping [6.234350105794441]
  勾配推定はしばしば、離散潜在変数を持つ生成モデルに適合するために必要である。 DisARMや他の推定器は、パラメータ空間の境界付近でばらつきを爆発させる可能性がある。 パラメータ空間の境界における分散を小さくする勾配推定器 textitbitflip-1 を提案する。
  論文  参考訳（メタデータ） (2022-08-12T05:37:52Z)
• Distances with mixed type variables some modified Gower's coefficients [0.0]
  距離関数の選択は、主に選択された変数のタイプに依存します。 混合型変数の最も一般的な距離は、ゴーワーの類似度係数の補数として導かれる。 この記事では、全体的な未重み付きGower距離に影響を与える主な欠点に対処する。
  論文  参考訳（メタデータ） (2021-01-07T11:00:57Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。