論文の概要: A Lightweight Plug-in Gate for Transformer-Based Time-Series Forecasters

• arxiv url: http://arxiv.org/abs/2609.21044v1
• Date: Thu, 17 Sep 2026 20:04:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.765702
• Title: A Lightweight Plug-in Gate for Transformer-Based Time-Series Forecasters
• Title（参考訳）: 変圧器を用いた時系列予測用軽量プラグインゲート
• Abstract要約: 既存のTransformerベースの予測器は、通常、共変表現を構築し、明示的なアクセプションステージなしでエンコーダに渡す。 我々は,Sigmoidスコアを表現単位に割り当てる軽量な表現レベルプリエンコーダゲートでインタフェースを実装した。 TimeXer, Inverted Transformer (iTransformer), Patch Time Series Transformer (PatchTST) のプラグインモジュールとして評価される。
• 参考スコア（独自算出の注目度）: 21.360092008773176
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Covariate-rich time-series forecasting requires deciding how external variables enter the target forecasting path. Existing Transformer-based forecasters usually build a covariate representation and pass it to the encoder without an explicit admission stage. This paper studies pre-encoder covariate admission as an input-side interface that regulates that representation immediately before encoder processing. We implement the interface with a lightweight representation-level pre-encoder gate that assigns sigmoid scores to representation units, and we also study a usage-regularized variant that penalizes average admission. The interface is evaluated as a plug-in module for TimeXer, Inverted Transformer (iTransformer), and Patch Time Series Transformer (PatchTST) under a zero-extra-tuning protocol, where each gated model inherits the corresponding baseline configuration. Experiments on the Electricity Transformer Temperature minute-level (ETTm1 and ETTm2) datasets, Traffic, Energy, and influenza-like illness (ILI) include paired forecasting comparisons, gate-placement ablation, initialization ablation, controlled covariate-admission analysis, and a variance inflation factor (VIF)-informed permutation feature importance (PFI) diagnostic case study. In the tested settings, the gate is competitive with the corresponding baselines, and the usage penalty reduces average admission scores while keeping forecasting errors close to the unpenalized TimeXer setting.
• Abstract（参考訳）: 共変量豊富な時系列予測では、外部変数がターゲット予測パスに入る方法を決定する必要がある。 既存のTransformerベースの予測器は、通常、共変表現を構築し、明示的なアクセプションステージなしでエンコーダに渡す。 本稿では,エンコーダ処理直前にその表現を規定する入力側インタフェースとして,プリエンコーダ共変器の入出力について検討する。 我々は,Sigmoidスコアを表現単位に割り当てる軽量な表現レベルプリエンコーダゲートを用いてインタフェースを実装し,平均入力をペナライズする使用規則付き変種についても検討する。 TimeXer、Inverted Transformer(iTransformer)、Patch Time Series Transformer(PatchTST)のプラグインモジュールとして評価され、各ゲートモデルは対応するベースライン構成を継承する。 The Electricity Transformer temperature minute-level (ETTm1 and ETTm2) datasets, Traffic, Energy, and influenza-like disease (ILI) の2種類の予測比較, ゲートプレースアブレーション, 初期化アブレーション, 制御された共変量順応分析, および分散インフレーション係数 (VIF) インフォームド・パーミューテーション機能の重要性 (PFI) の診断ケーススタディを含む実験を行った。 テストされた設定では、ゲートは対応するベースラインと競合し、使用時ペナルティは、未払いのTimeXer設定に近い誤差を予測しながら平均入場スコアを減少させる。

関連論文リスト

• Test-Time Prototype Adaptation for Open-Vocabulary Semantic Segmentation [5.483657589815383]
  Test-time Prototype Adaptation (TPA) は出力レベルで動作し、ホストのフォワードパスとウェイトは変更されていない。 TPAは、未ラベルのデプロイメントドメインイメージの小さなプール上で、ホスト自身の出力予測から確実なアンカーパッチを特定する。 この凍結された銀行に対する1つのコサイン類似性のルックアップは、ホストのロジットと線形に融合された補助スコアを提供する。
  論文  参考訳（メタデータ） (2026-08-08T18:51:16Z)
• DUET -- Dual User Embedding Transformers for Offsite Conversion Prediction [8.972672149050627]
  計算レコメンデーションシステムにおいて,オフサイト変換率(OCVR)予測は重要なランキング問題である。 このタスクは、クリック信号が豊富で、短い時間的水平線を示すのに対して、変換信号は本質的に疎く、長い遅延があり、しばしば未配布である。 ユーザ行動データを2つのドメインコヒーレントなストリーム – クリックと変換 – に明示的に分割するフレームワークであるDUETを提案する。
  論文  参考訳（メタデータ） (2026-06-08T23:13:58Z)
• N-vium: Mixture-of-Exits Transformer for Accelerated Exact Generation [68.47358899451255]
  N-vium (N-vium) は、標準ハードウェア上での計算を部分的に並列化する変圧器である。 N-Viumは複数の深さで予測ヘッドを付加し、次のトーケン分布をこれらの出口上の学習混合物として定義する。
  論文  参考訳（メタデータ） (2026-05-13T08:46:17Z)
• Surprised by Attention: Predictable Query Dynamics for Time Series Anomaly Detection [1.7751300245073598]
  AxonADは、マルチヘッドアテンションクエリの進化を短い水平方向予測可能なプロセスとして扱う教師なし検出器である。 テール集約型クエリミスマッチスコアは、最近のタイムステップで予測されたクエリとターゲットクエリの相違を測定する。 インターバルアノテーションを用いた車内テレメトリでは、AxonADは強力なベースライン上でのランキング品質と時間的ローカライゼーションを改善している。
  論文  参考訳（メタデータ） (2026-03-13T11:40:51Z)
• Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
  我々は時系列の統一予測のための因果変換器Timer-XLを提案する。 大規模な事前トレーニングに基づいて、Timer-XLは最先端のゼロショット性能を達成する。
  論文  参考訳（メタデータ） (2024-10-07T07:27:39Z)
• Sparse-VQ Transformer: An FFN-Free Framework with Vector Quantization for Enhanced Time Series Forecasting [28.646457377816795]
  スパースベクトル量子化FFN自由変換器(スパースVQ)について紹介する。 提案手法は,RevIN(Reverse Instance Normalization)と組み合わせた疎ベクトル量子化手法を用いてノイズの影響を低減する。 我々のFFNフリーアプローチは、パラメータカウントをトリムし、計算効率を向上し、オーバーフィッティングを減らす。
  論文  参考訳（メタデータ） (2024-02-08T17:09:12Z)
• iTransformer: Inverted Transformers Are Effective for Time Series Forecasting [62.40166958002558]
  iTransformerを提案する。これは、逆次元に注意とフィードフォワードのネットワークを単純に適用する。 iTransformerモデルは、挑戦的な現実世界のデータセットの最先端を実現する。
  論文  参考訳（メタデータ） (2023-10-10T13:44:09Z)
• CARD: Channel Aligned Robust Blend Transformer for Time Series Forecasting [50.23240107430597]
  本稿では,CARD(Channel Aligned Robust Blend Transformer)という特殊なトランスを設計する。 まず、CARDはチャネルに沿ったアテンション構造を導入し、信号間の時間的相関をキャプチャする。 第二に、マルチスケール知識を効率的に活用するために、異なる解像度のトークンを生成するトークンブレンドモジュールを設計する。 第3に,潜在的な過度な問題を軽減するため,時系列予測のためのロバストな損失関数を導入する。
  論文  参考訳（メタデータ） (2023-05-20T05:16:31Z)
• Towards Long-Term Time-Series Forecasting: Feature, Pattern, and Distribution [57.71199089609161]
  長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。 トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。 LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
  論文  参考訳（メタデータ） (2023-01-05T13:59:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。