論文の概要: TARDIS: Mitigate Temporal Misalignment via Representation Steering

• arxiv url: http://arxiv.org/abs/2503.18693v1
• Date: Mon, 24 Mar 2025 14:03:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:34:40.406029
• Title: TARDIS: Mitigate Temporal Misalignment via Representation Steering
• Title（参考訳）: TARDIS:表現ステアリングによる時間的ミスの緩和
• Authors: Changho Shin, Xinya Yan, Suenggwan Jo, Sungjun Cho, Shourjo Aditya Chaudhuri, Frederic Sala,
• Abstract要約: 言語モデルは、時間的ミスアライメント、データの時間的分布の変化によるパフォーマンス劣化にしばしば苦労する。 本稿では,この課題に対処する教師なし表現編集手法であるTARDISを提案する。 実験の結果,TARDISは微調整を必要とせず,下流タスク性能を向上させることがわかった。
• 参考スコア（独自算出の注目度）: 13.237452027069072
• License:
• Abstract: Language models often struggle with temporal misalignment, performance degradation caused by shifts in the temporal distribution of data. Continuously updating models to avoid degradation is expensive. Can models be adapted without updating model weights? We present TARDIS, an unsupervised representation editing method that addresses this challenge. TARDIS extracts steering vectors from unlabeled data and adjusts the model's representations to better align with the target time period's distribution. Our experiments reveal that TARDIS enhances downstream task performance without the need for fine-tuning, can mitigate temporal misalignment even when exact target time period data is unavailable, and remains efficient even when the temporal information of the target data points is unknown at inference time.
• Abstract（参考訳）: 言語モデルは、時間的ミスアライメントや、データの時間的分布の変化によるパフォーマンス劣化に苦慮することが多い。 劣化を避けるためにモデルを継続的に更新するのはコストがかかる。 モデルはモデルの重みを更新せずに適応できるのか? 本稿では,この課題に対処する教師なし表現編集手法であるTARDISを提案する。 TARDISはラベルのないデータからステアリングベクターを抽出し、モデルの表現を調整し、ターゲットの時間周期の分布をより良く整合させる。 実験の結果、TARDISは微調整を必要とせずに下流タスク性能を向上し、正確な目標時間データが利用できない場合でも時間的ずれを軽減でき、推定時に目標データポイントの時間的情報が不明な場合でも効率が保たれることがわかった。

関連論文リスト

• Irregularity-Informed Time Series Analysis: Adaptive Modelling of Spatial and Temporal Dynamics [16.042723132364696]
  不規則時系列データ(IRTS)はNatural Irregular Time Series(NIRTS)とAccidental Irregular Time Series(AIRTS)の2種類に分けられる。 本稿では, IRTS を局所性, 時間, 時空間, 不規則性という 4 つの視点から扱う, 一般的な不規則時系列データのためのトランスフォーマーベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-16T05:52:25Z)
• Graph Spatiotemporal Process for Multivariate Time Series Anomaly Detection with Missing Values [67.76168547245237]
  本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。 実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
  論文  参考訳（メタデータ） (2024-01-11T10:10:16Z)
• LARA: A Light and Anti-overfitting Retraining Approach for Unsupervised Time Series Anomaly Detection [49.52429991848581]
  深部変分自動エンコーダに基づく時系列異常検出手法(VAE)のための光・反オーバーフィット学習手法(LARA)を提案する。 本研究の目的は,1) 再学習過程を凸問題として定式化し, 過度に収束できること,2) 履歴データを保存せずに活用するルミネートブロックを設計すること,3) 潜在ベクトルと再構成データの微調整を行うと, 線形形成が基底真実と微調整されたブロックとの誤りを最小に調整できることを数学的に証明することである。
  論文  参考訳（メタデータ） (2023-10-09T12:36:16Z)
• Uncovering the Missing Pattern: Unified Framework Towards Trajectory Imputation and Prediction [60.60223171143206]
  軌道予測は、観測されたシーケンスから実体運動や人間の行動を理解する上で重要な作業である。 現在の方法では、観測されたシーケンスが完了したと仮定し、欠落した値の可能性を無視する。 本稿では,グラフに基づく条件変動リカレントニューラルネットワーク (GC-VRNN) の統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-28T14:27:27Z)
• PriSTI: A Conditional Diffusion Framework for Spatiotemporal Imputation [35.62945607302276]
  本稿では,PriSTI という先行モデルを用いた時空間計算のための条件拡散フレームワークを提案する。 PriSTIは、さまざまな現実世界データの欠落パターンにおいて既存の計算方法よりも優れており、高い欠落率やセンサーの故障といったシナリオを効果的に処理する。
  論文  参考訳（メタデータ） (2023-02-20T03:52:53Z)
• DEGAN: Time Series Anomaly Detection using Generative Adversarial Network Discriminators and Density Estimation [0.0]
  我々は,GANに基づく異常検出フレームワークDEGANを提案する。 これは、適切に構成された識別器(D)をスタンドアロンの異常予測器に訓練するための入力として、通常の時系列データにのみ依存する。
  論文  参考訳（メタデータ） (2022-10-05T04:32:12Z)
• Time-Varying Propensity Score to Bridge the Gap between the Past and Present [104.46387765330142]
  本稿では,データ分布の段階的変化を検出するための時間変化確率スコアを提案する。 実装のさまざまな方法を示し、さまざまな問題について評価する。
  論文  参考訳（メタデータ） (2022-10-04T07:21:49Z)
• Real-time Drift Detection on Time-series Data [0.6303112417588329]
  季節変動を考慮した非教師付き時間ドリフト検出器(unsupervised Temporal Drift Detector, UTDD)を提案する。 提案手法は, 時系列データ中の時間的概念のドリフトを, 基底真理の欠如により効率的に検出する。
  論文  参考訳（メタデータ） (2021-10-12T22:09:29Z)
• Tracking the risk of a deployed model and detecting harmful distribution shifts [105.27463615756733]
  実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。 我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
  論文  参考訳（メタデータ） (2021-10-12T17:21:41Z)
• Time-Series Imputation with Wasserstein Interpolation for Optimal Look-Ahead-Bias and Variance Tradeoff [66.59869239999459]
  ファイナンスでは、ポートフォリオ最適化モデルをトレーニングする前に、損失の計算を適用することができる。 インキュベーションのために全データセットを使用するルックアヘッドバイアスと、トレーニングデータのみを使用することによるインキュベーションの大きなばらつきとの間には、本質的にトレードオフがある。 提案手法は,提案法における差分とルックアヘッドバイアスのトレードオフを最適に制御するベイズ後部コンセンサス分布である。
  論文  参考訳（メタデータ） (2021-02-25T09:05:35Z)
• Disentangled Recurrent Wasserstein Autoencoder [17.769077848342334]
  Recurrent Wasserstein Autoencoder (R-WAE)はシーケンシャルデータの生成モデリングのための新しいフレームワークである。 R-WAEは入力シーケンスの表現を静的および動的因子に切り離す。 私達のモデルは無条件のビデオ生成およびdisentanglementの点では同じ設定の他のベースラインを上回ります。
  論文  参考訳（メタデータ） (2021-01-19T07:43:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。