論文の概要: Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction
- arxiv url: http://arxiv.org/abs/2506.18939v1
- Date: Sun, 22 Jun 2025 15:40:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-25 19:48:23.301052
- Title: Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction
- Title(参考訳): Damba-ST: 都市空間の効率的な時空間予測のためのドメイン適応型マンバ
- Authors: Rui An, Yifeng Zhang, Ziran Liang, Wenqi Fan, Yuxuan Liang, Xuequn Shang, Qing Li,
- Abstract要約: 本研究では,効率的な都市時間予測のためのドメイン適応型マンバモデルDamba-STを提案する。
ダンバ-STはマンバの線形複雑性を保ちながら、不均一領域の複雑さを著しく高めている。
予測タスクにおける最先端のパフォーマンスを達成し、ゼロショットの強い一般化を実証する。
- 参考スコア(独自算出の注目度): 27.924276998605816
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training urban spatio-temporal foundation models that generalize well across diverse regions and cities is critical for deploying urban services in unseen or data-scarce regions. Recent studies have typically focused on fusing cross-domain spatio-temporal data to train unified Transformer-based models. However, these models suffer from quadratic computational complexity and high memory overhead, limiting their scalability and practical deployment. Inspired by the efficiency of Mamba, a state space model with linear time complexity, we explore its potential for efficient urban spatio-temporal prediction. However, directly applying Mamba as a spatio-temporal backbone leads to negative transfer and severe performance degradation. This is primarily due to spatio-temporal heterogeneity and the recursive mechanism of Mamba's hidden state updates, which limit cross-domain generalization. To overcome these challenges, we propose Damba-ST, a novel domain-adaptive Mamba-based model for efficient urban spatio-temporal prediction. Damba-ST retains Mamba's linear complexity advantage while significantly enhancing its adaptability to heterogeneous domains. Specifically, we introduce two core innovations: (1) a domain-adaptive state space model that partitions the latent representation space into a shared subspace for learning cross-domain commonalities and independent, domain-specific subspaces for capturing intra-domain discriminative features; (2) three distinct Domain Adapters, which serve as domain-aware proxies to bridge disparate domain distributions and facilitate the alignment of cross-domain commonalities. Extensive experiments demonstrate the generalization and efficiency of Damba-ST. It achieves state-of-the-art performance on prediction tasks and demonstrates strong zero-shot generalization, enabling seamless deployment in new urban environments without extensive retraining or fine-tuning.
- Abstract(参考訳): 多様な地域や都市にまたがってよく一般化する都市時空間基盤モデルの訓練は、見えない地域やデータスカース地域での都市サービスの展開に不可欠である。
近年の研究では、クロスドメイン時空間データを融合してTransformerベースのモデルをトレーニングすることに重点を置いている。
しかし、これらのモデルは2次計算の複雑さと高いメモリオーバーヘッドに悩まされ、スケーラビリティと実用的なデプロイメントが制限される。
線形時間複雑性を持つ状態空間モデルであるMambaの効率に触発されて、効率的な都市時空間予測の可能性を探る。
しかし、マンバを時空間のバックボーンとして直接適用すると、負の移動と深刻な性能劣化が起こる。
これは主に時空間の不均一性と、ドメイン間の一般化を制限するマンバの隠れ状態更新の再帰的なメカニズムに起因する。
これらの課題を克服するために,新しいドメイン適応型マンバモデルであるDamba-STを提案する。
ダンバ-STはマンバの線形複雑性の優位性を保ちながら、不均一領域への適応性を著しく高めている。
具体的には、(1)ドメイン間の共通点を学習するために潜在表現空間を共有部分空間に分割するドメイン適応型状態空間モデルと、ドメイン内識別特徴をキャプチャする独立したドメイン固有部分空間と、(2)異なるドメイン分布をブリッジするドメイン認識プロキシとして機能し、ドメイン間の共通点の整合を容易にするドメイン適応器の2つを紹介する。
広範囲にわたる実験は、ダンバ-STの一般化と効率を実証している。
予測タスクにおける最先端のパフォーマンスを実現し、強力なゼロショットの一般化を示し、大規模なリトレーニングや微調整を行うことなく、新しい都市環境へのシームレスな展開を可能にする。
関連論文リスト
- EventMamba: Enhancing Spatio-Temporal Locality with State Space Models for Event-Based Video Reconstruction [66.84997711357101]
EventMambaは、イベントベースのビデオ再構成タスク用に設計された、特殊なモデルである。
EventMambaは、Transformerベースの方法と比較して、優れた視覚的品質を提供しながら、スピードを著しく向上させる。
論文 参考訳(メタデータ) (2025-03-25T14:46:45Z) - DA-Mamba: Domain Adaptive Hybrid Mamba-Transformer Based One-Stage Object Detection [0.3683202928838613]
ドメイン適応型マンバ型一段階物体検出モデルDA-マンバについて述べる。
Mambaアーキテクチャのグローバルなモデリングと線形複雑性にインスパイアされ、最初のドメイン適応型Mambaベースのワンステージオブジェクト検出モデルであるDA-Mambaを提示する。
論文 参考訳(メタデータ) (2025-02-16T15:58:54Z) - OccMamba: Semantic Occupancy Prediction with State Space Models [24.697645636701797]
OccMambaは、マンバをベースとした最初のセマンティック占有予測ネットワークである。
Mambaアーキテクチャのグローバルなモデリングと線形複雑性に触発されて、セマンティック占有予測のための最初のOccMambaネットワークを提示する。
論文 参考訳(メタデータ) (2024-08-19T10:07:00Z) - DGMamba: Domain Generalization via Generalized State Space Model [80.82253601531164]
ドメイン一般化(DG)は、様々な場面における分散シフト問題を解決することを目的としている。
Mambaは、新興状態空間モデル(SSM)として、より優れた線形複雑性と大域的受容場を持つ。
本稿では,DGMamba という新たな DG フレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-11T14:35:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。