論文の概要: Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction
- arxiv url: http://arxiv.org/abs/2506.18939v1
- Date: Sun, 22 Jun 2025 15:40:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-25 19:48:23.301052
- Title: Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction
- Title(参考訳): Damba-ST: 都市空間の効率的な時空間予測のためのドメイン適応型マンバ
- Authors: Rui An, Yifeng Zhang, Ziran Liang, Wenqi Fan, Yuxuan Liang, Xuequn Shang, Qing Li,
- Abstract要約: 本研究では,効率的な都市時間予測のためのドメイン適応型マンバモデルDamba-STを提案する。
ダンバ-STはマンバの線形複雑性を保ちながら、不均一領域の複雑さを著しく高めている。
予測タスクにおける最先端のパフォーマンスを達成し、ゼロショットの強い一般化を実証する。
- 参考スコア(独自算出の注目度): 27.924276998605816
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training urban spatio-temporal foundation models that generalize well across diverse regions and cities is critical for deploying urban services in unseen or data-scarce regions. Recent studies have typically focused on fusing cross-domain spatio-temporal data to train unified Transformer-based models. However, these models suffer from quadratic computational complexity and high memory overhead, limiting their scalability and practical deployment. Inspired by the efficiency of Mamba, a state space model with linear time complexity, we explore its potential for efficient urban spatio-temporal prediction. However, directly applying Mamba as a spatio-temporal backbone leads to negative transfer and severe performance degradation. This is primarily due to spatio-temporal heterogeneity and the recursive mechanism of Mamba's hidden state updates, which limit cross-domain generalization. To overcome these challenges, we propose Damba-ST, a novel domain-adaptive Mamba-based model for efficient urban spatio-temporal prediction. Damba-ST retains Mamba's linear complexity advantage while significantly enhancing its adaptability to heterogeneous domains. Specifically, we introduce two core innovations: (1) a domain-adaptive state space model that partitions the latent representation space into a shared subspace for learning cross-domain commonalities and independent, domain-specific subspaces for capturing intra-domain discriminative features; (2) three distinct Domain Adapters, which serve as domain-aware proxies to bridge disparate domain distributions and facilitate the alignment of cross-domain commonalities. Extensive experiments demonstrate the generalization and efficiency of Damba-ST. It achieves state-of-the-art performance on prediction tasks and demonstrates strong zero-shot generalization, enabling seamless deployment in new urban environments without extensive retraining or fine-tuning.
- Abstract(参考訳): 多様な地域や都市にまたがってよく一般化する都市時空間基盤モデルの訓練は、見えない地域やデータスカース地域での都市サービスの展開に不可欠である。
近年の研究では、クロスドメイン時空間データを融合してTransformerベースのモデルをトレーニングすることに重点を置いている。
しかし、これらのモデルは2次計算の複雑さと高いメモリオーバーヘッドに悩まされ、スケーラビリティと実用的なデプロイメントが制限される。
線形時間複雑性を持つ状態空間モデルであるMambaの効率に触発されて、効率的な都市時空間予測の可能性を探る。
しかし、マンバを時空間のバックボーンとして直接適用すると、負の移動と深刻な性能劣化が起こる。
これは主に時空間の不均一性と、ドメイン間の一般化を制限するマンバの隠れ状態更新の再帰的なメカニズムに起因する。
これらの課題を克服するために,新しいドメイン適応型マンバモデルであるDamba-STを提案する。
ダンバ-STはマンバの線形複雑性の優位性を保ちながら、不均一領域への適応性を著しく高めている。
具体的には、(1)ドメイン間の共通点を学習するために潜在表現空間を共有部分空間に分割するドメイン適応型状態空間モデルと、ドメイン内識別特徴をキャプチャする独立したドメイン固有部分空間と、(2)異なるドメイン分布をブリッジするドメイン認識プロキシとして機能し、ドメイン間の共通点の整合を容易にするドメイン適応器の2つを紹介する。
広範囲にわたる実験は、ダンバ-STの一般化と効率を実証している。
予測タスクにおける最先端のパフォーマンスを実現し、強力なゼロショットの一般化を示し、大規模なリトレーニングや微調整を行うことなく、新しい都市環境へのシームレスな展開を可能にする。
関連論文リスト
- InceptionMamba: An Efficient Hybrid Network with Large Band Convolution and Bottleneck Mamba [21.47782205082816]
InceptionNeXtは、画像分類と多くの下流タスクにおいて優れた競争力を示している。
InceptionNeXtは、平行1次元のストリップ畳み込みに基づいて構築され、異なる次元に沿って空間的依存関係をキャプチャする限られた能力に悩まされている。
本稿では,これらの制約を克服するために,InceptionMambaと呼ばれる新しいバックボーンアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-06-10T12:31:05Z) - HMamba: Hyperbolic Mamba for Sequential Recommendation [39.60869234694072]
双曲的マンバ(英: Hyperbolic Mamba)は、マンバの選択的状態空間機構と双曲幾何学の階層的表現力の効率を統一する新しいアーキテクチャである。
我々は,Hyperbolic Mambaが線形時間効率を維持しながら3-11%の改善を実現し,実世界の展開を可能にしたことを示す。
論文 参考訳(メタデータ) (2025-05-14T07:34:36Z) - EventMamba: Enhancing Spatio-Temporal Locality with State Space Models for Event-Based Video Reconstruction [66.84997711357101]
EventMambaは、イベントベースのビデオ再構成タスク用に設計された、特殊なモデルである。
EventMambaは、Transformerベースの方法と比較して、優れた視覚的品質を提供しながら、スピードを著しく向上させる。
論文 参考訳(メタデータ) (2025-03-25T14:46:45Z) - DA-Mamba: Domain Adaptive Hybrid Mamba-Transformer Based One-Stage Object Detection [0.3683202928838613]
ドメイン適応型マンバ型一段階物体検出モデルDA-マンバについて述べる。
Mambaアーキテクチャのグローバルなモデリングと線形複雑性にインスパイアされ、最初のドメイン適応型Mambaベースのワンステージオブジェクト検出モデルであるDA-Mambaを提示する。
論文 参考訳(メタデータ) (2025-02-16T15:58:54Z) - OccMamba: Semantic Occupancy Prediction with State Space Models [24.697645636701797]
OccMambaは、マンバをベースとした最初のセマンティック占有予測ネットワークである。
Mambaアーキテクチャのグローバルなモデリングと線形複雑性に触発されて、セマンティック占有予測のための最初のOccMambaネットワークを提示する。
論文 参考訳(メタデータ) (2024-08-19T10:07:00Z) - MambaVT: Spatio-Temporal Contextual Modeling for robust RGB-T Tracking [51.28485682954006]
本研究では,マンバをベースとした純フレームワーク(MambaVT)を提案する。
具体的には、長距離クロスフレーム統合コンポーネントを考案し、ターゲットの外観変化にグローバルに適応する。
実験では、RGB-TトラッキングのためのMambaのビジョンの可能性が示され、MambaVTは4つの主要なベンチマークで最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2024-08-15T02:29:00Z) - DGMamba: Domain Generalization via Generalized State Space Model [80.82253601531164]
ドメイン一般化(DG)は、様々な場面における分散シフト問題を解決することを目的としている。
Mambaは、新興状態空間モデル(SSM)として、より優れた線形複雑性と大域的受容場を持つ。
本稿では,DGMamba という新たな DG フレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-11T14:35:59Z) - Memory-Efficient Prompt Tuning for Incremental Histopathology
Classification [69.46798702300042]
本稿では,経済的なメモリコストのモデル一般化ポテンシャルを育成するための,メモリ効率の良いプロンプトチューニングフレームワークを提案する。
乳癌転移分類と上皮間質組織分類の2つの病理組織学的タスクにより,我々の枠組みを広く評価した。
論文 参考訳(メタデータ) (2024-01-22T03:24:45Z) - Domain-incremental Cardiac Image Segmentation with Style-oriented Replay
and Domain-sensitive Feature Whitening [67.6394526631557]
M&Mは、各受信データセットから漸進的に学習し、時間が経つにつれて改善された機能で漸進的に更新する必要がある。
医学的シナリオでは、データのプライバシのため、過去のデータへのアクセスや保存が一般的に許可されないため、これは特に困難である。
本稿では,まず過去のドメイン入力を復元し,モデル最適化中に定期的に再生する新しいドメイン増分学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-09T13:07:36Z) - Normalization Perturbation: A Simple Domain Generalization Method for
Real-World Domain Shifts [133.99270341855728]
実世界のドメインスタイルは環境の変化やセンサノイズによって大きく変化する可能性がある。
深層モデルはトレーニングドメインスタイルしか知らない。
このドメインスタイルのオーバーフィット問題を解決するために,正規化摂動を提案する。
論文 参考訳(メタデータ) (2022-11-08T17:36:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。