論文の概要: Contextualizing MLP-Mixers Spatiotemporally for Urban Data Forecast at
Scale
- arxiv url: http://arxiv.org/abs/2307.01482v5
- Date: Thu, 8 Feb 2024 03:31:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-09 19:36:47.480179
- Title: Contextualizing MLP-Mixers Spatiotemporally for Urban Data Forecast at
Scale
- Title(参考訳): 大規模都市データ予測のためのMLPミクサの時空間化
- Authors: Tong Nie, Guoyang Qin, Lijun Sun, Wei Ma, Yu Mei, Jian Sun
- Abstract要約: 時空間データ(STUD)は複雑な相関パターンを示す。
STUDは大規模であることが多いため、実践者は有効性と効率のバランスをとる必要がある。
Nex-Mixerと呼ばれる別のパラダイムは、単純さと有効性の両方の可能性を秘めている。
- 参考スコア(独自算出の注目度): 57.38373754100004
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatiotemporal urban data (STUD) displays complex correlational patterns.
Extensive advanced techniques have been designed to capture these patterns for
effective forecasting. However, because STUD is often massive in scale,
practitioners need to strike a balance between effectiveness and efficiency by
choosing computationally efficient models. An alternative paradigm called
MLP-Mixer has the potential for both simplicity and effectiveness. Taking
inspiration from its success in other domains, we propose an adapted version,
named NexuSQN, for STUD forecast at scale. We identify the challenges faced
when directly applying MLP-Mixers as series- and window-wise multivaluedness
and propose the ST-contextualization to distinguish between spatial and
temporal patterns. Experimental results surprisingly demonstrate that
MLP-Mixers with ST-contextualization can rival SOTA performance when tested on
several urban benchmarks. Furthermore, it was deployed in a collaborative urban
congestion project with Baidu, specifically evaluating its ability to forecast
traffic states in megacities like Beijing and Shanghai. Our findings contribute
to the exploration of simple yet effective models for real-world STUD
forecasting.
- Abstract(参考訳): 時空間都市データ(STUD)は複雑な相関パターンを示す。
これらのパターンを効果的に予測するために、広範囲な高度な技術が設計されている。
しかし、STUDは大規模であることが多いため、計算効率の良いモデルを選択することで効率と効率のバランスをとる必要がある。
MLP-Mixerと呼ばれる別のパラダイムは、単純さと有効性の両方の可能性を秘めている。
他のドメインでの成功から着想を得て、studの大規模予測のためにnexusqnというバージョンを提案する。
MLP-Mixersを直接適用する場合の課題を連続的およびウィンドウ的多値性として同定し、空間的パターンと時間的パターンを区別するST-contextualizationを提案する。
実験結果から,ST-contextualization を持つ MLP-Mixers は,都市ベンチマークにおいてSOTA 性能に対抗できることが示された。
さらに、Baiduと共同で、北京や上海などの大都市での交通状況を予測できる能力を評価した都市密集プロジェクトにも投入された。
本研究は,実世界のSTUD予測のための簡易かつ効果的なモデル探索に寄与する。
関連論文リスト
- Supervised Contrastive Learning based Dual-Mixer Model for Remaining
Useful Life Prediction [3.081898819471624]
Remaining Useful Life (RUL)予測は、現在の予測モーメントからデバイスの完全な障害までの残時間を正確に見積もることを目的としている。
従来のRUL予測手法における時間的特徴と空間的特徴の厳密結合の欠点を克服するため,Dual-Mixerモデルと呼ばれる空間的時間的特徴抽出器を提案する。
提案手法の有効性は,C-MAPSSデータセットに関する他の最新の研究結果との比較により検証した。
論文 参考訳(メタデータ) (2024-01-29T14:38:44Z) - TiMix: Text-aware Image Mixing for Effective Vision-Language
Pre-training [42.142924806184425]
クロスモーダルなコントラスト学習のための混合データサンプルは、暗黙的にコントラスト損失のレギュレータとして機能する。
TiMixは、既存のメソッドに対してベンチマークした場合、トレーニングデータの量が減り、トレーニング時間が短縮された場合でも、ダウンストリームタスクで同等のパフォーマンスを示す。
論文 参考訳(メタデータ) (2023-12-14T12:02:24Z) - Exploring Progress in Multivariate Time Series Forecasting:
Comprehensive Benchmarking and Heterogeneity Analysis [72.18987459587682]
MTS予測における公正な比較のために設計されたベンチマークであるBasicTSを紹介する。
MTSデータセットの不均一性を強調し、時間的特徴と空間的特徴に基づいて分類する。
論文 参考訳(メタデータ) (2023-10-09T19:52:22Z) - MLPST: MLP is All You Need for Spatio-Temporal Prediction [40.65579041549435]
交通は典型的な深層モデルに基づく予測手法である。
トラフィック予測のための純粋多層パーセプトロンアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-09-23T12:58:16Z) - Making Pre-trained Language Models both Task-solvers and
Self-calibrators [52.98858650625623]
プレトレーニング言語モデル(PLM)は、様々な現実世界のシステムのバックボーンとして機能する。
以前の研究は、余分なキャリブレーションタスクを導入することでこの問題を緩和できることを示している。
課題に対処するためのトレーニングアルゴリズムLM-TOASTを提案する。
論文 参考訳(メタデータ) (2023-07-21T02:51:41Z) - Towards Robust Visual Question Answering: Making the Most of Biased
Samples via Contrastive Learning [54.61762276179205]
我々は,ビザドサンプルを最大限に活用することで,ロバストなVQAモデルを構築するための新しいコントラスト学習手法 MMBS を提案する。
具体的には、元のトレーニングサンプルからスプリアス相関に関連する情報を排除し、比較学習のための正のサンプルを構築する。
我々は,OODデータセットのVQA-CP v2において,IDデータセットのVQA v2上での堅牢なパフォーマンスを維持しながら,競争性能を達成することで,コントリビューションを検証した。
論文 参考訳(メタデータ) (2022-10-10T11:05:21Z) - Spatial-Temporal Identity: A Simple yet Effective Baseline for
Multivariate Time Series Forecasting [17.84296081495185]
我々は、STGNNほど強力だが、より簡潔で効率的なモデルを設計し、MTS予測の重要な要素について検討する。
本稿では,空間的,時間的両面におけるサンプルの不明瞭さを重要なボトルネックとみなし,MSS予測のための簡易かつ効果的なベースラインを提案する。
これらの結果から,STGNNに制限されることなく,サンプルの不明瞭さを解消できる限り,効率的かつ効率的なモデルを設計できることが示唆された。
論文 参考訳(メタデータ) (2022-08-10T09:25:43Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Machine Learning Emulation of Urban Land Surface Processes [0.0]
我々は,22の都市地表面モデル(ULSM)から平均的なフラックスを訓練した都市ニューラルネットワーク(UNN)を開発した。
基準のULSM(Town Energy Balance; TEB)と比較すると、UNNはフラックス観測よりも精度が高く、計算コストも少なく、パラメータも少ない。
現在,本アプリケーションはトレーニングデータ(1サイト)に制約されているが,複数のULSMの強度をMLを用いて組み合わせることで表面フラックスのモデリングを改善する新しい手法を示す。
論文 参考訳(メタデータ) (2021-12-21T18:47:46Z) - A Generative Learning Approach for Spatio-temporal Modeling in Connected
Vehicular Network [55.852401381113786]
本稿では,コネクテッドカーの無線アクセス遅延を実現するための総合的時間品質フレームワークであるLaMI(Latency Model Inpainting)を提案する。
LaMIはイメージインペイントと合成のアイデアを採用し、2段階の手順で欠落したレイテンシサンプルを再構築することができる。
特に、パッチ方式のアプローチを用いて各地域で収集されたサンプル間の空間的相関を初めて発見し、その後、原点および高度に相関したサンプルをバラエナオートコーダ(VAE)に供給する。
論文 参考訳(メタデータ) (2020-03-16T03:43:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。