論文の概要: Do We Really Need Transformers for Global Spatial Information Extraction in Traffic Forecasting?

• arxiv url: http://arxiv.org/abs/2607.12462v1
• Date: Tue, 14 Jul 2026 07:44:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-15 17:08:30.079097
• Title: Do We Really Need Transformers for Global Spatial Information Extraction in Traffic Forecasting?
• Title（参考訳）: 交通予報におけるグローバル空間情報抽出のための変換器は本当に必要か?
• Abstract要約: 我々は,グローバル情報を高次自由度適応的注意によって抽出する必要があるか,あるいは単純なグローバルアグリゲーション演算子によって捉えることができるかを検討する。 6つのトラフィックベンチマーク、均一なフルレンジミキシング、標準空間アテンションは、3つのデータセットで低いMAEを達成する。 メカニズム解析は、空間的注意をさらに行一様大域背景と非一様残差に分解する。
• 参考スコア（独自算出の注目度）: 18.244968883405885
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing traffic forecasting models commonly focus on extracting spatial dependencies, particularly global spatial information, which characterizes the representations obtained through interactions between each individual node and all nodes across the traffic network. However, the underlying mechanism by which such global information is modeled and extracted remains insufficiently investigated. Whether global information must be extracted by high-degree-of-freedom adaptive attention or can be captured by a simple global aggregation operator remains unclear. For this purpose, we design a controlled ablation framework that replaces only the spatial mixing module to test attention-based global interaction. Across six traffic benchmarks, uniform full-range mixing and standard spatial attention each achieve lower MAE on three datasets, with only a 0.14% difference in mean MAE, while the former reduces node-scale spatial mixing complexity from O(N2) to O(N). Mechanism analysis further decomposes spatial attention into a row-uniform global background and a non-uniform residual. The residual shows dataset-dependent marginal value, suggesting that spatial attention should be justified by stable gains beyond a row-uniform global background. The corresponding source code is publicly available at: https://github.com/uuesti/U-Trans
• Abstract（参考訳）: 既存の交通予測モデルは一般に、空間的依存関係、特にグローバル空間情報の抽出に重点を置いている。 しかし,このようなグローバルな情報をモデル化し,抽出するメカニズムはいまだに不十分である。 グローバル情報が高次自由度適応的注意によって抽出されなければならないか、あるいは単純なグローバルアグリゲーション演算子によって捉えることができるかは、いまだ不明である。 本研究の目的は,空間混合モジュールのみを置き換えた制御アブレーションフレームワークを設計し,注目度に基づくグローバルなインタラクションをテストすることである。 6つのトラフィックベンチマーク、均一なフルレンジミキシング、標準空間アテンションは、平均MAEの0.14%の差で3つのデータセット上で低いMAEを達成する一方、前者はノードスケールの空間ミキシングの複雑さをO(N2)からO(N)に還元する。 メカニズム解析は、空間的注意をさらに行一様大域背景と非一様残差に分解する。 残差はデータセット依存の辺縁値を示し、一列一列のグローバル背景を超えた安定した利得によって空間的注意を正当化すべきであることを示唆している。 対応するソースコードは、https://github.com/uuesti/U-Transで公開されている。

関連論文リスト

• STAGformer: A Spatio-temporal Agent Graph Transformer for Micro Mobility Demand Forecasting [0.0]
  本稿では,線形計算複雑性を伴う効率的なグローバルモデリングを実現するS時間エージェント変換器STAGformerを提案する。 モデルは2段階のエージェントアテンション機構を導入し、学習可能な空間的および時間的エージェントトークンの小さなセットがグローバル情報を集約し、それを個々のステーションやタイムステップにブロードキャストする。 2つの実世界のデータセットの実験により、STAGformerは複数の予測地平線を越えて常に最先端のベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2026-07-07T08:15:20Z)
• UAGLNet: Uncertainty-Aggregated Global-Local Fusion Network with Cooperative CNN-Transformer for Building Extraction [83.48950950780554]
  リモートセンシング画像からの抽出は、複雑な構造変化のために難しい課題である。 既存の方法は、セグメンテーションモデルにおけるマルチスケール特徴をキャプチャするために、畳み込みブロックまたは自己アテンションブロックを使用する。 高品質なグローバルローカルなビジュアルセマンティクスを活用するために,不確実性集約型グローバルローカルフュージョンネットワーク(UAGLNet)を提案する。
  論文  参考訳（メタデータ） (2025-12-15T02:59:16Z)
• MGDFIS: Multi-scale Global-detail Feature Integration Strategy for Small Object Detection [12.838872442435527]
  UAV画像の小さな物体検出は、探索・救助、交通監視、環境監視といった用途に不可欠である。 既存のマルチスケール融合法は、計算負荷を増し、詳細をぼかすのに役立つ。 本稿では,グローバルコンテキストと局所的な詳細を密結合して検出性能を向上させる統合融合フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-15T02:54:25Z)
• UniMamba: Unified Spatial-Channel Representation Learning with Group-Efficient Mamba for LiDAR-based 3D Object Detection [53.785766442201094]
  LiDAR 3D検出の最近の進歩は、ポイントクラウド空間からグローバルな依存関係をキャプチャするTransformerベースのフレームワークの有効性を示している。 トランスフォーマーのかなりの数の3Dボクセルと二次的な複雑さのため、トランスフォーマーに供給する前に複数のシーケンスがグループ化され、受容野が制限される。 2次元視覚タスクの分野で達成された状態空間モデル(SSM)の印象的な性能に触発されて、我々は新しい統一マンバ(UniMamba)を提案する。 特に、UniMambaブロックは、主にローカリティモデリング、Zオーダーシリアライゼーション、局所グローバルシーケンシャルアグリゲータで構成されている。
  論文  参考訳（メタデータ） (2025-03-15T06:22:31Z)
• Bridging Data Islands: Geographic Heterogeneity-Aware Federated Learning for Collaborative Remote Sensing Semantic Segmentation [7.265569559979736]
  高品質な注釈付きリモートセンシング画像は、しばしば分離され、機関に分散される。 リモートセンシングデータアイランドの問題は、グローバルモデルのトレーニングに独立したデータセットを完全に活用する上での課題を提起している。 我々は、RSSでデータアイランドをブリッジする新しい地理異質性を考慮したフェデレーションラーニング(GeoFed)フレームワークを提案する。 我々のフレームワークは,Global Insight Enhancement(GIE)モジュール,Essential Feature Mining(EFM)モジュール,LoGo(LoGo)モジュールという3つのモジュールで構成されています。
  論文  参考訳（メタデータ） (2024-04-14T15:58:35Z)
• TransXNet: Learning Both Global and Local Dynamics with a Dual Dynamic Token Mixer for Visual Recognition [63.93802691275012]
  グローバル・ローカル・ダイナミクスを同時に学習するための軽量なデュアル・ダイナミック・トケン・ミキサー(D-Mixer)を提案する。 我々は、新しいハイブリッドCNN-TransformerビジョンバックボーンネットワークであるTransXNetを設計するために、基本的なビルディングブロックとしてD-Mixerを使用している。 ImageNet-1K分類では、TransXNet-TはSwin-Tを0.3%上回り、計算コストの半分以下である。
  論文  参考訳（メタデータ） (2023-10-30T09:35:56Z)
• SARN: Structurally-Aware Recurrent Network for Spatio-Temporal Disaggregation [8.636014676778682]
  オープンデータは、通常プライバシーポリシーに従うために、しばしば空間的に集約される。しかし、粗い、異質な集約は、下流のAI/MLシステムに対する一貫性のある学習と統合を複雑にする。 本稿では,空間的注意層をGRU(Gated Recurrent Unit)モデルに統合したSARN(Structurely-Aware Recurrent Network)を提案する。 履歴学習データに制限のあるシナリオでは、ある都市変数に事前学習したモデルを、数百のサンプルのみを用いて、他の都市変数に対して微調整できることを示す。
  論文  参考訳（メタデータ） (2023-06-09T21:01:29Z)
• Towards Understanding and Mitigating Dimensional Collapse in Heterogeneous Federated Learning [112.69497636932955]
  フェデレートラーニングは、プライバシを考慮したデータ共有を必要とせずに、さまざまなクライアントでモデルをトレーニングすることを目的としている。 本研究では,データの不均一性がグローバル集約モデルの表現に与える影響について検討する。 フェデレーション学習における次元的崩壊を効果的に緩和する新しい手法である sc FedDecorr を提案する。
  論文  参考訳（メタデータ） (2022-10-01T09:04:17Z)
• Ret3D: Rethinking Object Relations for Efficient 3D Object Detection in Driving Scenes [82.4186966781934]
  Ret3Dと呼ばれるシンプルで効率的で効果的な2段階検出器を導入する。 Ret3Dの中核は、新しいフレーム内およびフレーム間関係モジュールの利用である。 無視できる余分なオーバーヘッドにより、Ret3Dは最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-08-18T03:48:58Z)
• STJLA: A Multi-Context Aware Spatio-Temporal Joint Linear Attention Network for Traffic Forecasting [7.232141271583618]
  非効率な時空間継手線形注意(SSTLA)と呼ばれる交通予測のための新しいディープラーニングモデルを提案する。 SSTLAは、全時間ノード間のグローバル依存を効率的に捉えるために、ジョイントグラフに線形注意を適用する。 実世界の2つの交通データセットであるイングランドとテンポラル7の実験は、我々のSTJLAが最先端のベースラインよりも9.83%と3.08%の精度でMAE測定を達成できることを示した。
  論文  参考訳（メタデータ） (2021-12-04T06:39:18Z)
• Channelized Axial Attention for Semantic Segmentation [70.14921019774793]
  チャネルアキシャルアテンション(CAA)を提案し、チャネルアテンションと軸アテンションをシームレスに統合し、計算複雑性を低減します。 私たちのCAAは、DANetのような他の注意モデルに比べて計算リソースをはるかに少なくするだけでなく、すべての検証済みデータセット上で最先端のResNet-101ベースのセグメンテーションモデルよりも優れています。
  論文  参考訳（メタデータ） (2021-01-19T03:08:03Z)
• Universal-RCNN: Universal Object Detector via Transferable Graph R-CNN [117.80737222754306]
  我々はUniversal-RCNNと呼ばれる新しいユニバーサルオブジェクト検出器を提案する。 まず、すべてのカテゴリの高レベルなセマンティック表現を統合することで、グローバルなセマンティックプールを生成する。 ドメイン内推論モジュールは、空間認識GCNによってガイドされる1つのデータセット内のスパースグラフ表現を学習し、伝播する。
  論文  参考訳（メタデータ） (2020-02-18T07:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。