論文の概要: Get Rid of Task Isolation: A Continuous Multi-task Spatio-Temporal Learning Framework

• arxiv url: http://arxiv.org/abs/2410.10524v1
• Date: Mon, 14 Oct 2024 14:04:36 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-29 21:05:04.666268
• Title: Get Rid of Task Isolation: A Continuous Multi-task Spatio-Temporal Learning Framework
• Title（参考訳）: Get Rid of Task isolation: 継続的マルチタスク時空間学習フレームワーク
• Authors: Zhongchao Yi, Zhengyang Zhou, Qihe Huang, Yanjiang Chen, Liheng Yu, Xu Wang, Yang Wang,
• Abstract要約: 我々は,都市の総合的知能を高めるために,連続マルチタスク時空間学習フレームワーク(CMuST)を提案することが不可欠であると主張する。 CMuSTは、都市時間学習を単一ドメインから協調マルチタスク学習に改革する。 マルチタスク時間学習のための3つの都市のベンチマークを作成し,CMuSTの優位性を実証的に実証した。
• 参考スコア（独自算出の注目度）: 10.33844348594636
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spatiotemporal learning has become a pivotal technique to enable urban intelligence. Traditional spatiotemporal models mostly focus on a specific task by assuming a same distribution between training and testing sets. However, given that urban systems are usually dynamic, multi-sourced with imbalanced data distributions, current specific task-specific models fail to generalize to new urban conditions and adapt to new domains without explicitly modeling interdependencies across various dimensions and types of urban data. To this end, we argue that there is an essential to propose a Continuous Multi-task Spatio-Temporal learning framework (CMuST) to empower collective urban intelligence, which reforms the urban spatiotemporal learning from single-domain to cooperatively multi-dimensional and multi-task learning. Specifically, CMuST proposes a new multi-dimensional spatiotemporal interaction network (MSTI) to allow cross-interactions between context and main observations as well as self-interactions within spatial and temporal aspects to be exposed, which is also the core for capturing task-level commonality and personalization. To ensure continuous task learning, a novel Rolling Adaptation training scheme (RoAda) is devised, which not only preserves task uniqueness by constructing data summarization-driven task prompts, but also harnesses correlated patterns among tasks by iterative model behavior modeling. We further establish a benchmark of three cities for multi-task spatiotemporal learning, and empirically demonstrate the superiority of CMuST via extensive evaluations on these datasets. The impressive improvements on both few-shot streaming data and new domain tasks against existing SOAT methods are achieved. Code is available at https://github.com/DILab-USTCSZ/CMuST.
• Abstract（参考訳）: 時空間学習は都市知性を実現するための重要な技術となっている。 従来の時空間モデルは、トレーニングとテストセットの間に同じ分布を仮定することで、主に特定のタスクに焦点を当てる。 しかしながら、都市システムは、通常動的で、不均衡なデータ分布でマルチソースされているため、現在の特定のタスク固有モデルは、様々な次元や種類の都市データに対して相互依存性を明示的にモデル化することなく、新しい都市条件に一般化し、新しいドメインに適応することができない。 この目的のために,都市空間の時空間学習を単一ドメインから協調的に多次元・多タスク学習に改革する,集合的都市知能を高めるための連続マルチタスク時空間学習フレームワーク(CMuST)を提案することが不可欠である,と論じる。 具体的には、CMuSTは、空間的・時間的側面における自己相互作用と同様に、コンテキストと主観察の間の相互相互作用を可能にする、新しい多次元時空間相互作用ネットワーク(MSTI)を提案し、タスクレベルの共通性とパーソナライゼーションをキャプチャするコアとなる。 連続的なタスク学習を確保するために、データ要約駆動型タスクプロンプトを構築することでタスクの独特性を保ちつつ、反復モデル行動モデリングによりタスク間の相関パターンを利用する新しいローリング適応トレーニングスキーム(RoAda)が考案された。 さらに、マルチタスク時空間学習のための3つの都市のベンチマークを確立し、これらのデータセットに対する広範な評価を通じて、CMuSTの優位性を実証的に実証する。 数ショットのストリーミングデータと既存のSOATメソッドに対する新しいドメインタスクの両方に対する印象的な改善が達成されます。 コードはhttps://github.com/DILab-USTCSZ/CMuSTで入手できる。

関連論文リスト

• Prompt-Based Spatio-Temporal Graph Transfer Learning [22.855189872649376]
  本稿では,データスカース領域における多変数タスクに適応可能なプロンプトベースのフレームワークを提案する。 2段階のパイプラインでドメインとタスクの転送を実現するために、学習可能なプロンプトを採用しています。 実験の結果,STGPは3つのタスクの予測,クリギング,外挿において,最先端のベースラインよりも10.7%向上していることがわかった。
  論文  参考訳（メタデータ） (2024-05-21T02:06:40Z)
• Multi-Temporal Relationship Inference in Urban Areas [75.86026742632528]
  場所間の時間的関係を見つけることは、動的なオフライン広告やスマートな公共交通計画など、多くの都市アプリケーションに役立つ。 空間的に進化するグラフニューラルネットワーク(SEENet)を含むグラフ学習方式によるTrialの解を提案する。 SEConvは時間内アグリゲーションと時間間伝搬を実行し、位置メッセージパッシングの観点から、多面的に空間的に進化するコンテキストをキャプチャする。 SE-SSLは、位置表現学習を強化し、関係の空間性をさらに扱えるように、グローバルな方法でタイムアウェアな自己教師型学習タスクを設計する。
  論文  参考訳（メタデータ） (2023-06-15T07:48:32Z)
• AutoSTL: Automated Spatio-Temporal Multi-Task Learning [17.498339023562835]
  本稿では,タスク間の依存性を活用すべく,高度な時間的操作からなるスケーラブルなアーキテクチャを提案する。 我々のモデルは内在核融合重量の演算を自動的に割り当てる。 AutoSTLは最初の自動時空間マルチタスク学習法である。
  論文  参考訳（メタデータ） (2023-04-16T10:03:05Z)
• Learning Goal-Conditioned Policies Offline with Self-Supervised Reward Shaping [94.89128390954572]
  本稿では,モデルの構造と力学を理解するために,事前収集したデータセット上に,新たな自己教師型学習フェーズを提案する。 提案手法を3つの連続制御タスクで評価し,既存手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-05T15:07:10Z)
• An Evolutionary Approach to Dynamic Introduction of Tasks in Large-scale Multitask Learning Systems [4.675744559395732]
  マルチタスク学習は、複数のタスクから学習できるモデルが知識伝達によってより良い品質と効率を達成すると仮定する。 最先端のMLモデルは、タスクごとに高いカスタマイズに依存し、タスクの数をスケールするのではなく、サイズとデータスケールを活用する。 本稿では,大規模マルチタスクモデルを生成でき,新しいタスクの動的かつ連続的な追加を支援する進化的手法を提案する。
  論文  参考訳（メタデータ） (2022-05-25T13:10:47Z)
• Interval Bound Interpolation for Few-shot Learning with Few Tasks [15.85259386116784]
  少ないショット学習は、さまざまなタスクのトレーニングから得られた知識を、限られたラベル付きデータで見つからないタスクに転送することを目的としている。 そこで本研究では,頑健な学習文献から数ショット学習まで,インターバルバウンダリの概念を紹介した。 次に、利用可能なタスクと各インターバル境界を補間することにより、トレーニングのための新しいタスクを人工的に形成する。
  論文  参考訳（メタデータ） (2022-04-07T15:29:27Z)
• Controllable Dynamic Multi-Task Architectures [92.74372912009127]
  本稿では,そのアーキテクチャと重みを動的に調整し,所望のタスク選択とリソース制約に適合させる制御可能なマルチタスクネットワークを提案する。 本稿では,タスク親和性と分岐正規化損失を利用した2つのハイパーネットの非交互トレーニングを提案し,入力の嗜好を取り入れ,適応重み付き木構造モデルを予測する。
  論文  参考訳（メタデータ） (2022-03-28T17:56:40Z)
• Unsupervised Transfer Learning for Spatiotemporal Predictive Networks [90.67309545798224]
  我々は、教師なし学習されたモデルの動物園から別のネットワークへ知識を伝達する方法を研究する。 私たちのモチベーションは、モデルは異なるソースからの複雑なダイナミクスを理解することが期待されていることです。 提案手法は,時間的予測のための3つのベンチマークで大幅に改善され,重要度が低いベンチマークであっても,ターゲットのメリットが得られた。
  論文  参考訳（メタデータ） (2020-09-24T15:40:55Z)
• Reparameterizing Convolutions for Incremental Multi-Task Learning without Task Interference [75.95287293847697]
  マルチタスクモデルを開発する際の2つの一般的な課題は、しばしば文献で見過ごされる。 まず、モデルを本質的に漸進的に可能にし、以前に学んだことを忘れずに新しいタスクから情報を継続的に取り入れる(インクリメンタルラーニング)。 第二に、タスク間の有害な相互作用を排除し、マルチタスク設定(タスク干渉)においてシングルタスクのパフォーマンスを著しく低下させることが示されている。
  論文  参考訳（メタデータ） (2020-07-24T14:44:46Z)
• Task-Agnostic Online Reinforcement Learning with an Infinite Mixture of Gaussian Processes [25.513074215377696]
  本稿では,連続的なオンラインモデルに基づく強化学習手法を提案する。 未知のタスク境界を持つタスク非依存の問題を解決するためには、事前トレーニングを必要としない。 実験では,本手法は非定常タスクにおける代替手法よりも優れている。
  論文  参考訳（メタデータ） (2020-06-19T23:52:45Z)
• Adversarial Continual Learning [99.56738010842301]
  本稿では,タスク不変およびタスク特化機能に対する不整合表現を学習するハイブリッド連続学習フレームワークを提案する。 本モデルでは,タスク固有のスキルの忘れを防止するためにアーキテクチャの成長と,共有スキルを維持するための経験的リプレイアプローチを組み合わせる。
  論文  参考訳（メタデータ） (2020-03-21T02:08:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。