論文の概要: Decentralized Multitask Learning over Learned Task Graphs

• arxiv url: http://arxiv.org/abs/2608.26989v1
• Date: Thu, 27 Aug 2026 11:37:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.372028
• Title: Decentralized Multitask Learning over Learned Task Graphs
• Title（参考訳）: 学習タスクグラフを用いた分散マルチタスク学習
• Abstract要約: 分散マルチタスクフレームワークは、基礎となるタスク関係が不明なときにネットワーク越しに学習することができる。 まず、ノイズ非協調勾配から一般化グラフラプラシアンを推定する戦略を提案する。 学習課題グラフによって実現された協調は、非協調学習よりも性能を著しく向上させることを示す。
• 参考スコア（独自算出の注目度）: 20.627498972435742
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper investigates decentralized multitask learning over networks when the underlying task relationships are unknown. While existing graph-regularized multitask frameworks typically assume a known structure, practical settings often require learning inter-task dependencies directly from distributed data. We propose a decentralized two-phase strategy that first estimates a generalized graph Laplacian from noisy non-cooperative stochastic gradient iterates, and subsequently exploits the learned graph to enable cooperative multitask diffusion learning. This framework is motivated by a Gaussian Markov random field prior, which gives rise to a decentralized maximum likelihood estimator for the graph Laplacian. The analysis quantifies the Laplacian estimation error and its propagation to the steady-state performance of the multitask diffusion recursion, and introduces a topology sensitivity index to capture the effect of network heterogeneity. Simulation results corroborate the theoretical findings and demonstrate that cooperation enabled by the learned task graph significantly improves performance over non-cooperative learning, while approaching the true-graph baseline when the estimation stepsize is sufficiently small.
• Abstract（参考訳）: 本稿では,ネットワーク上の分散マルチタスク学習について検討する。 既存のグラフ規則化されたマルチタスクフレームワークは一般的に既知の構造を前提としていますが、実際の設定では、分散データから直接タスク間の依存関係を学習する必要があります。 本稿では,まず,非協調確率勾配から一般化グラフラプラシアンを推定し,学習グラフを利用して協調マルチタスク拡散学習を実現する分散二相戦略を提案する。 このフレームワークはガウスのマルコフ確率場(英語版)によって動機付けられ、グラフラプラシアンの極大推定器が分散化される。 この分析は,マルチタスク拡散再帰の定常状態性能に対するラプラス推定誤差とその伝播を定量化し,ネットワークの不均一性の影響を捉えるためのトポロジ感度指数を導入する。 シミュレーションの結果から, 学習課題グラフによる協調が非協調学習よりも有意に向上し, 推定ステップサイズが十分に小さくなると, 真のグラフベースラインに近づいた。

関連論文リスト

• HGMP:Heterogeneous Graph Multi-Task Prompt Learning [18.703129208282913]
  ヘテロジニアスグラフ領域のための新しいマルチタスクプロンプトフレームワークHGMPを提案する。 まず、事前訓練されたモデルと下流タスクのギャップを埋めるために、下流タスクを統一的なグラフレベルタスク形式に再構成する。 我々は,異種情報を活用し,マルチタスクシナリオの性能を向上させるために,グラフレベルのコントラスト事前学習戦略を設計する。
  論文  参考訳（メタデータ） (2025-07-10T04:01:47Z)
• Learning Latent Graph Structures and their Uncertainty [63.95971478893842]
  点予測損失の最小化は、潜時関係情報の適切な学習を保証するものではないことを示す。 本稿では,この共同学習課題を解決するサンプリングベース手法を提案する。
  論文  参考訳（メタデータ） (2024-05-30T10:49:22Z)
• Distributed Continual Learning with CoCoA in High-dimensional Linear Regression [0.0]
  興味の信号が時間とともに特性の変化を示すシナリオで推定する。 特に、異なる分布を持つデータなど、異なるタスクが順次到着する連続的な学習問題を考察する。 ネットワーク上でモデルパラメータと対応する特徴を分散する分散学習アルゴリズムCOCOAについて検討する。
  論文  参考訳（メタデータ） (2023-12-04T10:35:46Z)
• ULTRA-DP: Unifying Graph Pre-training with Multi-task Graph Dual Prompt [67.8934749027315]
  本稿では,タスク識別と位置識別をGNNに注入する,グラフハイブリッド事前学習のための統合フレームワークを提案する。 また,約$k$-nearest隣人のグループに基づいた,新しい事前学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-10-23T12:11:13Z)
• Sparse Graph Learning from Spatiotemporal Time Series [16.427698929775023]
  本稿では,グラフ上の分布として関係依存を学習するグラフ学習フレームワークを提案する。 提案手法は,エンドツーエンドの予測アーキテクチャのグラフ学習コンポーネントと同様に,スタンドアローンのグラフ識別手法として利用できることを示す。
  論文  参考訳（メタデータ） (2022-05-26T17:02:43Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Graph-Based Neural Network Models with Multiple Self-Supervised Auxiliary Tasks [79.28094304325116]
  グラフ畳み込みネットワークは、構造化されたデータポイント間の関係をキャプチャするための最も有望なアプローチである。 マルチタスク方式でグラフベースニューラルネットワークモデルを学習するための3つの新しい自己教師付き補助タスクを提案する。
  論文  参考訳（メタデータ） (2020-11-14T11:09:51Z)
• Multi-task Supervised Learning via Cross-learning [102.64082402388192]
  我々は,様々なタスクを解くことを目的とした回帰関数の集合を適合させることで,マルチタスク学習と呼ばれる問題を考える。 我々の新しい定式化では、これらの関数のパラメータを2つに分けて、互いに近づきながらタスク固有のドメインで学習する。 これにより、異なるドメインにまたがって収集されたデータが、互いのタスクにおける学習パフォーマンスを改善するのに役立つ、クロス・ファーティライズが促進される。
  論文  参考訳（メタデータ） (2020-10-24T21:35:57Z)
• Learning an Interpretable Graph Structure in Multi-Task Learning [18.293397644865454]
  本稿では,タスク間のマルチタスク学習と本質的な関係を解釈可能かつスパースなグラフで推定する新しい手法を提案する。 このグラフは各タスクのモデルパラメータと同時に学習するため、特定の予測問題におけるタスク間の臨界関係を反映する。
  論文  参考訳（メタデータ） (2020-09-11T18:58:14Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。