論文の概要: Multitask Learning with Learned Task Relationships
- arxiv url: http://arxiv.org/abs/2510.10570v1
- Date: Sun, 12 Oct 2025 12:42:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 18:06:30.014313
- Title: Multitask Learning with Learned Task Relationships
- Title(参考訳): タスク関係を学習したマルチタスク学習
- Authors: Zirui Wan, Stefan Vlaski,
- Abstract要約: これらの極端間のバランスを打つアルゴリズム的枠組みを導入する。
ガウス的マルコフ確率場と未知の精度行列を用いてタスク関係をモデル化することにより、タスク関係と局所モデルの両方を共同で学習する戦略を開発する。
理論的解析は,学習した関係の質を定量化し,数値実験により実効性を示す。
- 参考スコア(独自算出の注目度): 20.627498972435742
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Classical consensus-based strategies for federated and decentralized learning are statistically suboptimal in the presence of heterogeneous local data or task distributions. As a result, in recent years, there has been growing interest in multitask or personalized strategies, which allow individual agents to benefit from one another in pursuing locally optimal models without enforcing consensus. Existing strategies require either precise prior knowledge of the underlying task relationships or are fully non-parametric and instead rely on meta-learning or proximal constructions. In this work, we introduce an algorithmic framework that strikes a balance between these extremes. By modeling task relationships through a Gaussian Markov Random Field with an unknown precision matrix, we develop a strategy that jointly learns both the task relationships and the local models, allowing agents to self-organize in a way consistent with their individual data distributions. Our theoretical analysis quantifies the quality of the learned relationship, and our numerical experiments demonstrate its practical effectiveness.
- Abstract(参考訳): 連合型・分散型学習のための古典的コンセンサスに基づく戦略は、異種局所データやタスク分布の存在下で統計的に最適である。
その結果、近年はマルチタスクやパーソナライズされた戦略への関心が高まっており、個々のエージェントがコンセンサスを強制することなく、局所的に最適なモデルを追求できるようになっている。
既存の戦略は、基礎となるタスク関係の正確な事前知識を必要とするか、完全に非パラメトリックであり、メタラーニングや近位構造に依存している。
本研究では,これらの極端間のバランスを打つアルゴリズム的枠組みを導入する。
ガウス的マルコフ確率場と未知の精度行列を用いてタスク関係をモデル化することにより、タスク関係と局所モデルの両方を共同で学習し、エージェントが個々のデータ分布と整合した方法で自己組織化できる戦略を開発する。
理論的解析は,学習した関係の質を定量化し,数値実験により実効性を示す。
関連論文リスト
- Personalized and Resilient Distributed Learning Through Opinion Dynamics [1.1499574149885023]
マルチエージェントネットワークシステムにおける分散学習の実践的課題として,パーソナライゼーションとレジリエンスの2つに対処する。
これら2つの要件間の概念的親和性により、分散勾配降下とFriedkin-Johnsenモデルを組み合わせた分散学習アルゴリズムを考案した。
提案アルゴリズムは,パーソナライズされたモデルと,標準的な戦略と比較して悪意のあるエージェントの両方で,高いグローバル精度を達成できる,合成および実世界の分散学習タスクにおけるアルゴリズムの有効性を数値的に示す。
論文 参考訳(メタデータ) (2025-05-20T08:39:16Z) - Task Groupings Regularization: Data-Free Meta-Learning with Heterogeneous Pre-trained Models [83.02797560769285]
Data-Free Meta-Learning (DFML)は、トレーニング済みモデルのコレクションから、元のデータにアクセスせずに知識を抽出することを目的としている。
現在の手法は、事前訓練されたモデル間の不均一性を見落とし、タスクの衝突による性能低下につながることが多い。
論文 参考訳(メタデータ) (2024-05-26T13:11:55Z) - ADEPT: Hierarchical Bayes Approach to Personalized Federated Unsupervised Learning [7.19348361223786]
階層型ベイズ統計フレームワークに着想を得た最適化基準に基づくアルゴリズムを開発する。
我々は,限られたローカルデータと協調情報とのバランスを検出する適応アルゴリズムを開発した。
提案アルゴリズムを合成データと実データを用いて評価し、パーソナライズされたタスクに対する効果的なサンプル増幅を実証した。
論文 参考訳(メタデータ) (2024-02-19T20:53:27Z) - Multi-Agent Imitation Learning with Copulas [102.27052968901894]
マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。
本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。
提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
論文 参考訳(メタデータ) (2021-07-10T03:49:41Z) - Distributed Bayesian Online Learning for Cooperative Manipulation [9.582645137247667]
ベイズ原理を用いた協調操作の模範的タスクのための新しい分散学習フレームワークを提案する。
各エージェントは、局所状態情報のみを使用して、オブジェクトダイナミクスの推定を取得し、キネマティクスを把握する。
対象のダイナミクスと把持キネマティックスの各々の推定には不確実性の尺度が伴うため、高い確率で有界な予測誤差を保証できる。
論文 参考訳(メタデータ) (2021-04-09T13:03:09Z) - Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。
提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。
シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
論文 参考訳(メタデータ) (2020-10-06T16:51:09Z) - Learning while Respecting Privacy and Robustness to Distributional
Uncertainties and Adversarial Data [66.78671826743884]
分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。
目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。
提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
論文 参考訳(メタデータ) (2020-07-07T18:25:25Z) - Dynamic Federated Learning [57.14673504239551]
フェデレートラーニング(Federated Learning)は、マルチエージェント環境における集中的なコーディネーション戦略の包括的用語として登場した。
我々は、各イテレーションにおいて、利用可能なエージェントのランダムなサブセットがそのデータに基づいてローカル更新を実行する、フェデレートされた学習モデルを考える。
集約最適化問題に対する真の最小化器上の非定常ランダムウォークモデルの下で、アーキテクチャの性能は、各エージェントにおけるデータ変動率、各エージェントにおけるモデル変動率、アルゴリズムの学習率に逆比例する追跡項の3つの要因によって決定されることを示す。
論文 参考訳(メタデータ) (2020-02-20T15:00:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。