論文の概要: Bridging Lifelong and Multi-Task Representation Learning via Algorithm and Complexity Measure

• arxiv url: http://arxiv.org/abs/2511.01847v1
• Date: Mon, 03 Nov 2025 18:54:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-05 16:37:27.380036
• Title: Bridging Lifelong and Multi-Task Representation Learning via Algorithm and Complexity Measure
• Title（参考訳）: アルゴリズムと複雑度測定によるブリッジライフロングとマルチタスク表現学習
• Authors: Zhi Wang, Chicheng Zhang, Ramya Korlakai Vinayak,
• Abstract要約: 本研究では、そのような構造が共通のデータ表現によってキャプチャされる環境について検討する。 本稿では,マルチタスクによる経験的リスク最小化をサブルーチンとして用いた単純なアルゴリズムを提案する。 具体例として、ノイズ下での分類および回帰タスクの結果をインスタンス化する。
• 参考スコア（独自算出の注目度）: 23.67755651831065
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In lifelong learning, a learner faces a sequence of tasks with shared structure and aims to identify and leverage it to accelerate learning. We study the setting where such structure is captured by a common representation of data. Unlike multi-task learning or learning-to-learn, where tasks are available upfront to learn the representation, lifelong learning requires the learner to make use of its existing knowledge while continually gathering partial information in an online fashion. In this paper, we consider a generalized framework of lifelong representation learning. We propose a simple algorithm that uses multi-task empirical risk minimization as a subroutine and establish a sample complexity bound based on a new notion we introduce--the task-eluder dimension. Our result applies to a wide range of learning problems involving general function classes. As concrete examples, we instantiate our result on classification and regression tasks under noise.
• Abstract（参考訳）: 生涯学習において、学習者は共有構造を持つ一連のタスクに直面し、学習を加速するためにそれを識別し活用することを目的としている。 本研究では、そのような構造が共通のデータ表現によってキャプチャされる環境について検討する。 マルチタスク学習やラーニング・トゥ・ラーンとは異なり、タスクが前もって表現を学習できるのに対し、生涯学習では学習者が既存の知識を利用しながら、オンラインの方法で部分的な情報を継続的に収集する必要がある。 本稿では,生涯的表現学習の一般的な枠組みについて考察する。 本稿では,マルチタスクによる経験的リスク最小化をサブルーチンとして用いた簡単なアルゴリズムを提案する。 この結果は、一般関数クラスを含む幅広い学習問題に適用できる。 具体例として、ノイズ下での分類および回帰タスクの結果をインスタンス化する。

関連論文リスト

• Is Visual in-Context Learning for Compositional Medical Tasks within Reach? [68.56630652862293]
  本稿では、1つのモデルで複数のタスクを処理できるビジュアル・イン・コンテキスト・ラーニングの可能性について検討する。 本稿では,合成合成タスク生成エンジンを用いたコンテキスト内学習者の学習方法を提案する。
  論文  参考訳（メタデータ） (2025-07-01T15:32:23Z)
• Hierarchically Structured Task-Agnostic Continual Learning [0.0]
  本研究では,連続学習のタスク非依存的な視点を取り入れ,階層的情報理論の最適性原理を考案する。 我々は,情報処理経路の集合を作成することで,忘れを緩和する,Mixture-of-Variational-Experts層と呼ばれるニューラルネットワーク層を提案する。 既存の連続学習アルゴリズムのようにタスク固有の知識を必要としない。
  論文  参考訳（メタデータ） (2022-11-14T19:53:15Z)
• Saliency-Regularized Deep Multi-Task Learning [7.3810864598379755]
  マルチタスク学習は、知識を共有するために複数の学習タスクを強制し、一般化能力を改善する。 現代のディープマルチタスク学習は、潜在機能とタスク共有を共同で学習することができるが、それらはタスク関係において不明瞭である。 本稿では,潜在的特徴と明示的な課題関係を共同で学習するマルチタスク学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-03T20:26:44Z)
• Fast Inference and Transfer of Compositional Task Structures for Few-shot Task Generalization [101.72755769194677]
  本稿では,タスクがサブタスクグラフによって特徴づけられる,数発の強化学習問題として定式化する。 我々のマルチタスクサブタスクグラフ推論器(MTSGI)は、トレーニングタスクから、まず、サブタスクグラフの観点から、一般的なハイレベルなタスク構造を推測する。 提案手法は,2次元グリッドワールドおよび複雑なWebナビゲーション領域において,タスクの共通基盤構造を学習し,活用し,未知のタスクへの適応を高速化する。
  論文  参考訳（メタデータ） (2022-05-25T10:44:25Z)
• On the relationship between disentanglement and multi-task learning [62.997667081978825]
  ハードパラメータ共有に基づくマルチタスク学習と絡み合いの関係について,より詳しく検討する。 マルチタスクニューラルネットワークトレーニングの過程において, 絡み合いが自然に現れることを示す。
  論文  参考訳（メタデータ） (2021-10-07T14:35:34Z)
• One Network Fits All? Modular versus Monolithic Task Formulations in Neural Networks [36.07011014271394]
  単一のニューラルネットワークは,複合データセットから複数のタスクを同時に学習できることを示す。 このような組み合わせタスクの学習の複雑さは、タスクコードの複雑さとともにどのように成長するかを研究する。
  論文  参考訳（メタデータ） (2021-03-29T01:16:42Z)
• Curriculum Learning: A Survey [65.31516318260759]
  カリキュラム学習戦略は、機械学習のあらゆる分野で成功している。 我々は,様々な分類基準を考慮して,カリキュラム学習アプローチの分類を手作業で構築する。 集約型クラスタリングアルゴリズムを用いて,カリキュラム学習手法の階層木を構築する。
  論文  参考訳（メタデータ） (2021-01-25T20:08:32Z)
• Meta-Learning with Sparse Experience Replay for Lifelong Language Learning [26.296412053816233]
  本稿では,スパース体験を再現したメタラーニングに基づく言語タスクの生涯学習のための新しいアプローチを提案する。 本研究では,タスクのストリーム上で1回のパスを実行するという現実的な設定の下で,生涯のテキスト分類と関係抽出に関する最先端結果を得る。
  論文  参考訳（メタデータ） (2020-09-10T14:36:38Z)
• Adversarial Continual Learning [99.56738010842301]
  本稿では,タスク不変およびタスク特化機能に対する不整合表現を学習するハイブリッド連続学習フレームワークを提案する。 本モデルでは,タスク固有のスキルの忘れを防止するためにアーキテクチャの成長と,共有スキルを維持するための経験的リプレイアプローチを組み合わせる。
  論文  参考訳（メタデータ） (2020-03-21T02:08:17Z)
• Provable Meta-Learning of Linear Representations [114.656572506859]
  我々は、複数の関連するタスクから共通の機能の集合を学習し、その知識を新しい未知のタスクに転送する、という2つの課題に対処する、高速でサンプル効率のアルゴリズムを提供する。 また、これらの線形特徴を学習する際のサンプルの複雑さに関する情報理論の下限も提供する。
  論文  参考訳（メタデータ） (2020-02-26T18:21:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。