論文の概要: The Geometry of Multitask Learning: Sharp Rates for Shared Subspace Estimation
- arxiv url: http://arxiv.org/abs/2610.40713v1
- Date: Thu, 29 Oct 2026 00:44:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.448878
- Title: The Geometry of Multitask Learning: Sharp Rates for Shared Subspace Estimation
- Title(参考訳): マルチタスク学習の幾何学:共有部分空間推定のためのシャープレート
- Abstract要約: 一般マルチタスク補題は、汎用マルチタスク設定において高速な部分空間推定のための条件を提供する。
マルチタスク・レムマは, 線形回帰と分類を考慮し, シャープなミニマックス・レートが得られることを示す。
- 参考スコア(独自算出の注目度): 7.5256409808217155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning a shared subspace in multitask learning is an important statistical problem, yet exact rates remain poorly understood in many of the formal settings considered in the literature. To address this gap, which arises from limitations of existing upper-bound techniques, we propose a general multitask lemma. The lemma provides sufficient conditions for fast subspace estimation in generic multitask settings, in the form of geometric conditions on the task regression functions and their estimators. We subsequently show that the multitask lemma yields sharp minimax rates---previously unknown---for linear regression and classification in the regimes considered, and rates matching up to logarithmic factors for additive-noise regression.
- Abstract(参考訳): マルチタスク学習における共有部分空間の学習は重要な統計問題であるが、文献で考慮された形式的設定の多くでは正確なレートがよく理解されていない。
既存の上界手法の限界から生じるこのギャップに対処するために、一般的なマルチタスク補題を提案する。
補題は、タスク回帰関数とその推定器に関する幾何学的条件の形で、汎用マルチタスク設定における高速な部分空間推定のための十分な条件を提供する。
その後, マルチタスク補題は, 線形回帰と分類を考慮に入れたレジームにおいて, 急激なミニマックス率と, 加法雑音回帰の対数的因子に一致する速度を, 有意な最小値として有することを示した。
関連論文リスト
- Fine-Grained Analysis of Catastrophic Forgetting in Continual Learning via Algorithmic Stability [95.6787772135757]
我々は,SGD下での人口減少を予測するアルゴリズム的安定性の枠組みを構築した。
我々は,定常的,タスク内減衰,学習速度の連続的減衰を考慮した。
経験的忘れるには、トレーニングセットのサイズ、タスクごとの更新数、タスクの総数、学習時間スケジュール、累積勾配アライメントの影響をキャプチャする境界を導出します。
論文 参考訳(メタデータ) (2026-10-22T16:54:40Z) - Provable Benefit of Curriculum in Transformer Tree-Reasoning Post-Training [76.12556589212666]
学習後のカリキュラムは指数関数的複雑性のボトルネックを回避していることを示す。
結果のみの報酬信号の下では、強化学習の微調整は、サンプルの複雑さを高い精度で達成する。
カリキュラムを意識したクエリにより、報奨託書の呼び出しとサンプリングコストの両方を指数関数的に削減するテストタイムスケーリングの保証を確立する。
論文 参考訳(メタデータ) (2025-11-10T18:29:54Z) - ThanoRA: Task Heterogeneity-Aware Multi-Task Low-Rank Adaptation [96.86211867758652]
Low-Rank Adaptation (LoRA) は、基礎モデルの下流の微調整に広く採用されている。
タスク不均一性を考慮したマルチタスク低ランク適応フレームワークであるTanoRAを提案する。
論文 参考訳(メタデータ) (2025-05-24T11:01:45Z) - Meta-learning of shared linear representations beyond well-specified linear regression [13.572602792770292]
本稿では,タスクやユーザによって共有される学習構造,例えば低ランク表現やクラスタ構造などの問題を考察する。
軽微な仮定の下では、ランクとクラスタ化された正規化推定器がそのような構造を回復し、タスク毎のサンプル数とタスク数が十分に大きいことが示される。
凸学習対象の文脈で共有線形表現を学習するための核制約によるノルム時間アルゴリズムを提供する。
論文 参考訳(メタデータ) (2025-01-31T09:11:06Z) - Continual Learning in Linear Classification on Separable Data [34.78569443156924]
正規化の弱い学習は、逐次極大問題の解法に還元されることを示す。
次に、様々な設定の下で、忘れることやその他の関心事に関する上限を策定する。
正規化スケジューリングや重み付けといった,一般的なトレーニングプラクティスに対する実践的な影響について論じる。
論文 参考訳(メタデータ) (2023-06-06T09:34:11Z) - In Defense of the Unitary Scalarization for Deep Multi-Task Learning [121.76421174107463]
本稿では,多くの特殊マルチタスクを正規化の形式として解釈できることを示唆する理論解析について述べる。
標準正規化と安定化技術と組み合わせると、ユニタリスカラー化は複雑なマルチタスクの性能にマッチし、改善することを示す。
論文 参考訳(メタデータ) (2022-01-11T18:44:17Z) - New Tight Relaxations of Rank Minimization for Multi-Task Learning [161.23314844751556]
2つの正規化項に基づく2つの新しいマルチタスク学習定式化を提案する。
本手法は,タスク間で共有される低ランク構造を正確に復元し,関連するマルチタスク学習方法より優れていることを示す。
論文 参考訳(メタデータ) (2021-12-09T07:29:57Z) - Multi-task Supervised Learning via Cross-learning [102.64082402388192]
我々は,様々なタスクを解くことを目的とした回帰関数の集合を適合させることで,マルチタスク学習と呼ばれる問題を考える。
我々の新しい定式化では、これらの関数のパラメータを2つに分けて、互いに近づきながらタスク固有のドメインで学習する。
これにより、異なるドメインにまたがって収集されたデータが、互いのタスクにおける学習パフォーマンスを改善するのに役立つ、クロス・ファーティライズが促進される。
論文 参考訳(メタデータ) (2020-10-24T21:35:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。