論文の概要: Deep Multitask Learning for Mixed-Type Outcomes with Shared Sparsity
- arxiv url: http://arxiv.org/abs/2607.00995v1
- Date: Wed, 01 Jul 2026 14:31:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.936257
- Title: Deep Multitask Learning for Mixed-Type Outcomes with Shared Sparsity
- Title(参考訳): 共有空間を有する混合型出力の深層マルチタスク学習
- Abstract要約: 本稿では,未知のモノトーン変換によってタスク固有の応答が異なるマルチタスク変換フレームワークを提案する。
高次元の生物学的応用により、タスク間の共有空間性を考察する。
提案手法は,競合する手法と比較して,競合予測と変数選択性能を実現する。
- 参考スコア(独自算出の注目度): 3.0073651666611663
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most existing multitask learning approaches are limited by their reliance on task-specific loss functions tailored to the scale and type of each outcome. When outcomes differ across tasks, these losses are generally not directly comparable, which makes it difficult to formulate a unified objective and may limit information sharing across tasks. We propose a multitask transformation framework in which task-specific responses may differ through unknown monotone transformations. Motivated by high-dimensional biological applications in which the predictor dimension may diverge with the sample size while only a common subset of predictors is informative, we consider shared sparsity across tasks. Under this framework, we estimate the target functions and identify important predictors by optimizing a smoothed rank-based criterion with a group-Lasso penalty, implemented through a multitask deep neural network with a shared first layer. We establish the nonasymptotic excess-risk bounds, and variable-selection consistency for the proposed estimator. Simulation studies show that the proposed method achieves competitive prediction and variable-selection performance compared with competing approaches. Analyses of gene-expression studies with continuous, binary, and mixed outcomes further illustrate that the proposed method improves prediction and identifies biologically meaningful shared predictors.
- Abstract(参考訳): 既存のマルチタスク学習アプローチの多くは、各結果のスケールやタイプに合わせてタスク固有の損失関数に依存することで制限されている。
結果がタスクによって異なる場合、これらの損失は一般的に直接比較されないため、統一された目的を定式化することは困難であり、タスク間での情報共有を制限する可能性がある。
本稿では,未知のモノトーン変換によってタスク固有の応答が異なるマルチタスク変換フレームワークを提案する。
予測器の共通部分集合のみが情報化されている間、予測器の寸法がサンプルサイズにばらつきうる高次元生物学的応用により、タスク間の共有空間性を考える。
本フレームワークでは,グループラッソペナルティでスムーズなランクベースの基準を最適化することにより,対象関数を推定し,重要な予測器を同定する。
提案した推定器の漸近的過剰リスク境界と変数選択整合性を確立する。
シミュレーション研究により,提案手法は競合する手法と比較して,競合予測と変数選択性能を実現することが示された。
連続的、二分的、混合的な結果を用いた遺伝子発現研究の分析により、提案手法は予測を改善し、生物学的に有意な共有予測因子を同定することを示した。
関連論文リスト
- Pitfalls and Remedies for Multi-Task Bayesian Optimization [10.431916242473045]
ベイジアン最適化は、関連するソースタスクのデータを用いて、定期的にターゲット実験を温める。
我々は、このデフォルトを制御された設定で再検討し、それがタスク間の相関を誤って見積もっていることに気付きます。
我々はその失敗を2つの独立した構造機構に遡る。
論文 参考訳(メタデータ) (2026-07-10T03:38:36Z) - Is Softmax Loss All You Need? A Principled Analysis of Softmax-family Loss [91.61796429377041]
ソフトマックスの損失は、分類とランキングのタスクにおいて最も広く使用されるサロゲートの目標の1つである。
本研究では,異なるサロゲートが分類とランキングの指標との整合性を達成するかどうかを考察し,それらの勾配ダイナミクスを分析して,異なる収束挙動を明らかにする。
本研究は,大規模機械学習アプリケーションにおける損失選択の実践的ガイダンスとして,原則的基礎を確立した。
論文 参考訳(メタデータ) (2026-01-30T09:24:52Z) - In-Context Learning Is Provably Bayesian Inference: A Generalization Theory for Meta-Learning [51.56484100374058]
本稿では,ICLリスクをベイズギャップとポストリアバリアンスの2つのコンポーネントに分割する基本的リスク分解を導入する。
一様アテンション変換器の場合、このギャップの非漸近上界を導出し、事前学習プロンプトの数への依存を明確にする。
後方変動は本質的なタスクの不確実性を表すモデルに依存しないリスクである。
論文 参考訳(メタデータ) (2025-10-13T03:42:31Z) - Learning to Route: Per-Sample Adaptive Routing for Multimodal Multitask Prediction [4.171905792428217]
本稿では,モジュールごとのモダリティ処理経路とタスク共有戦略を動的に選択するルーティングベースのアーキテクチャを提案する。
本モデルは,テキストの生および融合表現や数値的特徴を含む複数のモーダルパスを定義する。
本研究は, うつ病および不安症状を予測し, 合成データと実世界心理療法の双方でモデルを評価する。
論文 参考訳(メタデータ) (2025-09-06T16:49:45Z) - On the Interconnections of Calibration, Quantification, and Classifier Accuracy Prediction under Dataset Shift [58.91436551466064]
本稿では,データセットシフト条件下でのキャリブレーションと定量化の3つの基本問題間の相互接続について検討する。
これらのタスクのいずれか1つに対するオラクルへのアクセスは、他の2つのタスクの解決を可能にすることを示す。
本稿では,他の分野から借用した高度に確立された手法の直接適応に基づく各問題に対する新しい手法を提案する。
論文 参考訳(メタデータ) (2025-05-16T15:42:55Z) - Contrastive Multi-Task Dense Prediction [11.227696986100447]
設計における中核的な目的は、異なるタスクに対する包括的な改善を達成するために、クロスタスクインタラクションを効果的にモデル化する方法である。
マルチタスク密接な予測のためのクロスタスク相互作用のモデル化に特徴的コントラスト整合を導入する。
本稿では,各サブタスクの表現学習を効果的に促進するために,一貫性に基づく新しいマルチタスクコントラスト正規化手法を提案する。
論文 参考訳(メタデータ) (2023-07-16T03:54:01Z) - Synergies between Disentanglement and Sparsity: Generalization and
Identifiability in Multi-Task Learning [79.83792914684985]
我々は,最大スパース基底予測器が不整合表現をもたらす条件を提供する新しい識別可能性の結果を証明した。
この理論的な結果から,両レベル最適化問題に基づくアンタングル表現学習の実践的アプローチを提案する。
論文 参考訳(メタデータ) (2022-11-26T21:02:09Z) - Generalization bounds and algorithms for estimating conditional average
treatment effect of dosage [13.867315751451494]
本研究では,治療薬対の条件付き平均因果効果を観測データと仮定の組み合わせで推定する作業について検討した。
これは疫学や経済学など、意思決定のために治療薬対を必要とする分野における長年にわたる課題である。
この問題に対するいくつかのベンチマークデータセットに対して、実証的に新しい最先端のパフォーマンス結果を示す。
論文 参考訳(メタデータ) (2022-05-29T15:26:59Z) - Selective Inference for Sparse Multitask Regression with Applications in
Neuroimaging [2.611153304251067]
本稿では、ニューロイメージングにおける一般的なマルチタスク問題に対処するための選択推論フレームワークを提案する。
我々のフレームワークは、選択イベントの洗練に基づいて、新しい推論条件を提供する。
我々は,選択推論を用いたマルチタスク学習により,単一タスク法よりも真の信号をより正確に復元できることをシミュレーションにより示す。
論文 参考訳(メタデータ) (2022-05-27T20:21:20Z) - Multi-task Supervised Learning via Cross-learning [102.64082402388192]
我々は,様々なタスクを解くことを目的とした回帰関数の集合を適合させることで,マルチタスク学習と呼ばれる問題を考える。
我々の新しい定式化では、これらの関数のパラメータを2つに分けて、互いに近づきながらタスク固有のドメインで学習する。
これにより、異なるドメインにまたがって収集されたデータが、互いのタスクにおける学習パフォーマンスを改善するのに役立つ、クロス・ファーティライズが促進される。
論文 参考訳(メタデータ) (2020-10-24T21:35:57Z) - Task-Feature Collaborative Learning with Application to Personalized
Attribute Prediction [166.87111665908333]
本稿では,TFCL(Task-Feature Collaborative Learning)と呼ばれる新しいマルチタスク学習手法を提案する。
具体的には、まず、特徴とタスクの協調的なグループ化を活用するために、不均一なブロック対角構造正規化器を用いたベースモデルを提案する。
実際の拡張として,重なり合う機能と難易度を区別することで,基本モデルを拡張します。
論文 参考訳(メタデータ) (2020-04-29T02:32:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。