論文の概要: Sample-Weighted End-to-End Trace-Norm Geometry for Multitask Learning
- arxiv url: http://arxiv.org/abs/2609.29520v1
- Date: Tue, 25 Aug 2026 04:35:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:56.055268
- Title: Sample-Weighted End-to-End Trace-Norm Geometry for Multitask Learning
- Title(参考訳): マルチタスク学習のためのサンプル重み付きエンド・ツー・エンドトレース・ノーム幾何
- Abstract要約: タスク係数から入力空間予測器へのエンド・ツー・エンドマップのサンプルサイズ重み付きトレースノルムについて検討する。
明示的な構成は、線形層をキャンセルするための配向と分解のギャップと指数的な深さのギャップを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multitask models combine a shared representation with task-specific outputs, but generalization bounds often control the two components separately. Such products can discard relative orientation and cancellation and can change under equivalent transformations of intermediate coordinates even when the represented predictors are unchanged. We study instead the sample-size-weighted trace norm of the end-to-end map from task coefficients to input-space predictors. For its fixed-radius class, we derive the exact empirical Rademacher complexity. The same quantity is characterized by eliminating a positive-definite task covariance after the representation acts and, in finite-dimensional intermediate spaces, by optimizing the separated product over all equivalent invertible refactorizations. Explicit constructions show unbounded orientation and factorization gaps and an exponential depth gap for cancelling linear layers. As a geometric application, finite-to-one Lipschitz shared maps yield an exact Sobolev task Gram matrix determined by multiplicity and local directional distortion. We evaluate the corresponding convex regularizer in two protocol-locked unseen suites. Across 252 paired held-out comparisons, weighted joint nuclear regularization improves average population excess over unweighted nuclear regularization by 0.00764, with a stratified-bootstrap 95% interval [0.00465, 0.01110]. Correct task counts improve average and least-sampled-quartile excess over shifted counts by 0.01072 and 0.02847; all 15 imbalanced rank-suite cells are positive and the balanced effect is zero. Weighted joint nuclear also outperforms weighted Frobenius and independent ridge. The least-sampled-quartile comparison with unweighted nuclear remains unresolved, delimiting rather than contradicting the average advantage. All seven predeclared gates pass.
- Abstract(参考訳): マルチタスクモデルは共有表現とタスク固有の出力を組み合わせるが、一般化境界はしばしば2つのコンポーネントを独立に制御する。
このような製品は相対配向やキャンセルを捨てることができ、表現された予測器が変化しても中間座標の等価変換の下で変化することができる。
代わりに、タスク係数から入力空間予測器へのエンド・ツー・エンドマップのサンプルサイズ重み付きトレースノルムについて検討する。
固定ラデウス類では、正確な経験的ラデマチャー複雑性を導出する。
同じ量は、表現が作用した後の正定タスク共分散を排除し、有限次元の中間空間において、すべての同値な可逆リファクタリングに対して分離積を最適化することによって特徴づけられる。
明示的な構成は、線形層をキャンセルするための非有界な配向と分解ギャップと指数的な深さギャップを示す。
幾何学的応用として、有限対一のリプシッツ共有写像は、多重度と局所方向歪みによって決定される厳密なソボレフタスクグラム行列を生成する。
2つのプロトコルロックされた未確認スイートにおいて、対応する凸正則化器を評価する。
252対のホールトアウト比較で、重み付き核正則化により、未重み付き核正則化よりも平均人口過剰が0.00764向上し、成層型ブートストラップ95%間隔 [0.00465, 0.01110] が得られた。
正しいタスクカウントは、シフト数 0.01072 と 0.02847 よりも平均および最小サンプルのクアリティ過剰を改善し、全ての15の非バランスなランク適合細胞は正であり、バランスの取れた効果はゼロである。
重み付けされた核は、フロベニウスや独立した尾根よりも優れる。
非重みのない原子核との比較は、平均的な優位性に反するよりもむしろ減じて未解決のままである。
先述の7つの門が通る。
関連論文リスト
- Causal inference for group-contaminated structured outcomes: observable quotients, lossless reduction and exact randomization inference [0.0]
制限のない観測モデル X = について検討する。
Y(A)はその観測可能な情報を特徴付ける。
商-忠実復元定理は、完全変換実験には商還元が十分であることを示す。
論文 参考訳(メタデータ) (2026-08-12T11:39:50Z) - Exact Rank-Space KL Projection for Shared-Marginal Low-Rank Factors: Application to Doubly Stochastic Clustering [0.7614628596146601]
等しい全質量の任意の正の行辺に対して、合同KL射影はちょうど$r-1の有効変数のみを持つ厳密な凸ゲージ固定双対に還元される。
この幾何学を専門とし、$W=UnameDiag(g)-1Vtop$で2倍グラフ学習を誘導する。
観察されたスパースフィッティング、アンカーエッジ多様体正規化器、ブレグマンのバックトラックと組み合わせることで、ミラー・ディフレッシュ法は受け入れられたステップごとに正確な実現可能性を維持する。
論文 参考訳(メタデータ) (2026-08-09T11:29:05Z) - Finite-Probe Total-Variation Certificates for Finite-Basis Drifting Models [1.2072720711193232]
既知有限密度基底における可積分反対称相互作用と絶対連続法則の凍結測定系について述べる。
ガウス-RBF相互作用では、グローバルエンベロープは無分布および経験的ベルンシュタインラジイをサポートする。
我々は,集団グラム行列によるランダム・プローブの観測性を特徴付け,ランクと対称性のデジェネラを同定し,平均整合に向けて大きな帯域幅の崩壊を証明した。
論文 参考訳(メタデータ) (2026-08-03T00:00:40Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - A Note on Stability for Orthogonalized Matrix Momentum with Client Sampling [7.035974899001363]
我々は, 隣接再帰安定性と重み付き濃度ステップから, 有限ラウンド上尾保証を導出した。
一次元の反例は、なぜギャップ、平滑化、あるいは正則性条件が必要なのかを示す。
論文 参考訳(メタデータ) (2026-06-01T05:36:26Z) - Measuring the Symmetry--Data Exchange Rate [0.2538209532048867]
同一の軌道サイズと一致した計算値を持つ間違った群制御は制約を伴わないよりも悪いことを示す。
相対交換率beta_diff = 1.28は、理論ブートストラップ1.0と符号と桁違いに一致している。
手法的貢献 -- 共有拡散の欠点をキャンセルする相対レート推定器、間違ったグループ制御、および予め特定された失敗分類 - は、強度をパラメータ化できる帰納バイアスに転送される。
論文 参考訳(メタデータ) (2026-05-31T08:17:40Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。