論文の概要: Empirical-Bayes spectral partial pooling across related tasks
- arxiv url: http://arxiv.org/abs/2610.07284v1
- Date: Mon, 05 Oct 2026 19:20:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.615603
- Title: Empirical-Bayes spectral partial pooling across related tasks
- Title(参考訳): 関連するタスクにおける経験的ベイズスペクトル部分プール
- Abstract要約: タスク固有のスペクトル推定器を部分的にプールするためのスケーラブルな経験的ベイズフレームワークである階層スペクトル収縮(textttHSS)を紹介する。
我々は,分割,完全プール化,共有サブスペースアプローチに対して,推定精度とアウトオブサンプル性能を大幅に改善した。
- 参考スコア(独自算出の注目度): 0.7614628596146601
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spectral methods are central to high-dimensional statistics and machine learning, underlying procedures for covariance estimation, matrix denoising, representation learning, clustering, and latent variable modeling. In this work, we focus primarily on spectral estimators for high-dimensional factor models, where leading singular vectors of the data matrix are used to estimate latent structure and covariance parameters. In many modern applications, however, data are collected across related but heterogeneous tasks, studies, domains, or populations. Applying such estimators separately to each task can lead to unstable estimates when sample sizes are limited relative to dimension, while completely pooling the data can obscure meaningful task-specific structure. We introduce Hierarchical Spectral Shrinkage (\texttt{HSS}), a scalable empirical-Bayes framework for partially pooling task-specific spectral estimators. The method regularizes the leading spectral directions of each task toward a data-adaptivelylearned common basis, while allowing the amount of shrinkage to vary across tasks and spectral components. The proposed estimator arises as the posterior mean in a surrogate Bayesian regression formulation of the empirical singular vectors. For factor models, \texttt{HSS} yields partially pooled estimators of the group-specific loading spaces and covariance matrices and can be combined with different spectral estimators by replacing their empirical singular vectors with hierarchically regularized counterparts. More broadly, the same construction provides a mechanism for extending spectral estimators to collections of related but heterogeneous datasets. We demonstrate substantial improvements in estimation accuracy and out-of-sample performance over separate, fully pooled, and shared-subspace approaches in synthetic experiments and multi-study gene-expression data.
- Abstract(参考訳): スペクトル法は高次元統計学と機械学習の中心であり、共分散推定、行列分解、表現学習、クラスタリング、潜在変数モデリングの基礎的な手順である。
本研究では,データ行列の主特異ベクトルを用いて潜在構造と共分散パラメータを推定する高次元因子モデルに対するスペクトル推定器に着目した。
しかし、現代の多くの応用において、データは関連するが異質なタスク、研究、ドメイン、あるいは集団にまたがって収集される。
このような推定器を各タスクに別々に適用することは、サンプルサイズが寸法に制限されている場合、不安定な推定につながる可能性があるが、データを完全にプールすることは、意味のあるタスク固有の構造を曖昧にすることができる。
タスク固有のスペクトル推定器を部分的にプールするためのスケーラブルな経験的ベイズフレームワークである階層スペクトル収縮(\texttt{HSS})を紹介する。
この方法は、各タスクの先頭のスペクトル方向を、データ順応的に学習された共通ベースに向けて規則化し、タスクやスペクトル成分によって収縮の量が異なることを許容する。
提案した推定器は、経験的特異ベクトルの代用ベイズ回帰定式化において、後平均として現れる。
因子モデルでは、texttt{HSS} は群固有の負荷空間と共分散行列の部分的にプールされた推定子を生成し、経験的特異ベクトルを階層的に正規化されたベクトルに置き換えることで異なるスペクトル推定子と組み合わせることができる。
より広範に、同じ構造は、スペクトル推定器を関連するが異質なデータセットの集合に拡張するメカニズムを提供する。
合成実験とマルチスタディ遺伝子表現データにおいて、分離、完全プール化、共有サブスペースアプローチによる推定精度とアウトオブサンプル性能を大幅に改善した。
関連論文リスト
- Mixtures of spatial factor analyzers for tensor-variate data [0.0]
高次元データをクラスタリングする際の課題に対処するために、空間因子分析器(MSFA)の混合を導入している。
提案フレームワークは, フレキシブルなスプライン型崩壊共分散構造を取り入れ, 次元が増大するにつれてパラメータのインフレーションを防止する。
論文 参考訳(メタデータ) (2026-07-08T19:49:46Z) - K-Models: a Flexible and Interpretable Method for Ordinal Clustering with Application to Antigen-Antibody Interaction Profiles [65.21921642886367]
K-Modelsは、順序的制約を統合し、観察された機能プロファイルを生成するランダムプロセスの基本的な要素を推定する新しいフレームワークである。
提案手法はシミュレーションと実世界の応用を通して評価する。
論文 参考訳(メタデータ) (2026-05-14T13:35:44Z) - Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。
共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
論文 参考訳(メタデータ) (2025-11-23T00:50:33Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - Interpetable Target-Feature Aggregation for Multi-Task Learning based on Bias-Variance Analysis [53.38518232934096]
マルチタスク学習(MTL)は、タスク間の共有知識を活用し、一般化とパフォーマンスを改善するために設計された強力な機械学習パラダイムである。
本稿では,タスククラスタリングと特徴変換の交点におけるMTL手法を提案する。
両段階において、鍵となる側面は減った目標と特徴の解釈可能性を維持することである。
論文 参考訳(メタデータ) (2024-06-12T08:30:16Z) - Hodge-Aware Contrastive Learning [101.56637264703058]
単純コンプレックスは、マルチウェイ依存によるデータのモデリングに有効である。
我々は、単純なデータを処理するための対照的な自己教師付き学習手法を開発した。
論文 参考訳(メタデータ) (2023-09-14T00:40:07Z) - Spectral Estimators for Structured Generalized Linear Models via Approximate Message Passing [28.91482208876914]
本研究では,高次元一般化線形モデルにおけるパラメータ推定の問題について考察する。
広く使われているにもかかわらず、厳密なパフォーマンス特性とデータ前処理の原則が、構造化されていない設計でのみ利用可能である。
論文 参考訳(メタデータ) (2023-08-28T11:49:23Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。