論文の概要: Heterogeneous Tensor Mixture Models in High Dimensions
- arxiv url: http://arxiv.org/abs/2104.07773v1
- Date: Thu, 15 Apr 2021 21:06:16 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-20 08:23:12.549127
- Title: Heterogeneous Tensor Mixture Models in High Dimensions
- Title(参考訳): 高次元の不均質テンソル混合モデル
- Authors: Biao Cai, Jingfei Zhang and Will Wei Sun
- Abstract要約: 我々は,不均質な共分散を持つ柔軟高次元テンソル混合モデルを導入する問題を考える。
本手法は,実パラメータの統計的近傍に幾何学的に収束することを示す。
自閉症スペクトラム障害の診断に重要な脳領域を明らかにする。
- 参考スコア(独自算出の注目度): 5.656785831541303
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of jointly modeling and clustering populations of
tensors by introducing a flexible high-dimensional tensor mixture model with
heterogeneous covariances. The proposed mixture model exploits the intrinsic
structures of tensor data, and is assumed to have means that are low-rank and
internally sparse as well as heterogeneous covariances that are separable and
conditionally sparse. We develop an efficient high-dimensional
expectation-conditional-maximization (HECM) algorithm that breaks the
challenging optimization in the M-step into several simpler conditional
optimization problems, each of which is convex, admits regularization and has
closed-form updating formulas. We show that the proposed HECM algorithm, with
an appropriate initialization, converges geometrically to a neighborhood that
is within statistical precision of the true parameter. Such a theoretical
analysis is highly nontrivial due to the dual non-convexity arising from both
the EM-type estimation and the non-convex objective function in the M-step. The
efficacy of our proposed method is demonstrated through simulation studies and
an application to an autism spectrum disorder study, where our analysis
identifies important brain regions for diagnosis.
- Abstract(参考訳): 不均一な共分散を伴うフレキシブルな高次元テンソル混合モデルを導入することにより、テンソルの連成モデルとクラスタリング集団の問題を考察する。
提案した混合モデルはテンソルデータの固有構造を利用しており、低ランクかつ内部スパースな手段と、分離可能かつ条件付きスパースな異種共分散を持つと考えられる。
我々は,Mステップの難解な最適化を複数の単純な条件最適化問題に分解する,効率的な高次元予測条件最適化(HECM)アルゴリズムを開発した。
提案するhecmアルゴリズムは,適切な初期化を伴い,実パラメータの統計的精度以下の近傍に幾何学的に収束することを示す。
このような理論解析は、em型推定とm-ステップにおける非凸目的関数の両方から生じる双対非凸性のため、非常に非自明である。
本手法の有効性は, シミュレーション研究および自閉症スペクトラム障害研究への応用を通じて実証され, 診断において重要な脳領域を同定する。
関連論文リスト
- Alternating Minimization Schemes for Computing Rate-Distortion-Perception Functions with $f$-Divergence Perception Constraints [10.564071872770146]
離散メモリレスソースに対するRDPF(Ralse-Distortion-Perception Function)の計算について検討した。
最適パラメトリック解を特徴付ける。
歪みと知覚制約について十分な条件を提供する。
論文 参考訳(メタデータ) (2024-08-27T12:50:12Z) - Regularized Projection Matrix Approximation with Applications to Community Detection [1.3761665705201904]
本稿では,アフィニティ行列からクラスタ情報を復元するための正規化プロジェクション行列近似フレームワークを提案する。
3つの異なるペナルティ関数について検討し, それぞれが有界, 正, スパースシナリオに対応するように調整した。
合成および実世界の両方のデータセットで行った数値実験により、我々の正規化射影行列近似アプローチはクラスタリング性能において最先端の手法を著しく上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2024-05-26T15:18:22Z) - A unified consensus-based parallel ADMM algorithm for high-dimensional
regression with combined regularizations [3.280169909938912]
並列交互乗算器 (ADMM) は大規模分散データセットの処理に有効であることが広く認識されている。
提案アルゴリズムは,財務事例の信頼性,安定性,スケーラビリティを示す。
論文 参考訳(メタデータ) (2023-11-21T03:30:38Z) - PROMISE: Preconditioned Stochastic Optimization Methods by Incorporating Scalable Curvature Estimates [17.777466668123886]
PROMISE ($textbfPr$econditioned $textbfO$ptimization $textbfM$ethods by $textbfI$ncorporating $textbfS$calable Curvature $textbfE$stimates)はスケッチベースの事前条件勾配アルゴリズムである。
PROMISEには、SVRG、SAGA、およびKatyushaのプレコンディション版が含まれている。
論文 参考訳(メタデータ) (2023-09-05T07:49:10Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Posterior-Aided Regularization for Likelihood-Free Inference [23.708122045184698]
後補助正規化(PAR)は,モデル構造に関係なく,密度推定器の学習に適用可能である。
単一のニューラルネットワークを用いて逆KL項と相互情報項の両方を推定するPARの統一推定方法を提供する。
論文 参考訳(メタデータ) (2021-02-15T16:59:30Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。
MVSCに適合する新しい構造テンソル低ランクノルムを設計する。
提案手法は最先端の手法よりもかなり優れていることを示す。
論文 参考訳(メタデータ) (2020-04-30T11:52:12Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。