論文の概要: Heterogeneous Tensor Mixture Models in High Dimensions
- arxiv url: http://arxiv.org/abs/2104.07773v1
- Date: Thu, 15 Apr 2021 21:06:16 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-20 08:23:12.549127
- Title: Heterogeneous Tensor Mixture Models in High Dimensions
- Title(参考訳): 高次元の不均質テンソル混合モデル
- Authors: Biao Cai, Jingfei Zhang and Will Wei Sun
- Abstract要約: 我々は,不均質な共分散を持つ柔軟高次元テンソル混合モデルを導入する問題を考える。
本手法は,実パラメータの統計的近傍に幾何学的に収束することを示す。
自閉症スペクトラム障害の診断に重要な脳領域を明らかにする。
- 参考スコア(独自算出の注目度): 5.656785831541303
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of jointly modeling and clustering populations of
tensors by introducing a flexible high-dimensional tensor mixture model with
heterogeneous covariances. The proposed mixture model exploits the intrinsic
structures of tensor data, and is assumed to have means that are low-rank and
internally sparse as well as heterogeneous covariances that are separable and
conditionally sparse. We develop an efficient high-dimensional
expectation-conditional-maximization (HECM) algorithm that breaks the
challenging optimization in the M-step into several simpler conditional
optimization problems, each of which is convex, admits regularization and has
closed-form updating formulas. We show that the proposed HECM algorithm, with
an appropriate initialization, converges geometrically to a neighborhood that
is within statistical precision of the true parameter. Such a theoretical
analysis is highly nontrivial due to the dual non-convexity arising from both
the EM-type estimation and the non-convex objective function in the M-step. The
efficacy of our proposed method is demonstrated through simulation studies and
an application to an autism spectrum disorder study, where our analysis
identifies important brain regions for diagnosis.
- Abstract(参考訳): 不均一な共分散を伴うフレキシブルな高次元テンソル混合モデルを導入することにより、テンソルの連成モデルとクラスタリング集団の問題を考察する。
提案した混合モデルはテンソルデータの固有構造を利用しており、低ランクかつ内部スパースな手段と、分離可能かつ条件付きスパースな異種共分散を持つと考えられる。
我々は,Mステップの難解な最適化を複数の単純な条件最適化問題に分解する,効率的な高次元予測条件最適化(HECM)アルゴリズムを開発した。
提案するhecmアルゴリズムは,適切な初期化を伴い,実パラメータの統計的精度以下の近傍に幾何学的に収束することを示す。
このような理論解析は、em型推定とm-ステップにおける非凸目的関数の両方から生じる双対非凸性のため、非常に非自明である。
本手法の有効性は, シミュレーション研究および自閉症スペクトラム障害研究への応用を通じて実証され, 診断において重要な脳領域を同定する。
関連論文リスト
- An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Moment Estimation for Nonparametric Mixture Models Through Implicit
Tensor Decomposition [7.139680863764187]
条件に依存しない混合モデルを$mathbbRn$で推定するために,最小二乗法を交互に最適化する手法を提案する。
線形解を用いて、累積分布関数、高次モーメント、その他の成分分布の統計値を計算する。
数値実験は、アルゴリズムの競合性能と、多くのモデルや応用への適用性を実証する。
論文 参考訳(メタデータ) (2022-10-25T23:31:33Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Information Theoretic Structured Generative Modeling [13.117829542251188]
構造生成モデル (Structured Generative Model, SGM) と呼ばれる新しい生成モデルフレームワークが提案され, 簡単な最適化が可能となった。
この実装では、無限のガウス混合モデルを学習するために適合した単一白色ノイズ源への正則入力によって駆動される1つのニューラルネットワークを採用している。
予備的な結果は、SGMがデータ効率と分散、従来のガウス混合モデルと変分混合モデル、および敵ネットワークのトレーニングにおいてMINE推定を著しく改善することを示している。
論文 参考訳(メタデータ) (2021-10-12T07:44:18Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z) - Posterior-Aided Regularization for Likelihood-Free Inference [23.708122045184698]
後補助正規化(PAR)は,モデル構造に関係なく,密度推定器の学習に適用可能である。
単一のニューラルネットワークを用いて逆KL項と相互情報項の両方を推定するPARの統一推定方法を提供する。
論文 参考訳(メタデータ) (2021-02-15T16:59:30Z) - Statistical optimality and stability of tangent transform algorithms in
logit models [6.9827388859232045]
我々は,データ生成過程の条件として,ロジカルオプティマによって引き起こされるリスクに対して,非漸近上界を導出する。
特に,データ生成過程の仮定なしにアルゴリズムの局所的変動を確立する。
我々は,大域収束が得られる半直交設計を含む特別な場合について検討する。
論文 参考訳(メタデータ) (2020-10-25T05:15:13Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z) - Estimation of sparse Gaussian graphical models with hidden clustering
structure [8.258451067861932]
隠れクラスタリング構造を持つスパースガウス図形モデルを推定するモデルを提案する。
対称なガウス・シーデルに基づく乗算器の交互方向法を開発した。
合成データと実データの両方に関する数値実験により,本モデルの有効性が示された。
論文 参考訳(メタデータ) (2020-04-17T08:43:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。