論文の概要: Deep Skew-t Mixture Models
- arxiv url: http://arxiv.org/abs/2609.00773v1
- Date: Tue, 01 Sep 2026 06:02:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.408936
- Title: Deep Skew-t Mixture Models
- Title(参考訳): 深部スキュー・ト混合モデル
- Authors: Jinran Wu, You-Gan Wang, Geoffrey J. McLachlan,
- Abstract要約: 高次元クラスタリングは、成分分布が重み付きかつ方向非対称である場合に困難である。
一般化-双曲型スキュー-$t$正規平均-分散表現に基づく階層的因子分析混合物を提案する。
共有逆ガンマ混合変数は、各完全潜在経路に沿って伝播し、重い尾と方向の非対称性を共同でモデル化することができる。
- 参考スコア(独自算出の注目度): 2.5794915063815664
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-dimensional clustering is challenging when component distributions are both heavy-tailed and directionally asymmetric. We propose a deep skew-$t$ mixture model (DStMM), a hierarchical factor-analytic mixture based on the generalised-hyperbolic skew-$t$ normal mean--variance representation. A shared inverse-gamma mixing variable is propagated along each complete latent pathway, allowing heavy tails and directional asymmetry to be modelled jointly while preserving conditional Gaussianity. Each complete pathway therefore admits an exact GHST marginal representation. We formalise the reductions to symmetric deep $t$, Gaussian deep-mixture, and single-layer GHST factor-analytic models, discuss local non-identifiability and the implementation-level parameter-counting convention, and derive the conditional generalised inverse Gaussian law used for estimation. Estimation is carried out by a stochastic/Monte Carlo EM algorithm, with an explicit implementation-based parameter count for BIC architecture comparison. Simulation studies show that DStMM performs similarly to the symmetric robust model when skewness is absent but provides increasing gains as directional asymmetry becomes stronger, particularly under heavier tails; the same qualitative behaviour persists under smaller samples and unequal mixture proportions. Two real-data applications provide complementary evidence. On the UCI handwritten-digit benchmark, DStMM gives the strongest clustering performance under a common deep architecture, while on the Gas Sensor Array Drift data, DStMM improves on both deep Gaussian and deep $t$ alternatives and, under the implemented BIC criterion, selects a non-trivial second mixture layer. Together, these results support the value of propagating skewness and heavy-tail variation through a deep latent mixture while retaining an exact pathway-level likelihood.
- Abstract(参考訳): 高次元クラスタリングは、成分分布が重み付きかつ方向非対称である場合に困難である。
一般化-双曲型スキュー-$t$正規平均-分散表現に基づく階層的因子分析混合モデルであるディープスキュー-$t$混合モデル(DStMM)を提案する。
共有逆ガンマ混合変数は各完全潜在経路に沿って伝播し、条件付きガウス性を保持しながら重み付きテールと方向性非対称性を共同でモデル化する。
したがって、それぞれの完全経路は、正確なGHST境界表現を許容する。
本稿では, 対称深度$t$, ガウス深度混合モデル, 単層GHST因子分析モデルへの還元を定式化し, 局所的非識別性と実装レベルのパラメータカウント規則について議論し, 推定に用いる条件付き逆ガウス法を導出する。
BICアーキテクチャ比較のための明示的な実装ベースパラメータカウントを用いて,確率/モンテカルロEMアルゴリズムを用いて推定を行う。
シミュレーション研究により、DStMMは歪みが欠如しているときに対称ロバストモデルと同様に作用するが、特に重い尾の下では方向非対称性が強くなるにつれて増加し、同じ定性的挙動はより小さいサンプルと不等混合比の下で持続することが示された。
2つの実データ応用は相補的な証拠を提供する。
UCI手書きデジタルベンチマークでは、DStMMは共通の深層アーキテクチャの下で最強のクラスタリング性能を示し、ガスセンサアレイドリフトデータでは、深いガウシアンと深い$t$の選択肢の両方を改善し、実装されたBIC基準の下では、非自明な第2混合層を選択する。
これらの結果は, 経路レベルを正確に保ちながら, 深い潜伏混合物を通し, ねじれおよび重細な変化を伝播する価値を裏付けるものである。
関連論文リスト
- Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Reinforcement Learning Using known Invariances [54.91261509214309]
本稿では、既知のグループ対称性をカーネルベースの強化学習に組み込むための理論的枠組みを開発する。
対称性を意識したRLは、標準のカーネルよりも大幅に性能が向上することを示す。
論文 参考訳(メタデータ) (2025-11-05T13:56:14Z) - Parsimonious Gaussian mixture models with piecewise-constant eigenvalue profiles [12.889537265772242]
我々は,一対一の共分散固有値プロファイルを持つ擬似GMMの新たなファミリーを導入する。
様々な教師なし実験において、我々のモデルによって達成された、優れた可能性とパーシモニーのトレードオフを示す。
論文 参考訳(メタデータ) (2025-07-02T09:52:56Z) - Wasserstein Convergence of Score-based Generative Models under Semiconvexity and Discontinuous Gradients [3.007949058551534]
スコアベース生成モデル(SGM)は、ガウス雑音で摂動させ、学習された拡散過程を通じてデノベーションすることで、データ分布を近似する。
我々は、潜在的に不連続な勾配を持つ半1次を対象とするSGMに対して、最初の非同相なワッサーシュタイン-2収束保証を確立する。
論文 参考訳(メタデータ) (2025-05-06T11:17:15Z) - RGM: A Robust Generalizable Matching Model [49.60975442871967]
RGM(Robust Generalist Matching)と呼ばれる疎密マッチングのための深部モデルを提案する。
合成トレーニングサンプルと実世界のシナリオのギャップを狭めるために、我々は、疎対応基盤真理を持つ新しい大規模データセットを構築した。
さまざまな密集したスパースなデータセットを混ぜ合わせることができ、トレーニングの多様性を大幅に改善しています。
論文 参考訳(メタデータ) (2023-10-18T07:30:08Z) - The Generalization Error of Stochastic Mirror Descent on
Over-Parametrized Linear Models [37.6314945221565]
ディープネットワークは、目に見えないデータにうまく一般化することが知られている。
正規化特性は「良い」性質を持つ補間解が見つかることを保証している。
理論を検証し、2つのデータモデルを導入するシミュレーション結果を提案する。
論文 参考訳(メタデータ) (2023-02-18T22:23:42Z) - NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。
NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。
我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
論文 参考訳(メタデータ) (2022-09-29T16:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。