論文の概要: Functional Mixtures-of-Experts
- arxiv url: http://arxiv.org/abs/2202.02249v1
- Date: Fri, 4 Feb 2022 17:32:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-07 15:09:38.545578
- Title: Functional Mixtures-of-Experts
- Title(参考訳): 機能混合
- Authors: Fa\"icel Chamroukhi, Nhat Thien Pham, Van H\`a Hoang, Geoffrey J.
McLachlan
- Abstract要約: 本稿では,新しい機能的ME(FME)モデルについて述べる。
我々は、ラッソ様の正則化最大値パラメータ推定のための専用予測-最大化アルゴリズムを開発する。
提案するFMEモデルとEM-Lassoアルゴリズムは、シミュレーションシナリオおよび2つの実データ集合への応用について研究する。
- 参考スコア(独自算出の注目度): 0.6882042556551609
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the statistical analysis of heterogeneous data for clustering and
prediction purposes, in situations where the observations include functions,
typically time series. We extend the modeling with Mixtures-of-Experts (ME), as
a framework of choice in modeling heterogeneity in data for prediction and
clustering with vectorial observations, to this functional data analysis
context. We first present a new family of functional ME (FME) models, in which
the predictors are potentially noisy observations, from entire functions, and
the data generating process of the pair predictor and the real response, is
governed by a hidden discrete variable representing an unknown partition,
leading to complex situations to which the standard ME framework is not
adapted. Second, we provide sparse and interpretable functional representations
of the FME models, thanks to Lasso-like regularizations, notably on the
derivatives of the underlying functional parameters of the model, projected
onto a set of continuous basis functions. We develop dedicated
expectation--maximization algorithms for Lasso-like regularized
maximum-likelihood parameter estimation strategies, to encourage sparse and
interpretable solutions. The proposed FME models and the developed EM-Lasso
algorithms are studied in simulated scenarios and in applications to two real
data sets, and the obtained results demonstrate their performance in accurately
capturing complex nonlinear relationships between the response and the
functional predictor, and in clustering.
- Abstract(参考訳): 我々は, 観測対象が関数を含む場合, 通常は時系列の場合, クラスタリングや予測のために異種データの統計解析を行う。
我々は、ベクトル観測による予測とクラスタリングのためのデータの不均一性をモデル化するためのフレームワークとして、Mixtures-of-Experts (ME) を用いてモデリングを拡張した。
まず,機能的ME(FME)モデルの新たなファミリを提示する。このモデルでは,予測器が関数全体から潜在的にノイズの多い観測を行い,ペア予測器のデータ生成プロセスと実応答が未知の分割を表す隠れ離散変数によって制御され,標準のMEフレームワークが適応しない複雑な状況に導かれる。
第2に,ラスソ様正則化(lasso-like regularization)によるfmeモデルのスパースかつ解釈可能な関数表現,特に,連続基底関数の集合上に投影されたモデルの基本関数パラメータの導出について述べる。
そこで本研究では,lasso-like regularized maximum-likelihood parameter estimation strategyのための期待最大化アルゴリズムを開発した。
提案したFMEモデルとEM-Lassoアルゴリズムは,シミュレーションシナリオおよび2つの実データ集合への適用において研究され,得られた結果は,応答と関数予測器の複雑な非線形関係を正確に把握し,クラスタリングにおいてそれらの性能を示す。
関連論文リスト
- Influence Functions for Scalable Data Attribution in Diffusion Models [52.92223039302037]
拡散モデルは、生成的モデリングに大きな進歩をもたらした。
しかし、彼らの普及はデータ属性と解釈可能性に関する課題を引き起こす。
これらの課題に対処するための影響関数フレームワークを開発する。
論文 参考訳(メタデータ) (2024-10-17T17:59:02Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - On the Influence of Enforcing Model Identifiability on Learning dynamics
of Gaussian Mixture Models [14.759688428864159]
特異モデルからサブモデルを抽出する手法を提案する。
本手法はトレーニング中のモデルの識別性を強制する。
この手法がディープニューラルネットワークのようなより複雑なモデルにどのように適用できるかを示す。
論文 参考訳(メタデータ) (2022-06-17T07:50:22Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Scalable Regularised Joint Mixture Models [2.0686407686198263]
多くの応用において、データは異なる基底分布を持つ潜在群にまたがるという意味で不均一である。
我々は,(i)明示的多変量特徴分布,(ii)高次元回帰モデル,(iii)潜在群ラベルの連成学習を可能にする異種データに対するアプローチを提案する。
このアプローチは明らかに高次元において有効であり、計算効率のためのデータ削減と、特徴数が大きければ鍵信号を保持する再重み付けスキームを組み合わせる。
論文 参考訳(メタデータ) (2022-05-03T13:38:58Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳(メタデータ) (2021-12-02T14:45:16Z) - Multimodal Data Fusion in High-Dimensional Heterogeneous Datasets via
Generative Models [16.436293069942312]
我々は、教師なしの方法で高次元異種データから確率的生成モデルを学習することに興味がある。
本稿では,指数関数的な分布系を通じて異なるデータ型を結合する一般的なフレームワークを提案する。
提案アルゴリズムは、実数値(ガウス)とカテゴリー(マルチノミカル)の特徴を持つ、よく遭遇する異種データセットについて詳細に述べる。
論文 参考訳(メタデータ) (2021-08-27T18:10:31Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Gaussian Function On Response Surface Estimation [12.35564140065216]
メタモデリング手法によるブラックボックス機械学習モデルの解釈(機能とサンプル)のための新しいフレームワークを提案する。
メタモデルは、興味のある領域のデータサンプルでコンピュータ実験を実行することによって、訓練された複雑なモデルによって生成されたデータから推定することができる。
論文 参考訳(メタデータ) (2021-01-04T04:47:00Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。