論文の概要: Varying-Coefficient Mixture of Experts Model
- arxiv url: http://arxiv.org/abs/2601.01699v1
- Date: Mon, 05 Jan 2026 00:23:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-06 16:25:22.655609
- Title: Varying-Coefficient Mixture of Experts Model
- Title(参考訳): エキスパートモデルの変動係数混合
- Authors: Qicheng Zhao, Celia M. T. Greenwood, Qihuang Zhang,
- Abstract要約: 本稿では、ゲーティング関数とエキスパートモデルの両方におけるすべての係数効果をインデックス変数に沿って変化させることができるVarying-Coefficient Mixture of Experts (VCMoE)モデルを提案する。
本稿では, 胚性マウスにおける単一遺伝子発現のデータセットを用いて, 遺伝子Satb2とBcl11bの関連性の時間的ダイナミクスを特徴づけるVCMoEモデルを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mixture-of-Experts (MoE) is a flexible framework that combines multiple specialized submodels (``experts''), by assigning covariate-dependent weights (``gating functions'') to each expert, and have been commonly used for analyzing heterogeneous data. Existing statistical MoE formulations typically assume constant coefficients, for covariate effects within the expert or gating models, which can be inadequate for longitudinal, spatial, or other dynamic settings where covariate influences and latent subpopulation structure evolve across a known dimension. We propose a Varying-Coefficient Mixture of Experts (VCMoE) model that allows all coefficient effects in both the gating functions and expert models to vary along an indexing variable. We establish identifiability and consistency of the proposed model, and develop an estimation procedure, label-consistent EM algorithm, for both fully functional and hybrid specifications, along with the corresponding asymptotic distributions of the resulting estimators. For inference, simultaneous confidence bands are constructed using both asymptotic theory for the maximum discrepancy between the estimated functional coefficients and their true counterparts, and with bootstrap methods. In addition, a generalized likelihood ratio test is developed to examine whether a coefficient function is genuinely varying across the index variable. Simulation studies demonstrate good finite-sample performance, with acceptable bias and satisfactory coverage rates. We illustrate the proposed VCMoE model using a dataset of single nucleus gene expression in embryonic mice to characterize the temporal dynamics of the associations between the expression levels of genes Satb2 and Bcl11b across two latent cell subpopulations of neurons, yielding results that are consistent with prior findings.
- Abstract(参考訳): Mixture-of-Experts (MoE) は複数の特殊サブモデル (``experts'') を組み合わせたフレキシブルなフレームワークであり、各専門家に共変量依存重み (``gating function'') を割り当てる。
既存の統計的MoEの定式化は、専門家やゲーティングモデルにおける共変量の影響に対して、通常定数係数を仮定するが、これは、共変量の影響や潜伏サブポピュレーション構造が既知の次元にわたって進化する長手、空間、その他の動的環境において不十分である。
本稿では、ゲーティング関数とエキスパートモデルの両方におけるすべての係数効果をインデックス変数に沿って変化させることができるVarying-Coefficient Mixture of Experts (VCMoE)モデルを提案する。
提案手法の妥当性と整合性を確立し, 完全機能仕様とハイブリッド仕様のための評価手法であるラベル一貫性EMアルゴリズムを開発し, 得られた推定器の漸近分布と組み合わせた。
推定には, 推定関数係数と実値との最大差に対する漸近理論とブートストラップ法の両方を用いて同時信頼バンドを構築した。
さらに、指数変数間で係数関数が真に変化しているかどうかを調べるために、一般化された確率比試験を開発した。
シミュレーション研究は、許容バイアスと良好なカバレッジ率で良好な有限サンプル性能を示す。
本稿では、胚マウスにおける単一核遺伝子発現のデータセットを用いて、神経細胞の2つの潜伏細胞サブ集団間での遺伝子Satb2とBcl11bの発現レベルの時間的ダイナミクスを特徴付ける。
関連論文リスト
- Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。
共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
論文 参考訳(メタデータ) (2025-11-23T00:50:33Z) - Dendrograms of Mixing Measures for Softmax-Gated Gaussian Mixture of Experts: Consistency without Model Sweeps [41.371172458797524]
ゲーティングパラメータの共通翻訳、固有のゲート-エキスパート相互作用、およびタイトな数値-デノミネータ結合までの不特定性に対処する。
モデル選択には, 最適なパラメータ率を得る専門家の数を一貫したスイープフリーセレクタとして, デンドログラム誘導SGMoEを適応させる。
干ばつを識別できるトウモロコシの形質のデータセット上で、私たちのデンドログラム誘導SGMoEは2人の専門家を選別し、明確な混合階層を公開し、確率を早期に安定化し、解釈可能な遺伝子型フェノタイプマップを生成する。
論文 参考訳(メタデータ) (2025-10-14T17:23:44Z) - H-AddiVortes: Heteroscedastic (Bayesian) Additive Voronoi Tessellations [0.0]
Heteroscedastic AddiVortesモデルは、応答変数の条件平均と分散を同時にモデル化する。
平均値の総和法と変分に対する積積算法を用いることにより、モデルは複雑で予測因子に依存した関係を捉える柔軟かつ解釈可能な手段を提供する。
論文 参考訳(メタデータ) (2025-03-17T10:41:31Z) - Statistical ranking with dynamic covariates [6.729750785106628]
本稿では,Plackett--Luceフレームワーク内での一般統計ランキングモデルを提案する。
我々は,最大極大推定(MLE)を計算するための効率的な交互アルゴリズムを開発した。
競馬やテニス競技を含む実世界のデータセットへのモデルの適用を実証するために,数値的研究を行った。
論文 参考訳(メタデータ) (2024-06-24T10:26:05Z) - On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。
我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。
本研究は,専門家の選択に重要な意味を持つ。
論文 参考訳(メタデータ) (2024-02-05T12:31:18Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳(メタデータ) (2021-12-02T14:45:16Z) - Pseudo-Spherical Contrastive Divergence [119.28384561517292]
エネルギーベースモデルの最大学習確率を一般化するために,擬球面コントラスト分散(PS-CD)を提案する。
PS-CDは難解な分割関数を避け、学習目的の一般化されたファミリーを提供する。
論文 参考訳(メタデータ) (2021-11-01T09:17:15Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z) - Non-asymptotic oracle inequalities for the Lasso in high-dimensional mixture of experts [2.794896499906838]
ソフトマックスゲーティング関数を持つガウスモデルとガウス専門家のクラスを考察する。
我々の知る限りでは、SGMoEモデルの$l_1$-regularization特性を非漸近的観点から初めて研究する。
我々は、SGMoEモデルに対するラッソ推定器のKulback-Leibler損失の非漸近的理論的制御を保証するために、ラッソペナルティの正規化パラメータの低い境界を与える。
論文 参考訳(メタデータ) (2020-09-22T15:23:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。