論文の概要: EMPEROR: Efficient Moment-Preserving Representation of Distributions
- arxiv url: http://arxiv.org/abs/2509.16379v1
- Date: Fri, 19 Sep 2025 19:42:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 18:58:15.764316
- Title: EMPEROR: Efficient Moment-Preserving Representation of Distributions
- Title(参考訳): EMPEROR: 分散の効率的なモーメント保存表現
- Authors: Xinran Liu, Shansita D. Sharma, Soheil Kolouri,
- Abstract要約: 本稿では,ニューラルネットワーク表現における高次元確率測度を表現するためのフレームワークEMPERORを紹介する。
グローバルプール操作とは異なり、EMPERORは統計モーメントを通じて特徴分布を符号化する。
- 参考スコア(独自算出の注目度): 20.606870676059234
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce EMPEROR (Efficient Moment-Preserving Representation of Distributions), a mathematically rigorous and computationally efficient framework for representing high-dimensional probability measures arising in neural network representations. Unlike heuristic global pooling operations, EMPEROR encodes a feature distribution through its statistical moments. Our approach leverages the theory of sliced moments: features are projected onto multiple directions, lightweight univariate Gaussian mixture models (GMMs) are fit to each projection, and the resulting slice parameters are aggregated into a compact descriptor. We establish determinacy guarantees via Carleman's condition and the Cram\'er-Wold theorem, ensuring that the GMM is uniquely determined by its sliced moments, and we derive finite-sample error bounds that scale optimally with the number of slices and samples. Empirically, EMPEROR captures richer distributional information than common pooling schemes across various data modalities, while remaining computationally efficient and broadly applicable.
- Abstract(参考訳): 本稿では,ニューラルネットワーク表現における高次元確率測度を表現するための,数学的に厳密で効率的なフレームワークEMPEROR(Efficient Moment-Preserving Representation of Distributions)を紹介する。
ヒューリスティックなグローバルプール操作とは異なり、EMPERORはその統計モーメントを通して特徴分布を符号化する。
提案手法はスライスモーメントの理論を利用する: 特徴は複数方向に投影され, 軽量一変量ガウス混合モデル(GMM)は各射影に適合し, 得られたスライスパラメータはコンパクトな記述子に集約される。
我々はカールマンの条件とクラム=ウォルドの定理による決定性保証を確立し、GMMがそのスライスモーメントによって一意に決定されることを保証し、スライス数やサンプル数と最適にスケールする有限サンプル誤差境界を導出する。
EMPERORは、様々なデータモダリティにまたがる一般的なプール方式よりも、よりリッチな分布情報をキャプチャするが、計算効率は高く、広く適用できる。
関連論文リスト
- Generative Assignment Flows for Representing and Learning Joint Distributions of Discrete Data [2.6499018693213316]
離散確率変数の結合確率分布の表現のための新しい生成モデルを提案する。
このアプローチでは、分解分布の統計部分多様体上のランダム化代入フローによる測度輸送を用いる。
論文 参考訳(メタデータ) (2024-06-06T21:58:33Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Scalable Dynamic Mixture Model with Full Covariance for Probabilistic Traffic Forecasting [14.951166842027819]
時間変化誤差過程に対するゼロ平均ガウス分布の動的混合を提案する。
提案手法は,学習すべきパラメータを数つ追加するだけで,既存のディープラーニングフレームワークにシームレスに統合することができる。
提案手法を交通速度予測タスク上で評価し,提案手法がモデル水平線を改良するだけでなく,解釈可能な時間相関構造も提供することを発見した。
論文 参考訳(メタデータ) (2022-12-10T22:50:00Z) - Algebraic Reduction of Hidden Markov Models [0.0]
与えられた出力プロセスの単一時間分布を正確に再現するモデルを返す2つのアルゴリズムを提案する。
この還元法は、観測された出力の構造だけでなく、初期状態も利用している。
最適アルゴリズムはHMM(すなわちHMM)のクラスのために導出される。
論文 参考訳(メタデータ) (2022-08-11T02:46:05Z) - Wrapped Distributions on homogeneous Riemannian manifolds [58.720142291102135]
パラメータ、対称性、モダリティなどの分布の性質の制御は、フレキシブルな分布の族を生み出す。
変動型オートエンコーダと潜在空間ネットワークモデル内で提案した分布を利用して,我々のアプローチを実証的に検証する。
論文 参考訳(メタデータ) (2022-04-20T21:25:21Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳(メタデータ) (2020-12-04T15:36:29Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z) - Fitting Laplacian Regularized Stratified Gaussian Models [0.0]
データから複数の関連するゼロ平均ガウス分布を共同推定する問題を考察する。
本稿では,大規模な問題にスケールする分散手法を提案するとともに,金融,レーダ信号処理,天気予報などの手法の有効性について述べる。
論文 参考訳(メタデータ) (2020-05-04T18:00:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。