論文の概要: Effective sample size approximations as entropy measures
- arxiv url: http://arxiv.org/abs/2602.22954v1
- Date: Thu, 26 Feb 2026 12:48:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-27 18:41:22.687413
- Title: Effective sample size approximations as entropy measures
- Title（参考訳）: エントロピー測度としての有効試料サイズ近似
- Authors: L. Martino, V. Elvira,
- Abstract要約: 文献で使用されるESS表現と2つのエントロピー族,レニー族とツァリス・エントロピーの関係を示す。
我々は、ハギンス・ロイ家のすべてのESS関数が、望ましい理論条件をすべて満たしていることを証明した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we analyze alternative effective sample size (ESS) metrics for importance sampling algorithms, and discuss a possible extended range of applications. We show the relationship between the ESS expressions used in the literature and two entropy families, the Rényi and Tsallis entropy. The Rényi entropy is connected to the Huggins-Roy's ESS family introduced in \cite{Huggins15}. We prove that that all the ESS functions included in the Huggins-Roy's family fulfill all the desirable theoretical conditions. We analyzed and remark the connections with several other fields, such as the Hill numbers introduced in ecology, the Gini inequality coefficient employed in economics, and the Gini impurity index used mainly in machine learning, to name a few. Finally, by numerical simulations, we study the performance of different ESS expressions contained in the previous ESS families in terms of approximation of the theoretical ESS definition, and show the application of ESS formulas in a variable selection problem.
- Abstract（参考訳）: 本研究は,重要サンプリングアルゴリズムのための代替有効なサンプルサイズ(ESS)メトリクスを分析し,その拡張範囲について論じる。
文献で使用されるESS表現と2つのエントロピー族,レニー族とツァリス・エントロピーの関係を示す。
Rényiエントロピーは \cite{Huggins15} で導入された Huggins-Roy's ESS ファミリーに接続されている。
我々は、ハギンス・ロイ家のすべてのESS関数が、望ましい理論条件をすべて満たしていることを証明した。
我々は、生態学で導入されたヒル数、経済学で使用されるギニの不等式係数、主に機械学習で使用されるギニ不純物指数など、他のいくつかの分野との関係を分析し、言及した。
最後に、数値シミュレーションにより、理論ESS定義の近似の観点から、以前のESSファミリーに含まれる異なるESS式の性能について検討し、変数選択問題におけるESS式の適用性を示す。
関連論文リスト
- Maximum entropy based testing in network models: ERGMs and constrained optimization [1.9116784879310027]
ネットワーク空間上での制約付きエントロピー最大化問題を開発する。
得られたテスト統計は、制約付き最適化問題に関連するラグランジュ乗算器によって定義される。
提案するLagrange-multiplierフレームワークは,制約付き最大推定のための古典的スコアテストに自然に接続することを示す。
論文 参考訳（メタデータ） (2026-02-24T12:35:08Z) - Locally Purified Maximally Mixed States At Scale: Entanglement Pruning and Symmetries [0.0]
局所化精製密度演算子は、スケールでの混合量子状態を表す。
非特異性を考えると、それらの表現の複雑さは一般に実用計算において準最適である。
本研究では,実用上の重要な状態を表すために必要な資源を最小化することにより,テンソルネットワークアルゴリズムの効率を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2025-09-19T21:38:29Z) - Adapting Physics-Informed Neural Networks for Bifurcation Detection in Ecological Migration Models [0.16442870218029523]
本研究では,生物移動モデルにおける分岐現象の解析への物理情報ニューラルネットワーク(PINN)の適用について検討する。
拡散-回避-反応方程式の基本原理を深層学習技術と組み合わせることで、種移動ダイナミクスの複雑さに対処する。
論文 参考訳（メタデータ） (2024-09-01T08:00:31Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳（メタデータ） (2023-12-10T15:22:30Z) - Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳（メタデータ） (2023-10-08T23:39:38Z) - Posterior Contraction Rates for Mat\'ern Gaussian Processes on
Riemannian Manifolds [51.68005047958965]
我々は,本質的なガウス過程が実際により優れた性能を発揮することを示す。
我々の研究は、データ効率の異なるレベルを区別するために、よりきめ細かい分析が必要であることを示している。
論文 参考訳（メタデータ） (2023-09-19T20:30:58Z) - Finite Element Operator Network for Solving Elliptic-type parametric PDEs [9.658853094888125]
偏微分方程式(PDE)は自然現象の理解と予測の基盤となる。
有限要素演算子ネットワーク(FEONet)を用いたパラメトリックPDEの解法を提案する。
論文 参考訳（メタデータ） (2023-08-09T03:56:07Z) - Efficient Semi-Implicit Variational Inference [65.07058307271329]
効率的でスケーラブルな半単純外挿 (SIVI) を提案する。
本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
論文 参考訳（メタデータ） (2021-01-15T11:39:09Z) - Loss Bounds for Approximate Influence-Based Abstraction [81.13024471616417]
影響に基づく抽象化は、システムの残りの部分が与える「影響」とともに、局所的なサブプロブレムをモデル化することでレバレッジを得ることを目的としている。
本稿では,理論的観点から,そのような手法の性能について考察する。
交叉エントロピーで訓練されたニューラルネットワークは、近似的な影響表現を学習するのに適していることを示す。
論文 参考訳（メタデータ） (2020-11-03T15:33:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。