論文の概要: Observational nonidentifiability, generalized likelihood and free energy

• arxiv url: http://arxiv.org/abs/2002.07884v1
• Date: Tue, 18 Feb 2020 21:22:14 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-30 19:50:24.610576
• Title: Observational nonidentifiability, generalized likelihood and free energy
• Title（参考訳）: 観測的不特定性、一般化可能性、自由エネルギー
• Authors: A.E. Allahverdyan
• Abstract要約: 有効温度を導入することにより,限界確率を一般化する方法を示す。 これは観測上の非識別性を解決し、ユニークな結果をもたらす。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the parameter estimation problem in mixture models with observational nonidentifiability: the full model (also containing hidden variables) is identifiable, but the marginal (observed) model is not. Hence global maxima of the marginal likelihood are (infinitely) degenerate and predictions of the marginal likelihood are not unique. We show how to generalize the marginal likelihood by introducing an effective temperature, and making it similar to the free energy. This generalization resolves the observational nonidentifiability, since its maximization leads to unique results that are better than a random selection of one degenerate maximum of the marginal likelihood or the averaging over many such maxima. The generalized likelihood inherits many features from the usual likelihood, e.g. it holds the conditionality principle, and its local maximum can be searched for via suitably modified expectation-maximization method. The maximization of the generalized likelihood relates to entropy optimization.
• Abstract（参考訳）: 混合モデルにおけるパラメータ推定問題と観測的非同定性について検討した: 全モデル(隠れ変数も含む)は同定可能であるが、辺(観測される)モデルではない。 したがって、縁的可能性の大域的最大値は(無限に)退化し、縁的可能性の予測はユニークではない。 有効温度を導入し, 自由エネルギーに類似させることにより, 限界確率を一般化する方法を示す。 この一般化は、その最大化は、限界確率の1つの縮退した最大値のランダム選択や、そのような最大値上の平均値よりも良い一意な結果をもたらすため、観測的な非同定可能性を解決する。 一般化された確率は、条件性原理を持つような通常の可能性から多くの特徴を継承し、その局所的な最大値は適切に修正された期待最大化法によって探索することができる。 一般化可能性の最大化はエントロピー最適化に関係している。

関連論文リスト

• Asymptotically Optimal Change Detection for Unnormalized Pre- and Post-Change Distributions [65.38208224389027]
  本稿では,非正規化前および後の変化分布のみがアクセス可能である場合にのみ,変化を検出する問題に対処する。 提案手法は,最適性能を示すことが知られている累積サム統計量の推定に基づく。
  論文  参考訳（メタデータ） (2024-10-18T17:13:29Z)
• EM's Convergence in Gaussian Latent Tree Models [22.987933817370305]
  人口のログライクな独特な非自明な点は、その大域的な最大点であることを示す。 予測最大化アルゴリズムは、単一の潜在変数の場合に収束することが保証される。
  論文  参考訳（メタデータ） (2022-11-21T23:12:58Z)
• Bayesian Model Selection, the Marginal Likelihood, and Generalization [49.19092837058752]
  まず,学習制約と仮説テストの限界的可能性の魅力について再考する。 ニューラルアーキテクチャ探索において,限界確率が一般化と負の相関関係を持つことが示唆された。 また, 限界確率とPAC-Bayes境界との接続を再検討し, モデル選択における限界確率の欠点をさらに解明するためにこの接続を利用する。
  論文  参考訳（メタデータ） (2022-02-23T18:38:16Z)
• On the Optimization Landscape of Maximum Mean Discrepancy [26.661542645011046]
  生成モデルは現実的な信号の生成に成功している。 確率関数は典型的にはこれらのモデルの多くで難解であるため、確率計算を避けるために「単純化」を行うのが一般的である。 特に、彼らが世界規模で非親密な目標を最小化できるのかは理解されていない。
  論文  参考訳（メタデータ） (2021-10-26T07:32:37Z)
• Notes on Generalizing the Maximum Entropy Principle to Uncertain Data [0.0]
  最大エントロピーの原理を最小限の情報量で計算する。 本手法は最大エントロピーと潜在最大エントロピーの原理を一般化することを示す。 限られたデータの場合、特徴期待制約にエラー項を追加するための一般的な正則化手法について論じる。
  論文  参考訳（メタデータ） (2021-09-09T19:43:28Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)
• Robust Generalised Bayesian Inference for Intractable Likelihoods [9.77823546576708]
  スタインの不一致を損失関数として一般化ベイズ推論を考える。 これは、確率が難解な正規化定数を含む応用によって動機づけられる。 後肢の整合性, 正規性, 偏在性を示し, これらの特性がスタインの相違の選択によってどのように影響するかを明らかにする。
  論文  参考訳（メタデータ） (2021-04-15T10:31:22Z)
• Deconfounded Score Method: Scoring DAGs with Dense Unobserved Confounding [101.35070661471124]
  本研究では,観測データ分布に特徴的フットプリントが残っており,突発的・因果的影響を解消できることを示す。 汎用ソルバで実装し,高次元問題へのスケールアップが可能なスコアベース因果検出アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-28T11:07:59Z)
• Generalized Entropy Regularization or: There's Nothing Special about Label Smoothing [83.78668073898001]
  本稿では, ラベル平滑化を含むエントロピー正則化器群を紹介する。 モデル性能のばらつきはモデルのエントロピーによって大きく説明できる。 我々は,他のエントロピー正規化手法の使用を推奨する。
  論文  参考訳（メタデータ） (2020-05-02T12:46:28Z)
• Generalized Sliced Distances for Probability Distributions [47.543990188697734]
  我々は、一般化スライス確率測定(GSPM)と呼ばれる、幅広い確率測定値の族を紹介する。 GSPMは一般化されたラドン変換に根付いており、ユニークな幾何学的解釈を持つ。 GSPMに基づく勾配流を生成モデル応用に適用し、軽度な仮定の下では、勾配流が大域的最適に収束することを示す。
  論文  参考訳（メタデータ） (2020-02-28T04:18:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。