論文の概要: Blindness of score-based methods to isolated components and mixing proportions

• arxiv url: http://arxiv.org/abs/2008.10087v3
• Date: Mon, 20 Dec 2021 21:34:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-26 02:46:09.016443
• Title: Blindness of score-based methods to isolated components and mixing proportions
• Title（参考訳）: 孤立成分と混合比率に対するスコアベース手法の盲目性
• Authors: Li K. Wenliang, Heishiro Kanagawa
• Abstract要約: スコアマッチングを含むスコアベース手法は,非正規分布が孤立成分を持つ場合に,実際の故障モードを示すことを示す。 簡単な分布を用いてこれらの知見を実証し、これらの問題に対処する試みを示す。 私たちは、新しいアルゴリズムやアプリケーションを開発する際に、これらの問題に理論家や実践者の注意を向けたいと思っています。
• 参考スコア（独自算出の注目度）: 3.553493344868413
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Statistical tasks such as density estimation and approximate Bayesian inference often involve densities with unknown normalising constants. Score-based methods, including score matching, are popular techniques as they are free of normalising constants. Although these methods enjoy theoretical guarantees, a little-known fact is that they exhibit practical failure modes when the unnormalised distribution of interest has isolated components -- they cannot discover isolated components or identify the correct mixing proportions between components. We demonstrate these findings using simple distributions and present heuristic attempts to address these issues. We hope to bring the attention of theoreticians and practitioners to these issues when developing new algorithms and applications.
• Abstract（参考訳）: 密度推定や近似ベイズ推定のような統計的タスクは、未知の正規化定数を持つ密度を含むことが多い。 スコアマッチングを含むスコアベースの手法は定数を正規化できないため、一般的な手法である。 これらの手法は理論的保証を享受しているが、あまり知られていない事実として、関心の非正規化分布が孤立した成分を持つ場合、それらは実用的な故障モードを示す。 簡単な分布を用いてこれらの知見を示し、これらの問題に対処するためのヒューリスティックな試みを示す。 我々は、新しいアルゴリズムやアプリケーションを開発する際に、これらの問題に理論家や実践者の注意を向けることを望んでいる。

関連論文リスト

• Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
  異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。 異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
  論文  参考訳（メタデータ） (2024-04-24T09:04:36Z)
• Disentangling Mixtures of Unknown Causal Interventions [3.214838781410822]
  本研究では,特定の因果ベイズネットワーク上での介入の混合に存在する全ての成分を同定する問題について検討する。 我々の証明は、これらのターゲットを可能なターゲットの指数的に大きな探索空間から回収する効率的なアルゴリズムを与える。
  論文  参考訳（メタデータ） (2022-10-01T08:08:18Z)
• Breaking Down Out-of-Distribution Detection: Many Methods Based on OOD Training Data Estimate a Combination of the Same Core Quantities [104.02531442035483]
  本研究の目的は,OOD検出手法の暗黙的なスコアリング機能を識別すると同時に,共通の目的を認識することである。 内分布と外分布の2値差はOOD検出問題のいくつかの異なる定式化と等価であることを示す。 また, 外乱露光で使用される信頼損失は, 理論上最適のスコアリング関数と非自明な方法で異なる暗黙的なスコアリング関数を持つことを示した。
  論文  参考訳（メタデータ） (2022-06-20T16:32:49Z)
• Information-Theoretic Bias Reduction via Causal View of Spurious Correlation [71.9123886505321]
  本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。 本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。 提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
  論文  参考訳（メタデータ） (2022-01-10T01:19:31Z)
• Contrastive learning of strong-mixing continuous-time stochastic processes [53.82893653745542]
  コントラスト学習(Contrastive Learning)は、ラベルのないデータから構築された分類タスクを解決するためにモデルを訓練する自己指導型の手法のファミリーである。 拡散の場合,小～中距離間隔の遷移カーネルを適切に構築したコントラスト学習タスクを用いて推定できることが示される。
  論文  参考訳（メタデータ） (2021-03-03T23:06:47Z)
• Denoising Score Matching with Random Fourier Features [11.60130641443281]
  Kernel Exponential Family を用いたDenoising Score matching の解析式をモデル分布として導出する。 得られた式はノイズのばらつきに明示的に依存するため、バリデーション損失はノイズレベルを調整するために簡単に使用できる。
  論文  参考訳（メタデータ） (2021-01-13T18:02:39Z)
• Estimating means of bounded random variables by betting [39.98103047898974]
  本稿では、境界観測から未知の平均を推定する古典的な問題に対して、信頼区間(CI)と時間一様信頼シーケンス(CS)を導出する。 本稿では,Chernoff法を一般化し改良したものと考えられる濃度境界を導出する一般手法を提案する。 我々は、これらのアイデアを、置換せずにサンプリングに拡張する方法を示し、また、非常に研究された問題である。
  論文  参考訳（メタデータ） (2020-10-19T17:22:03Z)
• A Non-Iterative Quantile Change Detection Method in Mixture Model with Heavy-Tailed Components [5.253292484834396]
  混合モデルのパラメータ推定には、分類問題から複雑な分布の推定まで幅広い応用がある。 混合密度のパラメータを推定する現在の文献のほとんどは、反復期待最大化(EM)型アルゴリズムに基づいている。 そこで本稿では,ほぼ任意の位置スケールのファミリーで動作する混合成分数を決定するために,変更点法に基づくロバストかつ迅速なアプローチを提案する。
  論文  参考訳（メタデータ） (2020-06-19T21:08:11Z)
• Almost-Matching-Exactly for Treatment Effect Estimation under Network Interference [73.23326654892963]
  本研究では,観測ネットワーク上でユニットが接続されたランダム化実験から直接処理効果を回復するマッチング手法を提案する。 本手法は, 近傍グラフ内の一意部分グラフの個数にほぼ一致する。
  論文  参考訳（メタデータ） (2020-03-02T15:21:20Z)
• A General Method for Robust Learning from Batches [56.59844655107251]
  本稿では,バッチから頑健な学習を行う一般的なフレームワークについて考察し,連続ドメインを含む任意の領域に対する分類と分布推定の限界について考察する。 本手法は,一括分節分類,一括分節,単調,対数凹,ガウス混合分布推定のための,最初の頑健な計算効率の学習アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2020-02-25T18:53:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。