論文の概要: Loss as the Inconsistency of a Probabilistic Dependency Graph: Choose Your Model, Not Your Loss Function

• arxiv url: http://arxiv.org/abs/2202.11862v1
• Date: Thu, 24 Feb 2022 01:51:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-26 05:52:19.787070
• Title: Loss as the Inconsistency of a Probabilistic Dependency Graph: Choose Your Model, Not Your Loss Function
• Title（参考訳）: 確率依存グラフの不整合としての損失: 損失関数ではなく、モデルを選択する
• Authors: Oliver E Richardson
• Abstract要約: 本稿では,多くの標準的な損失関数が,適切なシナリオを記述した自然PDGの不整合として現れることを示す。 また,PDGの不整合性は多種多様な統計的発散を捉えていることを示す。 PDGが因子グラフである環境で、矛盾が対数分割関数(自由エネルギー)となるのを観察する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: In a world blessed with a great diversity of loss functions, we argue that that choice between them is not a matter of taste or pragmatics, but of model. Probabilistic depencency graphs (PDGs) are probabilistic models that come equipped with a measure of "inconsistency". We prove that many standard loss functions arise as the inconsistency of a natural PDG describing the appropriate scenario, and use the same approach to justify a well-known connection between regularizers and priors. We also show that the PDG inconsistency captures a large class of statistical divergences, and detail benefits of thinking of them in this way, including an intuitive visual language for deriving inequalities between them. In variational inference, we find that the ELBO, a somewhat opaque objective for latent variable models, and variants of it arise for free out of uncontroversial modeling assumptions -- as do simple graphical proofs of their corresponding bounds. Finally, we observe that inconsistency becomes the log partition function (free energy) in the setting where PDGs are factor graphs.
• Abstract（参考訳）: 損失関数の多様さに恵まれている世界では、それらの選択は味や実用性の問題ではなく、モデルの問題であると主張する。 確率的不均衡グラフ (PDGs) は「矛盾」の尺度を備えた確率論的モデルである。 多くの標準損失関数が適切なシナリオを記述した自然PDGの不整合として生じることを証明し、同じアプローチを用いて正規化器と先行器とのよく知られた接続を正当化する。 また,PDGの不整合性は,多種多様な統計的相違を捉えるとともに,それらの間の不等式を導出するための直感的な視覚言語を含む,このような考え方のメリットを詳細に示す。 変分推論において、ELBOは潜在変数モデルに対するやや不透明な目的であり、その変種は、対応する境界の単純なグラフィカルな証明と同様に、非論争的モデリング仮定から解放される。 最後に、pdgが因子グラフである設定において、不整合がログ分割関数(自由エネルギー)となることを観察する。

関連論文リスト

• Estimating Causal Effects from Learned Causal Networks [56.14597641617531]
  本稿では、離散可観測変数に対する因果影響クエリに応答する代替パラダイムを提案する。 観測データから直接因果ベイズネットワークとその共起潜伏変数を学習する。 本手法は, 推定手法よりも有効であることを示す。
  論文  参考訳（メタデータ） (2024-08-26T08:39:09Z)
• Inference for Probabilistic Dependency Graphs [42.03917543423699]
  確率依存グラフ (PDGs) は確率モデルの柔軟なクラスである。 離散変数を持つPDGに対する最初のトラクタブル推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-11-09T18:40:12Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Causal Transportability for Visual Recognition [70.13627281087325]
  画像とラベルの関連性は、設定間では転送できないため、標準分類器がフェールすることを示す。 次に、すべての共起源を摂食する因果効果が、ドメイン間で不変であることを示す。 これにより、画像分類における因果効果を推定するアルゴリズムを開発する動機付けとなる。
  論文  参考訳（メタデータ） (2022-04-26T15:02:11Z)
• Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
  グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。 本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2022-01-30T16:43:40Z)
• Identification of Latent Variables From Graphical Model Residuals [0.0]
  本稿では,推定モデルの残差から遅延空間のプロキシを反復的に導出することにより,DAGを推定する際に潜伏空間を制御する新しい手法を提案する。 結果の予測の改善は本質的にカプセル化されており,既成モデルと比較して一定の限界を超えないことを示す。
  論文  参考訳（メタデータ） (2021-01-07T02:28:49Z)
• Probabilistic Dependency Graphs [14.505867475659274]
  確率依存グラフ(PDG)を紹介する。 PDGは自然な方法で一貫性のない信念を捉えることができる。 PDGが特に自然なモデリングツールであることを示す。
  論文  参考訳（メタデータ） (2020-12-19T22:29:49Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)
• Query Training: Learning a Worse Model to Infer Better Marginals in Undirected Graphical Models with Hidden Variables [11.985433487639403]
  確率的グラフィカルモデル(PGM)は、柔軟な方法でクエリできる知識のコンパクトな表現を提供する。 我々は,PGMを学習するメカニズムであるクエリトレーニング(QT)を導入し,それと組み合わせる近似推論アルゴリズムに最適化する。 実験により,QTを用いて隠れ変数を持つ8連結グリッドマルコフランダム場を学習できることが実証された。
  論文  参考訳（メタデータ） (2020-06-11T20:34:32Z)
• Interventions and Counterfactuals in Tractable Probabilistic Models: Limitations of Contemporary Transformations [12.47276164048813]
  本研究では,SPNを因果グラフ介入推論に変換すると,限界分布の計算に還元されることを示す。 まず,PSDDから因果グラフを構築するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-01-29T15:45:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。