論文の概要: Belief propagation generalizes backpropagation
- arxiv url: http://arxiv.org/abs/2210.00610v1
- Date: Sun, 2 Oct 2022 20:02:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 13:13:15.500839
- Title: Belief propagation generalizes backpropagation
- Title(参考訳): 信念伝達はバックプロパゲーションを一般化する
- Authors: Frederik Eaton
- Abstract要約: その重要性にも拘わらず、バックプロパゲーションと信条伝播の関連性は不十分である。
本稿では, バックプロパゲーションに対する入力を信念伝達への入力に変換して(ループ) 信念伝播を実行すると, 信念伝達の結果がバックプロパゲーションの結果を符号化することを示す。
言い換えれば、信念の伝播がバックプロパゲーションを一般化するのは、明らかに初めてである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The two most important algorithms in artificial intelligence are
backpropagation and belief propagation. In spite of their importance, the
connection between them is poorly characterized. We show that when an input to
backpropagation is converted into an input to belief propagation so that
(loopy) belief propagation can be run on it, then the result of belief
propagation encodes the result of backpropagation; thus backpropagation is
recovered as a special case of belief propagation. In other words, we prove for
apparently the first time that belief propagation generalizes backpropagation.
Our analysis is a theoretical contribution, which we motivate with the
expectation that it might reconcile our understandings of each of these
algorithms, and serve as a guide to engineering researchers seeking to improve
the behavior of systems that use one or the other.
- Abstract(参考訳): 人工知能における最も重要な2つのアルゴリズムは、バックプロパゲーションと信念伝播である。
その重要性にもかかわらず、両者のつながりは著しく特徴づけられている。
本研究では, バックプロパゲーションに対する入力が, 信仰伝播への入力に変換されて(ループ) 信念伝播が実行可能である場合, 信念伝播の結果がバックプロパゲーションの結果を符号化し, バックプロパゲーションは信仰伝播の特別な場合として回復することを示す。
言い換えれば、信念の伝播がバックプロパゲーションを一般化するのは、明らかに初めてである。
私たちの分析は理論的な貢献であり、これらのアルゴリズムのそれぞれの理解を整理し、どちらか一方を使うシステムの振る舞いを改善するための工学研究者のガイドとなることを期待しています。
関連論文リスト
- Isopignistic Canonical Decomposition via Belief Evolution Network [12.459136964317942]
本稿では,信念進化ネットワークに基づく同義変換を提案する。
この分解は、可能性分布とその同型質量関数の間の逆経路を与える。
本稿では,確率論,デンプスター・シェーファー理論,可能性理論に基づく人工知能の一般モデル構築のための理論的基盤を確立する。
論文 参考訳(メタデータ) (2024-05-04T12:39:15Z) - Why do Random Forests Work? Understanding Tree Ensembles as
Self-Regularizing Adaptive Smoothers [68.76846801719095]
統計学で広く普及している偏りと分散還元に対する現在の高次二分法は、木のアンサンブルを理解するには不十分である、と我々は主張する。
森林は、通常暗黙的に絡み合っている3つの異なるメカニズムによって、樹木を改良できることを示す。
論文 参考訳(メタデータ) (2024-02-02T15:36:43Z) - Leveraging Contextual Counterfactuals Toward Belief Calibration [1.418033127602866]
メタアライメント問題は、人間の信念が多様であり、集団間で一致していないことです。
後悔の多い状況では、意思決定者の信念やそのような信念が保持される強みを更新する上で、文脈的反事実やレコメンデーションコストが重要であることが観察される。
我々は,この信念の多様性を文脈駆動の反実的推論でより均一に校正するために,信念の校正サイクルの枠組みを導入する。
論文 参考訳(メタデータ) (2023-07-13T01:22:18Z) - A Belief Model for Conflicting and Uncertain Evidence -- Connecting
Dempster-Shafer Theory and the Topology of Evidence [8.295493796476766]
本稿では,不一致,不完全,不確実な証拠に基づいて,信念の度合いを測定する新しいモデルを提案する。
このモデルによる信念の計算次数は一般に#P完全であることが示される。
論文 参考訳(メタデータ) (2023-06-06T09:30:48Z) - Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。
我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
論文 参考訳(メタデータ) (2022-04-05T12:52:45Z) - Iterated Belief Change, Computationally [3.42658286826597]
イテレーテッド・リーフ・チェンジ(英: Iterated Belief Change)は、信念の力学の原理(おそらく無制限)を研究する研究分野である。
特に、反復的信念修正がチューリング完全であることは、反復的リビジョン保持に対するダーウィッヒ=パール仮定のような広く受け入れられた原理の下でも示している。
論文 参考訳(メタデータ) (2022-02-17T19:01:20Z) - Convergence of Generalized Belief Propagation Algorithm on Graphs with
Motifs [0.15229257192293197]
信念の伝播は、機械学習における多くの応用のための基本的なメッセージパッシングアルゴリズムである。
本稿では,モチーフを持つグラフ上での一般化信念伝播アルゴリズムの収束挙動について検討する。
論文 参考訳(メタデータ) (2021-12-11T22:46:50Z) - Learning to Predict Trustworthiness with Steep Slope Loss [69.40817968905495]
本研究では,現実の大規模データセットにおける信頼性の予測問題について検討する。
我々は、先行技術損失関数で訓練された信頼性予測器が、正しい予測と誤った予測の両方を信頼に値するものとみなす傾向があることを観察する。
そこで我々は,2つのスライド状の曲線による不正確な予測から,特徴w.r.t.正しい予測を分離する,新たな急勾配損失を提案する。
論文 参考訳(メタデータ) (2021-09-30T19:19:09Z) - Nested Counterfactual Identification from Arbitrary Surrogate
Experiments [95.48089725859298]
観測と実験の任意の組み合わせからネスト反事実の同定について検討した。
具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
論文 参考訳(メタデータ) (2021-07-07T12:51:04Z) - A Weaker Faithfulness Assumption based on Triple Interactions [89.59955143854556]
より弱い仮定として, 2$-adjacency faithfulness を提案します。
より弱い仮定の下で適用可能な因果発見のための音方向規則を提案する。
論文 参考訳(メタデータ) (2020-10-27T13:04:08Z) - Neural Enhanced Belief Propagation on Factor Graphs [85.61562052281688]
グラフィカルモデルは局所依存確率変数の構造的表現である。
最初にグラフニューラルネットワークを拡張してグラフを分解する(FG-GNN)。
そこで我々は,FG-GNNを連立して動作させるハイブリッドモデルを提案する。
論文 参考訳(メタデータ) (2020-03-04T11:03:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。