論文の概要: IBIA: An Incremental Build-Infer-Approximate Framework for Approximate
Inference of Partition Function
- arxiv url: http://arxiv.org/abs/2304.06366v2
- Date: Thu, 28 Sep 2023 11:07:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-29 22:35:15.927695
- Title: IBIA: An Incremental Build-Infer-Approximate Framework for Approximate
Inference of Partition Function
- Title(参考訳): IBIA: 分割関数の近似推定のためのインクリメンタルビルド-インフェール近似フレームワーク
- Authors: Shivani Bathla and Vinita Vasudevan
- Abstract要約: 分割関数の厳密な計算は難解であることが知られている。
近似推論のための新しいインクリメンタルなビルドインファー近似フレームワークを提案する。
このフレームワークはパーティション関数の効率的な計算に利用できることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Exact computation of the partition function is known to be intractable,
necessitating approximate inference techniques. Existing methods for
approximate inference are slow to converge for many benchmarks. The control of
accuracy-complexity trade-off is also non-trivial in many of these methods. We
propose a novel incremental build-infer-approximate (IBIA) framework for
approximate inference that addresses these issues. In this framework, the
probabilistic graphical model is converted into a sequence of clique tree
forests (SCTF) with bounded clique sizes. We show that the SCTF can be used to
efficiently compute the partition function. We propose two new algorithms which
are used to construct the SCTF and prove the correctness of both. The first is
an algorithm for incremental construction of CTFs that is guaranteed to give a
valid CTF with bounded clique sizes and the second is an approximation
algorithm that takes a calibrated CTF as input and yields a valid and
calibrated CTF with reduced clique sizes as the output. We have evaluated our
method using several benchmark sets from recent UAI competitions and our
results show good accuracies with competitive runtimes.
- Abstract(参考訳): 分割関数の厳密な計算は難解であることが知られ、近似推論技術を必要とする。
近似推論の既存の方法は、多くのベンチマークでは収束が遅い。
精度・複雑さのトレードオフの制御は、これらの方法の多くでは非自明である。
本稿では,これらの問題に対処する近似推論のための新しいIBIAフレームワークを提案する。
このフレームワークでは、確率的グラフィカルモデルは、境界付きクレークサイズを持つクレークツリーフォレスト(sctf)のシーケンスに変換される。
SCTFを用いて分割関数を効率的に計算できることが示される。
本稿では,SCTFの構築と,その正当性を証明するために2つの新しいアルゴリズムを提案する。
第1のアルゴリズムは、有界cliqueサイズで有効なCTFを与えることが保証されるCTFのインクリメンタルな構成のためのアルゴリズムであり、第2のアルゴリズムは、キャリブレーションされたCTFを入力とし、出力として、クリリドサイズを小さくした有効なCTFを得る近似アルゴリズムである。
我々は,最近のuaiコンペティションから得られたベンチマークセットを用いて,本手法を評価した。
関連論文リスト
- Faster WIND: Accelerating Iterative Best-of-$N$ Distillation for LLM Alignment [81.84950252537618]
本稿では,反復的BONDと自己プレイアライメントの統一的なゲーム理論接続を明らかにする。
WINレート支配(WIN rate Dominance, WIND)という新しいフレームワークを構築し, 正規化利率支配最適化のためのアルゴリズムを多数提案する。
論文 参考訳(メタデータ) (2024-10-28T04:47:39Z) - Amortized SHAP values via sparse Fourier function approximation [38.818224762845624]
SHAP値は、解釈可能で説明可能なAIで広く使われている、一般的なローカルな特徴属性手法である。
SHAP値を推定するための2段階の手法を提案する。
我々のアルゴリズムの最初のステップは、多くの実世界の予測器がスペクトルバイアスを持つことを示す最近の結果を活用する。
論文 参考訳(メタデータ) (2024-10-08T19:05:50Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳(メタデータ) (2023-10-18T10:29:58Z) - Approximate inference of marginals using the IBIA framework [0.0]
確率的グラフィカルモデル (PGM) における限界の厳密な推論は難解であることが知られている。
本稿では,段階的ビルド・インファー・アポキシマト (IBIA) パラダイムに基づく限界推定のための新しいアルゴリズムを提案する。
提案手法は,既存の変分法やサンプリング法よりも精度が良いか,あるいは同等である。
論文 参考訳(メタデータ) (2023-06-01T04:24:21Z) - Efficient Approximate Kernel Based Spike Sequence Classification [56.2938724367661]
SVMのような機械学習モデルは、シーケンスのペア間の距離/相似性の定義を必要とする。
厳密な手法により分類性能は向上するが、計算コストが高い。
本稿では,その予測性能を向上させるために,近似カーネルの性能を改善する一連の方法を提案する。
論文 参考訳(メタデータ) (2022-09-11T22:44:19Z) - MPE inference using an Incremental Build-Infer-Approximate Paradigm [0.0]
ベイジアンネットワークで最も可能性の高い説明(MPE)の具体的な推論はNP完全であることが知られている。
インクリメンタルなビルド・インファー・アポキシメート・フレームワークをベースとした,MPEの近似推定アルゴリズムを提案する。
私たちのソリューションの精度は、ベンチマークの大部分でブランチとバウンド検索に匹敵し、競合する実行時間を持つ。
論文 参考訳(メタデータ) (2022-06-04T09:37:44Z) - IBIA: Bayesian Inference via Incremental Build-Infer-Approximate
operations on Clique Trees [0.0]
本稿では,インクリメンタルなビルド・インファー・アポキシメート・パラダイムに基づく近似推論の代替手法を提案する。
傾斜木をインクリメンタルに構築するアルゴリズムは,常に有効なCTを生成することを示し,近似手法は斜め内信念の整合性を自動的に維持する。
論文 参考訳(メタデータ) (2022-02-24T10:30:31Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Fast and Accurate Neural CRF Constituency Parsing [16.90190521285297]
この研究は、高速で正確なCRF行列計算を示す。
我々は、GPU上の大きなテンソル演算による損失に対する内部アルゴリズムをバッチ化し、効率的なバックプロパゲーションによる計算の外部アルゴリズムを避ける。
PTB, CTB5.1, CTB7の2段CRFは, w/o と w/BERT の両設定において,新しい最先端性能を実現することを示す。
論文 参考訳(メタデータ) (2020-08-09T14:38:48Z) - Refined bounds for algorithm configuration: The knife-edge of dual class
approximability [94.83809668933021]
トレーニングセットが、トレーニングセット上でのパラメータの平均メトリックのパフォーマンスが、予想される将来的なパフォーマンスに最も近いことを保証するために、どの程度の規模が必要かを調査する。
この近似が L-無限ノルムの下で成り立つなら、強いサンプル複雑性境界を与えることができる。
我々は、コンピュータ科学において最も強力なツールの一つである整数プログラミングの文脈において、我々の限界を実証的に評価する。
論文 参考訳(メタデータ) (2020-06-21T15:32:21Z) - Lagrangian Decomposition for Neural Network Verification [148.0448557991349]
ニューラルネットワーク検証の基本的なコンポーネントは、出力が取ることのできる値のバウンダリの計算である。
ラグランジアン分解に基づく新しい手法を提案する。
ランニングタイムのごく一部で、既成の解法に匹敵するバウンダリが得られることを示す。
論文 参考訳(メタデータ) (2020-02-24T17:55:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。