論文の概要: A Generalization of Spatial Monte Carlo Integration

• arxiv url: http://arxiv.org/abs/2009.02165v2
• Date: Thu, 17 Sep 2020 01:02:56 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-22 01:33:34.358532
• Title: A Generalization of Spatial Monte Carlo Integration
• Title（参考訳）: 空間的モンテカルロ積分の一般化
• Authors: Muneki Yasuda and Kei Uchizawa
• Abstract要約: 空間モンテカルロ積分(SMCI)は標準モンテカルロ積分の拡張であり、マルコフ確率場への期待を高精度に近似することができる。 SMCIに基づく新しいボルツマン機械学習手法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Spatial Monte Carlo integration (SMCI) is an extension of standard Monte Carlo integration and can approximate expectations on Markov random fields with high accuracy. SMCI was applied to pairwise Boltzmann machine (PBM) learning, with superior results to those from some existing methods. The approximation level of SMCI can be changed, and it was proved that a higher-order approximation of SMCI is statistically more accurate than a lower-order approximation. However, SMCI as proposed in the previous studies suffers from a limitation that prevents the application of a higher-order method to dense systems. This study makes two different contributions as follows. A generalization of SMCI (called generalized SMCI (GSMCI)) is proposed, which allows relaxation of the above-mentioned limitation; moreover, a statistical accuracy bound of GSMCI is proved. This is the first contribution of this study. A new PBM learning method based on SMCI is proposed, which is obtained by combining SMCI and the persistent contrastive divergence. The proposed learning method greatly improves the accuracy of learning. This is the second contribution of this study.
• Abstract（参考訳）: 空間モンテカルロ積分(SMCI)は標準モンテカルロ積分の拡張であり、マルコフ確率場への期待を高精度に近似することができる。 SMCIはペアワイズ・ボルツマン・マシン(PBM)学習に適用され、既存の手法よりも優れた結果を得た。 SMCIの近似レベルは変化し, SMCIの高次近似は低次近似よりも統計的に正確であることが証明された。 しかし、以前の研究で提案されたSMCIは、高次法を高密度システムに適用できないような制限に悩まされている。 この研究は次の2つの異なる貢献をしている。 上記の制限を緩和できる一般化SMCI(Generalized SMCI: Generalized SMCI)が提案され、GSMCIの統計的精度境界が証明された。 これがこの研究の最初の貢献である。 SMCIに基づく新しいPBM学習法を提案する。 提案手法は,学習精度を大幅に向上させる。 これが本研究の第二の貢献である。

関連論文リスト

• Computing Low-Entropy Couplings for Large-Support Distributions [53.00113867130712]
  最小エントロピー結合は因果関係やステガノグラフィーなどの分野で応用されている。 既存のアルゴリズムは、大容量の分布に対して計算的に抽出可能であるか、特定の分布タイプに限定されている。 この研究は、事前の反復MECアプローチを一般化されたパーティションベースの形式主義に統一することにより、これらの制限に対処する。
  論文  参考訳（メタデータ） (2024-05-29T21:54:51Z)
• Unleashing Network Potentials for Semantic Scene Completion [50.95486458217653]
  本稿では,新しいSSCフレームワーク - Adrial Modality Modulation Network (AMMNet)を提案する。 AMMNetは、モダリティ間の勾配流の相互依存性を可能にするクロスモーダル変調と、動的勾配競争を利用するカスタマイズされた逆トレーニングスキームの2つのコアモジュールを導入している。 AMMNetは最先端のSSC法よりも大きなマージンで優れていた。
  論文  参考訳（メタデータ） (2024-03-12T11:48:49Z)
• Combining Normalizing Flows and Quasi-Monte Carlo [0.0]
  近年の機械学習の進歩はモンテカルロ法を改良するための新しい手法の開発に繋がった。 数値実験により,この組み合わせにより,従来のモンテカルロを用いて流れをサンプリングした場合よりも,分散度が著しく低い推定器が得られることを示した。
  論文  参考訳（メタデータ） (2024-01-11T14:17:06Z)
• Federated Multi-Sequence Stochastic Approximation with Local Hypergradient Estimation [28.83712379658548]
  我々は、多重結合配列(MSA)のための最初のフェデレーション近似アルゴリズムであるFedMSAを開発した。 FedMSAは、ローカルクライアントのアップデートを通じて、BLOとMCOのハイパーグラディエントを証明可能な見積もりを可能にする。 我々は我々の理論を裏付ける実験を行い、FedMSAの実証的な利点を実証する。
  論文  参考訳（メタデータ） (2023-06-02T16:17:43Z)
• Composite Spatial Monte Carlo Integration Based on Generalized Least Squares [0.0]
  空間モンテカルロ積分 (SMCI) はサンプリングに基づく近似である。 複数のSMCI推定器を組み合わせた新しい有効手法を提案する。 その結果,提案手法は逆イジング問題(ボルツマン機械学習)に有効であることが示唆された。
  論文  参考訳（メタデータ） (2022-04-07T06:35:13Z)
• Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
  深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。 本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。 自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
  論文  参考訳（メタデータ） (2021-06-07T17:47:16Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• Spatial Monte Carlo Integration with Annealed Importance Sampling [0.45687771576879593]
  AISとSMCIを組み合わせたIsingモデルの期待値を評価するための新しい手法を提案する。 提案手法は高温領域と低温領域の両方で効率良く実行できる。
  論文  参考訳（メタデータ） (2020-12-21T09:26:40Z)
• Semi-Supervised Learning with Variational Bayesian Inference and Maximum Uncertainty Regularization [62.21716612888669]
  半教師付き学習(SSL)を改善するための2つの一般的な方法を提案する。 第一に、重量摂動(WP)を既存のCR(Consistency regularization)ベースの手法に統合する。 第2の手法は「最大不確実性正規化(MUR)」と呼ばれる新しい整合性損失を提案する。
  論文  参考訳（メタデータ） (2020-12-03T09:49:35Z)
• Joint Stochastic Approximation and Its Application to Learning Discrete Latent Variable Models [19.07718284287928]
  推定モデルに対する信頼度勾配を得るのが困難であることや、間接的にターゲットのログを最適化することの欠点を優雅に解決できることが示される。 本稿では,対象の対数類似度を直接最大化し,後部モデルと推論モデルとの包摂的ばらつきを同時に最小化することを提案する。 結果の学習アルゴリズムは、ジョイントSA(JSA)と呼ばれる。
  論文  参考訳（メタデータ） (2020-05-28T13:50:08Z)
• Theoretical Convergence of Multi-Step Model-Agnostic Meta-Learning [63.64636047748605]
  一般的なマルチステップMAMLアルゴリズムに対して収束保証を提供するための新しい理論フレームワークを開発する。 特に,本研究の結果は,収束を保証するためには,内部段階のステップを逆比例して$N$の内段ステップを選択する必要があることを示唆している。
  論文  参考訳（メタデータ） (2020-02-18T19:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。