論文の概要: Bayesian Decision Trees Inspired from Evolutionary Algorithms

• arxiv url: http://arxiv.org/abs/2305.18774v1
• Date: Tue, 30 May 2023 06:17:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-31 17:58:45.723275
• Title: Bayesian Decision Trees Inspired from Evolutionary Algorithms
• Title（参考訳）: 進化的アルゴリズムによるベイズ決定木
• Authors: Efthyvoulos Drousiotis, Alexander M. Phillips, Paul G. Spirakis, Simon Maskell
• Abstract要約: 我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。 実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
• 参考スコア（独自算出の注目度）: 64.80360020499555
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian Decision Trees (DTs) are generally considered a more advanced and accurate model than a regular Decision Tree (DT) because they can handle complex and uncertain data. Existing work on Bayesian DTs uses Markov Chain Monte Carlo (MCMC) with an accept-reject mechanism and sample using naive proposals to proceed to the next iteration, which can be slow because of the burn-in time needed. We can reduce the burn-in period by proposing a more sophisticated way of sampling or by designing a different numerical Bayesian approach. In this paper, we propose a replacement of the MCMC with an inherently parallel algorithm, the Sequential Monte Carlo (SMC), and a more effective sampling strategy inspired by the Evolutionary Algorithms (EA). Experiments show that SMC combined with the EA can produce more accurate results compared to MCMC in 100 times fewer iterations.
• Abstract（参考訳）: ベイズ決定木(DT)は一般に、複雑で不確実なデータを扱うことができるため、通常の決定木(DT)よりも高度で正確なモデルと考えられている。 Bayesian DTsの既存の作業では、Markov Chain Monte Carlo氏(MCMC)が受け入れ拒否のメカニズムとサンプルを使って、次のイテレーションに進むための単純な提案を行っている。 より洗練されたサンプリング方法を提案するか、異なる数値ベイズ法を設計することにより、バーンイン期間を短縮できる。 本稿では,mcmcを本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ (smc) に置き換え,進化的アルゴリズム (ea) にインスパイアされたより効果的なサンプリング戦略を提案する。 実験により、SMCとEAを組み合わせることで、100倍のイテレーションでMCMCよりも正確な結果が得られることが示された。

関連論文リスト

• Faster Sampling without Isoperimetry via Diffusion-based Monte Carlo [30.4930148381328]
  拡散に基づくモンテカルロ (DMC) は、等尺条件を超えた一般目標分布から試料を採取する手法である。 DMCは、高い勾配の複雑さに遭遇し、その結果、得られたサンプルのエラー耐性$epsilon$に指数関数的に依存する。 本稿では,新しい再帰に基づくスコア推定法に基づくRS-DMCを提案する。 私たちのアルゴリズムは、人気のあるLangevinベースのアルゴリズムよりもはるかに高速です。
  論文  参考訳（メタデータ） (2024-01-12T02:33:57Z)
• Automatic Rao-Blackwellization for Sequential Monte Carlo with Belief Propagation [4.956977275061968]
  状態空間モデル(SSM)に関する具体的なベイズ予想は、一般には難解である。 本稿では,信念の伝播を用いた閉形式解を可能な限り計算する混合推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-15T15:05:25Z)
• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Reverse Diffusion Monte Carlo [19.35592726471155]
  逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。 rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
  論文  参考訳（メタデータ） (2023-07-05T05:42:03Z)
• Parallel Approaches to Accelerate Bayesian Decision Trees [1.9728521995447947]
  本稿では,MCMCにおける並列性を利用した2つの手法を提案する。 第一に、MCMCを別の数値ベイズ的アプローチで置き換える。 第2に、データのパーティショニングについて検討する。
  論文  参考訳（メタデータ） (2023-01-22T09:56:26Z)
• Single MCMC Chain Parallelisation on Decision Trees [0.9137554315375919]
  本稿では,平均的なラップトップやパソコン上でMCMC決定ツリーチェーンを並列化する手法を提案する。 実験の結果,シリアルと並列実装が統計的に同一である場合,実行時間を18倍に向上できることがわかった。
  論文  参考訳（メタデータ） (2022-07-26T07:07:51Z)
• Knowledge Removal in Sampling-based Bayesian Inference [86.14397783398711]
  単一のデータ削除要求が来ると、企業は大量のリソースで学んだモデル全体を削除する必要があるかもしれない。 既存の研究は、明示的にパラメータ化されたモデルのためにデータから学んだ知識を取り除く方法を提案する。 本稿では,MCMCのための機械学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-24T10:03:01Z)
• Orbital MCMC [82.54438698903775]
  任意の微分同相写像から周期軌道を構築するための2つの実用的なアルゴリズムを提案する。 また,両カーネルの実用的メリットを実証した実証的研究を行った。
  論文  参考訳（メタデータ） (2020-10-15T22:25:52Z)
• Involutive MCMC: a Unifying Framework [64.46316409766764]
  iMCMCでは,幅広いMCMCアルゴリズムについて述べる。 我々は、新しいMCMCアルゴリズムを開発するための設計原則として使用できる多くのトリックを定式化する。 後者は、既知の可逆MCMCアルゴリズムをより効率的な可逆アルゴリズムに変換する2つの例で示す。
  論文  参考訳（メタデータ） (2020-06-30T10:21:42Z)
• Planning in Markov Decision Processes with Gap-Dependent Sample Complexity [48.98199700043158]
  マルコフ決定過程における計画のための新しいトラジェクトリに基づくモンテカルロ木探索アルゴリズム MDP-GapE を提案する。 我々は, MDP-GapE に要求される生成モデルに対する呼び出し回数の上限を証明し, 確率の高い準最適動作を同定する。
  論文  参考訳（メタデータ） (2020-06-10T15:05:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。