論文の概要: Dirichlet Process Mixtures of Trees with Gaussian Process Splits: A Bayesian Nonparametric Framework with Posterior Contraction Rate

• arxiv url: http://arxiv.org/abs/2609.27930v1
• Date: Sat, 22 Aug 2026 08:47:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.01353
• Title: Dirichlet Process Mixtures of Trees with Gaussian Process Splits: A Bayesian Nonparametric Framework with Posterior Contraction Rate
• Title（参考訳）: ガウス過程分割を有する木のディリクレ過程混合:後収縮速度を持つベイズ非パラメトリックフレームワーク
• Abstract要約: 本稿では,ディリクレ過程に先行する回帰木の非パラメトリック混合法を提案する。 各端末ノード内のガウス過程の後方予測によって駆動される新しい分割規則は、柔軟で滑らかな決定境界を生成する。 QSAR毒性、犯罪、リボフラビン、小麦ゲノム学、空気質への応用は、信頼性の高い信頼区間と自動間隔を確認する。
• 参考スコア（独自算出の注目度）: 0.9176056742068814
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a Bayesian nonparametric mixture of regression trees with a Dirichlet process prior over tree-parameter pairs, enabling data-driven selection of ensemble size and unifying CART, BART, random forests, and boosting. A novel splitting rule driven by the posterior predictive of a Gaussian process within each terminal node generates flexible, smooth decision boundaries; remarkably, the GP density cancels exactly in the Metropolis--Hastings ratio for GROW/PRUNE moves, ensuring computational feasibility. An exact Gibbs sampler for posterior predictive inference propagates uncertainty through random tree traversal. A parallel MPI implementation distributes independent tree updates across processors, achieving adequate speedups. We prove posterior consistency at rate $n^{-1/4}$ in Hellinger distance under only continuity of the true regression function, allowing misspecification, via the identity $h(Θ)=0$. Simulations on Friedman benchmark show near-nominal coverage (0.94 Gaussian, 0.92 Cauchy), robust to high-dimensional noise and heavy tails, outperforming BART and bagged CART. Applications to QSAR toxicity, crime, riboflavin, wheat genomics, and air quality confirm reliable credible intervals and automatic sparsity. The DP mixture offers a principled, robust, theoretically justified alternative for challenging regression with honest uncertainty quantification.
• Abstract（参考訳）: 本研究では,木-パラメータ対に先立ってディリクレ過程を付加した回帰木のベイズ的非パラメトリック混合法を提案し,アンサンブルサイズをデータ駆動で選択し,CART,BART,ランダム森林を統一し,増強する。 各端末ノード内のガウス過程の後方予測によって駆動される新しい分割規則は、柔軟で滑らかな決定境界を生成するが、明らかに、GP密度はGROW/PRUNE移動に対するメトロポリス-ハスティング比で正確にキャンセルされ、計算可能性を保証する。 後方予測推論のための正確なギブスサンプリングは、ランダムツリートラバーサルを介して不確実性を伝播する。 並列MPI実装は、プロセッサ間で独立したツリー更新を分散し、適切なスピードアップを実現する。 我々は、真の回帰関数の連続性のみの下で、ヘルリンガー距離において、レート $n^{-1/4}$ で後続の一貫性を証明し、識別子 $h( )=0$ を通じて、不特定を許す。 Friedmanベンチマークのシミュレーションでは、ほぼ最小のカバレッジ(0.94 Gaussian, 0.92 Cauchy)が示され、高次元のノイズと重い尾に頑丈で、BARTとBagged CARTより優れていた。 QSAR毒性、犯罪、リボフラビン、小麦ゲノム学、空気質への応用は、信頼性の高い信頼区間と自動間隔を確認する。 DP混合は、真に不確実な定量化を伴う挑戦的回帰の原則的、堅牢で理論的に正当化された代替手段を提供する。

関連論文リスト

• Denoised Variance-Based Pruning with Optimal Brain Bias Compensation [45.88028371034407]
  VBP(Variance-Based Pruning)は、ニューロンを活性化分散に基づいて選択することで有望なパラダイムを導入した。 Denoized Variance-based Pruning with Optimal Brain Bias Compensation (DVBP + OB$2$C)を紹介する。 最先端のトレーニングフリーのパフォーマンスを実現し、50%のプルーニングで、オリジナルのTop-1の精度の90%以上を維持できる。
  論文  参考訳（メタデータ） (2026-08-18T11:23:49Z)
• Distributionally Faithful Imputation via Positive Semi-Definite Kernel Density Estimation [55.47411235954028]
  マスク観測による密度推定では,不規則に不規則に不規則な計算を行う。 我々は,ニュートン内点法で解ける閉じた形状の辺縁を持つ凸型経験的リスク問題を得る。 結果のPSDインプットモデルでは、同一の入射密度から単一および多重インプットが得られる。
  論文  参考訳（メタデータ） (2026-07-08T15:51:05Z)
• Smoothness-Based Derandomization of PAC-Bayes Bounds [48.06655334157014]
  滑らかな損失関数に対するPAC-Bayesデランドマイゼーションについて検討した。 我々は,ギブス予測器から後方平均における決定論的予測器への非有界通過に正確なコストがかかることを示した。 結果は線形予測器やスムーズなニューラルネットワークに特化する。
  論文  参考訳（メタデータ） (2026-06-17T14:17:44Z)
• Direct Bethe Free Energy Minimization for Bayesian Neural Network [0.0]
  我々は,変分下界を最大化するのではなく,Bethe自由エネルギーを直接最小化してベイズニューラルネットワークを訓練することを提案する。 木構造因子グラフ上では、Bethe自由エネルギーは正確であり、決定論的層は目的から外れ、標準のバックプロパゲーションによって訓練される。 すべての変種は、アンサンブルやサンプリングベースの手法とは対照的に、MAP等価な推論コストで閉形式予測を許容する。
  論文  参考訳（メタデータ） (2026-05-08T20:12:48Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Soft regression trees: a model variant and a decomposition training algorithm [0.24578723416255752]
  そこで本研究では,各入力ベクトルに対して,単一の葉ノードに関連付けられた線形回帰として定義する,ソフト多変量回帰木(SRT)の新たな変種を提案する。 SRTは条件付き計算特性、すなわち各予測は少数のノードに依存する。 15のよく知られたデータセットの実験により、従来のソフトレグレッションツリーと比較して、我々のSRTと分解アルゴリズムは高い精度とロバスト性が得られることが示された。
  論文  参考訳（メタデータ） (2025-01-10T13:06:36Z)
• Improved Communication-Privacy Trade-offs in $L_2$ Mean Estimation under Streaming Differential Privacy [47.997934291881414]
  既存の平均推定スキームは、通常、$L_infty$幾何に最適化され、ランダムな回転や、$L$幾何に適応するカシンの表現に依存する。 本稿では,スパシフィケーションに固有のランダム性をDPに組み込んだ,スパシフィケーションガウシアン機構の新たなプライバシ会計手法を提案する。 従来の手法とは異なり、我々の会計アルゴリズムは直接$L$幾何で動作し、ガウスの機構に迅速に収束するMSEが得られる。
  論文  参考訳（メタデータ） (2024-05-02T03:48:47Z)
• GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes [1.03590082373586]
  GP-BARTモデル(GP-BART model)は、すべての木間の各終端ノードの予測にGP先行を仮定することで制限に対処するBARTの拡張である。 モデルの有効性は、シミュレーションおよび実世界のデータへの応用を通じて実証され、様々なシナリオにおける従来のモデリング手法のパフォーマンスを上回る。
  論文  参考訳（メタデータ） (2022-04-05T11:18:44Z)
• On the Practicality of Differential Privacy in Federated Learning by Tuning Iteration Times [51.61278695776151]
  フェデレートラーニング(FL)は、分散クライアント間で機械学習モデルを協調的にトレーニングする際のプライバシ保護でよく知られている。 最近の研究では、naive flは勾配リーク攻撃の影響を受けやすいことが指摘されている。 ディファレンシャルプライバシ(dp)は、勾配漏洩攻撃を防御するための有望な対策として現れる。
  論文  参考訳（メタデータ） (2021-01-11T19:43:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。