論文の概要: Distributional Split Criteria for Random Forests: Extensions, Shrinkage, and the Robustness of Mean Splitting
- arxiv url: http://arxiv.org/abs/2607.23721v1
- Date: Sun, 26 Jul 2026 15:37:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.210049
- Title: Distributional Split Criteria for Random Forests: Extensions, Shrinkage, and the Robustness of Mean Splitting
- Title(参考訳): ランダム林における分布分断基準--拡大, 収縮, 平均分断のロバスト性
- Abstract要約: 分布ランダム林は、平均的CART分割を、候補児の完全な条件応答分布と比較する基準に置き換える。
我々は、単一の誠実なフォレスト実装の中で、そのような基準のファミリーを実装し、体系的に研究する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Distributional random forests replace mean-based CART splitting with criteria that compare the full conditional response distribution in candidate children. We implement and systematically study a family of such criteria inside a single honest-forest implementation: isotropic random-Fourier-feature maximum mean discrepancy (MMD), an anisotropic diagonal-bandwidth variant, an adaptive per-split frequency-selection variant, and a non-kernel sliced-Wasserstein criterion, together with post-hoc kernel-mean shrinkage of the forest weights. Using paired-seed comparisons across synthetic quantile mechanisms, real univariate benchmarks, a California-housing subsample curve, and multivariate synthetic and real responses, we characterize where each extension pays. Three findings recur. First, among distributional criteria ordinary isotropic MMD is already close to best in class: the anisotropic, adaptive-frequency, and sliced-Wasserstein extensions, and post-hoc shrinkage, do not systematically improve on it. Second, on scalar tabular regression mean-based CART splitting remains the robust default and wins many cells. Third, multivariate responses are the regime where distributional splitting clearly earns its keep, most sharply on a pure-dependence copula where the energy score separates the criteria even though marginal CRPS does not. The evidence supports a simple allocation story: distributional splitting helps only when non-location structure is both present and estimable; otherwise it dilutes split-selection power away from the mean. All criteria, the honest forest, and the paired-comparison harness are implemented in the open-source \texttt{drforest} library, whose Rust-backed split search makes broad criterion sweeps inexpensive.
- Abstract(参考訳): 分布ランダム林は、平均的CART分割を、候補児の完全な条件応答分布と比較する基準に置き換える。
等方的ランダム-フーリエ-フェール最大平均誤差(MMD)、異方性対角帯域幅の変種、適応型パースプリット周波数選択変種、非カーネルスライス-ワッサーシュタイン基準、およびポストホットカーネル-平均森林重みの縮減という、単一の正直な実装の中で、そのような基準の族を実装・体系的に研究する。
合成量子化機構、実単変量ベンチマーク、カリフォルニアの住宅サブサンプル曲線、および多変量合成および実応答のペアシード比較を用いて、各拡張がどこに支払うかを特徴づける。
3つの発見が再燃した。
まず、分布の基準の中で、通常の等方性MDDは、既にクラスにおいて最良に近い:異方性、適応周波数、スライスされたワッサーシュタイン拡張、およびポストホック縮小は、体系的にそれを改善することはない。
第二に、スカラーの表層レグレッション平均に基づくCART分割は依然として堅牢なデフォルトであり、多くのセルに勝利する。
第3に、多変量応答は、分布分割が明確に保たれる状態であり、最も顕著に、エネルギースコアが限界CRPSがそうでないにもかかわらず基準を分離する純粋依存コプラである。
分布分割は、非位置構造が存在していて、推定可能な場合にのみ有効である。
あらゆる基準、誠実なフォレスト、ペア化された互換性のハーネスは、Rustが支援する分割検索によって幅広い基準が安価になるオープンソースの‘texttt{drforest}ライブラリに実装されている。
関連論文リスト
- When to Truncate a Feature Ranking: A Residual-Overlap Stopping Rule for Subset Selection [0.0]
本稿では,教師付き特徴ランクをクラスに依存しないサブセットに変換するための分散フレームワークを開発する。
高次元ゲノムデータセットに対する実証的な比較は、この規則が数万の変数を数ダースに削減できることを示している。
論文 参考訳(メタデータ) (2026-06-30T14:00:29Z) - CriterAlign: Criterion-Centric Rationale Alignment for Code Preference Judging [95.02210956333374]
本稿では,一対の選好評価にルーブリックに基づく判断を適応させる基準中心のフレームワークを提案する。
BigCodeRewardでは、CriterAlignはQwen2.5-VL-32Bモノリシック判事を60.4%から66.3%に改善した。
論文 参考訳(メタデータ) (2026-05-19T10:59:19Z) - DISA: Offline Importance Sampling for Distribution-Matching LLM-RL [56.9445657766829]
本稿では、このキャリブレーション問題をRLループの外に移動させるdisAを紹介する。
DISAは提案トラジェクトリをオフラインに描画し、重要サンプリングによってパーティション関数を推定し、結果として発生するパーティション関数の推定を凍結する。
6つの数学と3つのコードベンチマークにまたがる2つのオープンウェイトなバックボーンでは、DisdisAはオンラインに結合した分散マッチングベースラインフローにマッチするか、超えている。
論文 参考訳(メタデータ) (2026-05-17T07:14:44Z) - Closed-Form Beta Distribution Estimation from Sparse Statistics with Random Forest Implicit Regularization [0.0]
この研究は3つの主要な貢献を通じてスパースデータとアンサンブル分類から分布回復を推し進める。
まず,限定統計量から大規模ベータ分布を再構成する閉形式推定器を提案する。
第2に,誤差境界の導出による分類精度と分布の近接性の関係を確立する。
第3に、ゼロ分散特徴が暗黙の正則化として作用し、中間ランク予測器の選択確率が増加することを示す。
論文 参考訳(メタデータ) (2025-07-31T17:55:07Z) - ReCAB-VAE: Gumbel-Softmax Variational Inference Based on Analytic
Divergence [17.665255113864795]
緩和されたカテゴリー分布のクルバック・リーブラー発散(KLD)の上界に対応する新しい発散型計量について述べる。
また、連続表現と緩和表現の両方をうまくモデル化できる緩和された分類的有界変分オートエンコーダ(ReCAB-VAE)を提案する。
論文 参考訳(メタデータ) (2022-05-09T08:11:46Z) - Random Forest Weighted Local Fréchet Regression with Random Objects [18.128663071848923]
本稿では,新しいランダム森林重み付き局所Fr'echet回帰パラダイムを提案する。
最初の方法は、これらの重みを局所平均として、条件付きFr'echet平均を解くことである。
第二の手法は局所線形Fr'echet回帰を行い、どちらも既存のFr'echet回帰法を大幅に改善した。
論文 参考訳(メタデータ) (2022-02-10T09:10:59Z) - Exact Recovery in the General Hypergraph Stochastic Block Model [92.28929858529679]
本稿では,d-uniform hypergraph block model(d-HSBM)の正確な回復の基本的な限界について検討する。
精度の高いしきい値が存在し、正確な回復がしきい値の上に達成でき、その下には不可能であることを示す。
論文 参考訳(メタデータ) (2021-05-11T03:39:08Z) - A Unified Joint Maximum Mean Discrepancy for Domain Adaptation [73.44809425486767]
本論文は,最適化が容易なjmmdの統一形式を理論的に導出する。
統合JMMDから、JMMDは分類に有利な特徴ラベル依存を低下させることを示す。
本稿では,その依存を促進する新たなmmd行列を提案し,ラベル分布シフトにロバストな新しいラベルカーネルを考案する。
論文 参考訳(メタデータ) (2021-01-25T09:46:14Z) - Consensus-Guided Correspondence Denoising [67.35345850146393]
本稿では,地域間コンセンサス学習フレームワークと対応関係を異色化し,対応関係をロバストに識別する。
ローカル地域からグローバル地域への動的グラフから推定されるコンセンサススコアに基づいて,信頼度の高い候補を初期マッチングから蒸留する新しい「プルーニング」ブロックを導入した。
本手法は、堅牢なラインフィッティング、ワイドベースライン画像マッチング、画像ローカリゼーションベンチマークを顕著なマージンで上回る。
論文 参考訳(メタデータ) (2021-01-03T09:10:00Z) - Distributional Random Forests: Heterogeneity Adjustment and Multivariate
Distributional Regression [0.8574682463936005]
共同条件分布に基づく多変量応答のための新しい森林構築法を提案する。
コードはPythonとRパッケージとして利用可能である。
論文 参考訳(メタデータ) (2020-05-29T09:05:00Z) - Convolution-Weight-Distribution Assumption: Rethinking the Criteria of
Channel Pruning [90.2947802490534]
刈り取り基準の研究には2つの盲点がある。
フィルタのランク'Importance Score'はほぼ同じで、同様に刈り取られた構造になる。
いくつかのプルーニング基準で測定されたフィルタ'Importance Score'は、ネットワークの冗長性をよく区別するには近すぎる。
論文 参考訳(メタデータ) (2020-04-24T09:54:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。