論文の概要: Correcting Split Selection in Online Decision Trees via Anytime-Valid Inference
- arxiv url: http://arxiv.org/abs/2605.31239v1
- Date: Fri, 29 May 2026 12:40:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.605842
- Title: Correcting Split Selection in Online Decision Trees via Anytime-Valid Inference
- Title(参考訳): オンライン決定木における任意のValid推論による分割選択の補正
- Abstract要約: バグベースのアンサンブル、特にAdaptive Random Forestsは、データストリームから学ぶ上でもっとも強力なパフォーマーの1つである。
任意の値推論に基づく原理的な代替手法を導入する。
i)非定常的設定を含む任意のデータストリーム下での偽分割の有意な制御、(ii)予測的優位性の下での有限コミットメント時間、(iii)定常的データの下では、リスクはモノトン減少し、各分割において厳密に改善される。
- 参考スコア(独自算出の注目度): 19.423472728159528
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bagging-based ensembles, most notably Adaptive Random Forests, are among the strongest performers for learning from data streams. A common denominator across these methods is their reliance on Hoeffding Trees as base learners, which grow decision trees incrementally by testing whether a candidate split is significantly better than its alternatives using concentration inequalities. Despite their empirical success, existing variants lack valid statistical guarantees. Current analyses rely on fixed-sample concentration bounds, while split decisions are made using data-dependent stopping rules, which invalidates their guarantees and can drive the probabilty of incorrect splits to one. We introduce a principled alternative based on anytime-valid inference. Our method provides: (i) anytime-valid control of false splits under arbitrary data streams, including non-stationary settings; (ii) finite commitment time under a predictive advantage; and (iii) under stationary i.i.d. data, risk is monotone decreasing and strictly improves at every split. Empirically, we evaluate both standalone trees and their use within Adaptive Random Forests on non-stationary streams. Our method improves performance while producing substantially smaller trees.
- Abstract(参考訳): バグベースのアンサンブル、特にAdaptive Random Forestsは、データストリームから学ぶ上でもっとも強力なパフォーマーの1つである。
これらの手法にまたがる一般的な分母は、Hoeffding Treesをベースラーナーとして頼りにしており、これは、ある候補分割が、集中不等式を用いた代替案よりもはるかに優れているかどうかを調べることによって、決定木を漸進的に成長させるものである。
実証的な成功にもかかわらず、既存の変種は有効な統計的保証を欠いている。
現在の分析は固定サンプル濃度境界に依存しているが、分割決定はデータ依存の停止規則を用いて行われ、保証を無効にし、誤った分割の確率を1に駆動することができる。
任意の値推論に基づく原理的な代替手法を導入する。
私たちの方法は以下のとおりです。
(i)非定常的設定を含む任意のデータストリームの下での偽分割の有意な制御
(二 予測上の優位の下での有限のコミットメント時間
(iii) 定常的なi.d.データの下では、リスクはモノトンが減少し、分裂ごとに厳密に改善される。
本研究は,非定常流上において,スタンドアローン木と適応ランダムフォレスト内での利用の両方を実証的に評価する。
本手法は, 比較的小さな木を生産しながら, 性能を向上する。
関連論文リスト
- How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - Decision-Path Patterns as Tree Reliability Signals: Path-based Adaptive Weighting for Random Forest Classification [0.9607593117607193]
ランダムフォレストは、特徴空間の異なるランダム化された表現で各木を構築する。
彼らの一様投票は、誤った表現を持つ木が正しいものより多い地域では誤りを訂正できない。
本稿では,各木の決定経路の構造パターンをサンプルごとの信頼性信号として用いることを提案する。
論文 参考訳(メタデータ) (2026-05-20T05:15:09Z) - Efficient Test-Time Inference via Deterministic Exploration of Truncated Decoding Trees [68.04613115686509]
自己整合性は、複数の推論トレースを並列にサンプリングし、投票することで、推論時間のパフォーマンスを向上させる。
そこで本研究では,切り落された標本を伐採木として扱う決定論的復号法であるDLE(Distinct Leafion)を提案する。
DLEは高品質な推論トレースを調査し、数学、コーディング、一般的な推論タスクのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2026-04-22T12:42:03Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳(メタデータ) (2026-04-11T10:47:22Z) - Partition Trees: Conditional Density Estimation over General Outcome Spaces [46.1988967916659]
一般結果空間上での条件密度推定のための木に基づくフレームワークである分割木を提案する。
本手法は,データ適応分割における条件分布を一括一貫した密度としてモデル化し,条件付き負の対数関係を直接最小化して木を学習する。
論文 参考訳(メタデータ) (2026-02-03T22:12:30Z) - Principled Federated Random Forests for Heterogeneous Data [19.544248463207612]
我々は、水平分割データのための新しいフェデレートランダムフォレストアルゴリズムであるFedForestを提案する。
我々は、慎重に選択されたクライアント統計を集約した分割手順が、集中型アルゴリズムによって選択された分割を近似していることを証明する。
また、FedForestはクライアントインジケータの分割を可能にし、非パラメトリックなパーソナライゼーションの形式を可能にすることも示しています。
論文 参考訳(メタデータ) (2026-02-03T08:41:59Z) - Size-adaptive Hypothesis Testing for Fairness [8.315080617799445]
我々は、公正性評価を証拠に基づく統計的決定に変換する統一的、サイズ適応的、仮説テストフレームワークを導入する。
統計的パリティ差に対して中央限の結果が証明され、解析的信頼区間と、タイプI(偽陽性)エラーがレベル$alpha$で保証されるウォルド試験が導かれる。
小さな交叉群の長い尾に対して、完全ベイズ的ディリクレ・マルチノミカル推定器を導出する。
論文 参考訳(メタデータ) (2025-06-12T11:22:09Z) - A Powerful Random Forest Featuring Linear Extensions (RaFFLE) [1.2233362977312945]
RaFFLEは、ランダムな森林アンサンブル内でPILOTツリーをベースラーナーとして統合する新しいフレームワークである。
PILOT木は、従来の決定木の計算効率と線形モデル木の柔軟性を組み合わせたものである。
RaFFLEは様々な回帰問題に対処するための汎用ツールであることが証明されている。
論文 参考訳(メタデータ) (2025-02-14T14:22:51Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Adaptive Split Balancing for Optimal Random Forest [8.916614661563893]
そこで本研究では,新しい適応型分割バランス法を用いて木を構築するランダムフォレストアルゴリズムを提案する。
本手法は,データから木構造を適応的に学習しながら,シンプルでスムーズなシナリオで最適性を実現する。
論文 参考訳(メタデータ) (2024-02-17T09:10:40Z) - Theoretical and Empirical Advances in Forest Pruning [0.0]
回帰林の精度と回帰樹の解釈可能性という両世界の最善を尽くすアプローチである森林伐採を再考する。
我々は、弱い仮定の下で、未伐採林に対するラッソ伐採林の利点を証明した。
我々は19の異なるデータセット上の未伐採林に対する伐採林の精度を検証した。
論文 参考訳(メタデータ) (2024-01-10T20:02:47Z) - Consensus-Guided Correspondence Denoising [67.35345850146393]
本稿では,地域間コンセンサス学習フレームワークと対応関係を異色化し,対応関係をロバストに識別する。
ローカル地域からグローバル地域への動的グラフから推定されるコンセンサススコアに基づいて,信頼度の高い候補を初期マッチングから蒸留する新しい「プルーニング」ブロックを導入した。
本手法は、堅牢なラインフィッティング、ワイドベースライン画像マッチング、画像ローカリゼーションベンチマークを顕著なマージンで上回る。
論文 参考訳(メタデータ) (2021-01-03T09:10:00Z) - Fair Densities via Boosting the Sufficient Statistics of Exponential
Families [72.34223801798422]
フェアネスのためのデータ前処理にブースティングアルゴリズムを導入する。
私たちのアプローチは、最小限の公平性を確保しながら、より良いデータフィッティングへとシフトします。
実世界のデータに結果の質を示す実験結果が提示される。
論文 参考訳(メタデータ) (2020-12-01T00:49:17Z) - Stochastic Optimization Forests [60.523606291705214]
標準的なランダムな森林アルゴリズムのように予測精度を向上させるために分割するのではなく、分割を選択した木を栽培し、下流の意思決定品質を直接最適化することで、森林決定政策の訓練方法を示す。
概略分割基準は、各候補分割に対して正確に最適化された森林アルゴリズムに近い性能を保ちながら、100倍のランニング時間を短縮できることを示す。
論文 参考訳(メタデータ) (2020-08-17T16:56:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。