論文の概要: MIST: Reliable Streaming Decision Trees for Online Class-Incremental Learning via McDiarmid Bound
- arxiv url: http://arxiv.org/abs/2605.11617v2
- Date: Mon, 18 May 2026 14:29:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:45.69387
- Title: MIST: Reliable Streaming Decision Trees for Online Class-Incremental Learning via McDiarmid Bound
- Title(参考訳): MIST: McDiarmid境界によるオンライン授業増分学習のための信頼性の高いストリーミング決定木
- Authors: Phu-Hoa Pham, Chi-Nguyen Tran, Nguyen Lam Phu Quy, Dao Sy Duy Minh, Huynh Trung Kiet, Long Tran-Thanh,
- Abstract要約: ストリーム決定木は、オープンワールド連続学習の自然な候補である。
2つの混在した誤校正のために、オンラインのクラスインクリメンタルラーニングでは依然として失敗している。
本稿では,MIST(McDiarmid Incremental Streaming Tree)について述べる。
- 参考スコア(独自算出の注目度): 6.276425555068115
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Streaming decision trees are natural candidates for open-world continual learning, as they perform local updates, enjoy bounded memory, and static decision boundaries. Despite these, they still fail in online class-incremental learning due to two coupled miscalibrations: (i) their split criterion grows unreliable as the class count K expands, and (ii) the absence of knowledge transfer at split time. Both failures share a common root: the range of Information Gain intrinsically scales with log2 K. Consequently, any Hoeffding-style confidence radius derived from it must inevitably grow with the class count, making a K-independent split criterion structurally impossible, taking away the potential benefits of applying streaming decision trees to continual learning. To fix this issue, we present MIST (McDiarmid Incremental Streaming Tree), which resolves both failures through three integrated components: (i) a tight, K-independent McDiarmid confidence radius for Gini splitting that acts as a structural regulariser; (ii) a Bayesian inheritance protocol that projects parent statistics to child nodes via truncated-Gaussian moments, with variance reduction guarantees strongest precisely when splitting is most conservative; and (iii) per-leaf KLL quantile sketches that support both continuous threshold evaluation and geometry-adaptive leaf prediction from a single data structure. On standard and stress-test tabular streams, MIST is competitive with global parametric methods on near-Gaussian benchmarks and uniquely robust on non-Gaussian geometry where SOTA benchmarks collapse.
- Abstract(参考訳): ストリーム決定木は、ローカル更新を実行し、バウンドメモリを享受し、静的な決定境界を保ちながら、オープンワールドにおける継続的学習の自然な候補である。
これらのにもかかわらず、彼らは2つの混在した誤診により、オンラインのクラスインクリメンタルラーニングに失敗している。
i) クラス数Kが拡大するにつれて、その分割基準は信頼できない。
二 分割時における知識移転の欠如
したがって、それに由来するホーフディングスタイルの信頼半径はクラス数とともに必然的に増大し、K非依存の分割基準を構造的に不可能にし、ストリーミング決定木を連続学習に適用する潜在的な利点を排除しなければならない。
この問題を解決するために、MIST(McDiarmid Incremental Streaming Tree)を紹介します。
i) 構造正規化器として作用するジーニ分裂に対するきついK非依存のマクダイアルミド信頼半径
(二)分割が最も保守的である場合に、分散低減の保証が極端に高い子どものノードに対する親統計をトランケートしたガウスモーメントを介して提示するベイズ継承プロトコル
(iii) 連続しきい値評価と1つのデータ構造からの幾何適応的な葉の予測の両方をサポートする、リーフ毎KLL量子スケッチ。
標準およびストレステストの表グラフストリームでは、MISTは近ガウスベンチマークのグローバルパラメトリック手法と競合し、SOTAベンチマークが崩壊する非ガウス幾何学において一意的に堅牢である。
関連論文リスト
- Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳(メタデータ) (2026-04-11T10:47:22Z) - SCOPE: Semantic Coreset with Orthogonal Projection Embeddings for Federated learning [0.7799711162530713]
現在のMLアプローチでは、非現実的なデータアグリゲーションを必要とするか、クラス不均衡のため失敗する。
SCOPEは,異常をフィルタし,冗長なデータを長期スキューに適応させる,フェデレートされたデータのためのコアセットフレームワークである。
SCOPEは、アップリンク帯域幅を128倍から512倍に削減しながら、競争力のあるグローバル精度と堅牢な収束をもたらす。
論文 参考訳(メタデータ) (2026-03-13T13:24:12Z) - CIRCUS: Circuit Consensus under Uncertainty via Stability Ensembles [1.3011345529764784]
そこで本研究では,CIRCUSが閾値ローバストな「コア」回路を生成できることを示す。
Gemma-2-2BとLlama-3.2-1Bでは、厳密なコンセンサス回路はコンストラクタの結合よりも40倍小さい。
我々はさらに,合意を確定したノードが非合意制御と一致しない場合に,アクティベーションパッチの因果関係を検証した。
論文 参考訳(メタデータ) (2026-02-28T07:44:04Z) - Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。
本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。
9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文 参考訳(メタデータ) (2026-02-09T22:48:30Z) - Decision Tree Embedding by Leaf-Means [11.318593165494724]
決定木埋め込み(Decision Tree Embedding, DTE)は、訓練された分類木の葉の分割を利用して解釈可能な特徴表現を構築する、迅速かつ効果的な方法である。
各葉領域内のサンプル手段をアンカーポイントとして使用することにより、DTEは木の分割構造によって定義された埋め込み空間に入力をマップする。
軽度条件下での条件密度の保存を含む,DTEの個体群レベルの理論的特性を確立した。
論文 参考訳(メタデータ) (2025-12-01T15:57:33Z) - DAG DECORation: Continuous Optimization for Structure Learning under Hidden Confounding [0.0]
本研究では, 線形ガウスSEMの構造学習について検討した。
我々は,DAGと相関雑音モデルとを共同で学習する単一の可能性に基づく推定器であるtextscDECORを提案する。
論文 参考訳(メタデータ) (2025-10-02T15:23:30Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Optimal Online Generalized Linear Regression with Stochastic Noise and
Its Application to Heteroscedastic Bandits [88.6139446295537]
一般化線形モデルの設定におけるオンライン一般化線形回帰の問題について検討する。
ラベルノイズに対処するため、古典的追従正規化リーダ(FTRL)アルゴリズムを鋭く解析する。
本稿では,FTRLに基づくアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-28T08:25:26Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。