論文の概要: ITBoost: Information-Theoretic Trust for Robust Boosting
- arxiv url: http://arxiv.org/abs/2605.04671v1
- Date: Wed, 06 May 2026 09:21:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.743772
- Title: ITBoost: Information-Theoretic Trust for Robust Boosting
- Title(参考訳): ITBoost:ロバストブースティングのための情報理論的信頼
- Authors: Ye Su, Longlong Zhao, Diego Garcia-Gil, Jipeng Guo, Gangchun Zhang, Jinxin Chen, Jinsong Chen,
- Abstract要約: ノイズの多い環境に対する情報理論的トラストブースティング(ITBoost)を提案する。
ITBoostは、ノイズの多い環境で堅牢性を改善し、クリーンなデータ上での最高の平均パフォーマンスを維持します。
- 参考スコア(独自算出の注目度): 5.279698740639478
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gradient boosting remains a strong and widely used method for tabular data learning, but its performance often degrades when training labels are noisy. This behavior is largely related to the way boosting algorithms emphasize samples with large gradients, without explicitly accounting for whether such errors originate from informative hard cases or from unreliable labels. We address this issue by reconsidering how sample reliability is evaluated during boosting. Instead of relying on instantaneous error, we examine the evolution of each sample's residuals across iterations. Based on this insight, we propose Information-Theoretic Trust Boosting (ITBoost), which uses the Minimum Description Length principle to measure the complexity of residual trajectories. Samples whose residual patterns fluctuate in an irregular manner are treated as less trustworthy and are down-weighted during learning. Theoretically, we derive a tighter generalization bound for ITBoost under label noise. Empirical results on various tabular benchmarks indicate that ITBoost provides improved robustness in noisy environments over leading boosting and deep tabular models, while retaining best average performance on clean data.
- Abstract(参考訳): グラディエント・ブースティングは、表形式のデータ学習において強力で広く使われている方法だが、トレーニングラベルがうるさい場合には、その性能は劣化することが多い。
この挙動は、情報的なハードケースや信頼性の低いラベルに由来するかどうかを明示的に考慮することなく、アルゴリズムが大きな勾配を持つサンプルを強調する方法に大きく関係している。
本稿では, 試料の信頼性の評価方法を再考し, この問題に対処する。
即時エラーに頼るのではなく、各サンプルの残余の反復的進化を調べる。
この知見に基づいて,残留軌道の複雑さを測定するために最小記述長原理を用いた情報理論トラストブースティング(ITBoost)を提案する。
残留パターンが不規則な方法で変動するサンプルは、信頼性が低く、学習中に重み付けされる。
理論的には、ラベルノイズ下でのITBoostのより厳密な一般化を導出する。
様々な表型ベンチマークの実証結果から、ITBoostは、クリーンなデータに対する最高の平均パフォーマンスを維持しながら、改善されたノイズの多い環境における堅牢性を提供することを示している。
関連論文リスト
- Robust Self-Training with Closed-loop Label Correction for Learning from Noisy Labels [29.68163073890278]
ノイズの多いラベルでディープニューラルネットワークをトレーニングすることは、依然として大きな課題である。
分離二段階最適化を用いた自己学習ラベル補正フレームワークを提案する。
提案手法は, 地中構造を伝達するために, ノイズのある後部シミュレーションと中間特徴を用いる。
論文 参考訳(メタデータ) (2026-03-14T11:10:17Z) - Mitigating Instance-Dependent Label Noise: Integrating Self-Supervised Pretraining with Pseudo-Label Refinement [3.272177633069322]
実世界のデータセットは、アノテーションプロセス中にヒューマンエラー、あいまいさ、リソース制約のために、ノイズの多いラベルを含むことが多い。
そこで本研究では,SimCLRを用いた自己教師型学習と反復的擬似ラベル改良を組み合わせた新しいフレームワークを提案する。
提案手法は,特に高騒音条件下では,いくつかの最先端手法よりも優れる。
論文 参考訳(メタデータ) (2024-12-06T09:56:49Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - ERASE: Error-Resilient Representation Learning on Graphs for Label Noise
Tolerance [53.73316938815873]
本稿では, ERASE (Error-Resilient representation learning on graphs for lAbel noiSe tolerancE) という手法を提案する。
ERASEは、プロトタイプの擬似ラベルとプロパゲーションされた識別ラベルを組み合わせて、表現をエラーレジリエンスで更新する。
提案手法は, 広い雑音レベルにおいて, 複数のベースラインをクリアマージンで上回り, 高いスケーラビリティを享受できる。
論文 参考訳(メタデータ) (2023-12-13T17:59:07Z) - Late Stopping: Avoiding Confidently Learning from Mislabeled Examples [61.00103151680946]
そこで本研究では,DNNの長期学習プロセスを通じて,本質的な頑健な学習能力を生かした新しいフレームワークであるLatlas Stoppingを提案する。
誤ラベルとクリーンな例は、それらが一貫して正しく分類されるために必要なエポックの数に相違があることを実証的に観察する。
ベンチマークシミュレーションと実世界のノイズデータセットによる実験結果から,提案手法は最先端の手法よりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-26T12:43:25Z) - Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。
本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-06T14:49:59Z) - Tackling Instance-Dependent Label Noise via a Universal Probabilistic
Model [80.91927573604438]
本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。
合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
論文 参考訳(メタデータ) (2021-01-14T05:43:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。