論文の概要: Robust XGBoosting for Regression
- arxiv url: http://arxiv.org/abs/2608.13590v1
- Date: Tue, 14 Jul 2026 10:41:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.212564
- Title: Robust XGBoosting for Regression
- Title(参考訳): 回帰のためのロバストXGBoosting
- Abstract要約: 我々は,XGBoostのロバスト性について検討し,その性能が垂直外れ値やレバレッジポイントの影響を受けていることを示す。
この結果から,MM-XGBoostと呼ばれる2段階のプロシージャが,ロバスト性と予測精度の最良のトレードオフとなることが示唆された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: XGBoost is a very popular and powerful method for prediction. It iteratively fits simple decision trees to the residuals of the previous step. An efficient and scalable implementation is available. The standard loss function for XGBoost is the quadratic loss, but a Huber loss can also be used. In this paper, we study the robustness of XGBoost and show that its performance can be affected by vertical outliers and leverage points. To address this, we explore alternative loss functions, based on M-, S-, and τ -estimators from robust regression. Our results indicate that a two-step procedure, referred to as MM-XGBoost, provides the best trade-off between robustness and prediction accuracy.
- Abstract(参考訳): XGBoostは、非常に人気があり強力な予測方法である。
単純な決定木を前ステップの残余に反復的に適合させる。
効率的でスケーラブルな実装が利用可能だ。
XGBoostの標準的な損失関数は2次損失であるが、Huber損失も利用できる。
本稿では,XGBoostのロバスト性について検討し,その性能が垂直外れ値やレバレッジポイントの影響を受けやすいことを示す。
これを解決するために、M-, S-, τ-推定器を頑健な回帰から導いた代替損失関数について検討する。
この結果から,MM-XGBoostと呼ばれる2段階のプロシージャが,ロバスト性と予測精度の最良のトレードオフとなることが示唆された。
関連論文リスト
- Bug or Feature$^2$: Weight Drift, Activation Sparsity and Spikes [53.726365933748134]
標準損失と正に偏りのある活性化関数の相互作用によって引き起こされる負の重みのドリフトを解析する。
79の構成にまたがるスパシティ・精度のトレードオフを特徴付けるとともに、$sim$70%のアクティベーション・スパシティよりも高い精度の崖を識別する。
論文 参考訳(メタデータ) (2026-05-17T21:29:20Z) - REAL: Regression-Aware Reinforcement Learning for LLM-as-a-Judge [83.2858110368572]
回帰報酬を最適化するための原則的RLフレームワークである textbfREAL (underlineREgression-underlineAware Reinforcement underlineLThought) を提案する。
我々は,REALがレグレッション対応SFTベースラインと標準RL法の両方を一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-03-17T21:19:08Z) - How to Boost Any Loss Function [63.573324901948716]
損失関数はブースティングにより最適化可能であることを示す。
また、古典的な$0の注文設定でまだ不可能な成果を達成できることも示しています。
論文 参考訳(メタデータ) (2024-07-02T14:08:23Z) - Composite Quantile Regression With XGBoost Using the Novel Arctan Pinball Loss [1.0446041735532203]
量子回帰は、点推定だけでは不十分な条件付き量子状態を得るための一般的なアプローチである。
既存の回避策は典型的には非効率であり、深刻な量的交差をもたらす。
我々は,XGBoostのニーズに合わせて,ピンボール損失,アークタンピンボール損失のスムーズな近似を提示する。
論文 参考訳(メタデータ) (2024-06-04T13:13:29Z) - Quantile Extreme Gradient Boosting for Uncertainty Quantification [1.7685947618629572]
Extreme Gradient Boosting (XGBoost)は、最も人気のある機械学習(ML)手法の1つである。
本稿では,不確実性(QXGBoost)を推定する目的関数として,修正量子回帰を用いたXGBoostの拡張を提案する。
提案手法は, 正規および量子的光勾配向上のために生成した不確実性推定値と同等あるいは優れた性能を示した。
論文 参考訳(メタデータ) (2023-04-23T19:46:19Z) - High-level Feature Guided Decoding for Semantic Segmentation [54.424062794490254]
そこで本稿では,アップサンプラーが頑健な結果を得るためのガイダンス(HFG)として,強力な事前学習高レベル機能を提案する。
具体的には、バックボーンの高レベルな機能はクラストークンのトレーニングに使用され、クラストークンはクラス分類のためにアップサンプラーによって再利用される。
HFGの上限を押し上げるために、低解像度の高レベル特徴に対して効率よく効果的に操作できる文脈拡張エンコーダ(CAE)を導入する。
論文 参考訳(メタデータ) (2023-03-15T14:23:07Z) - Generalized XGBoost Method [0.0]
XGBoost法には利点があり、特に統計解析のビッグデータに適している。
本稿では,より弱い一般化損失関数を必要とする一般応用を提案する。
関連するアルゴリズムと、非生命保険のいくつかの例が与えられる。
論文 参考訳(メタデータ) (2021-09-15T01:52:14Z) - Survival regression with accelerated failure time model in XGBoost [1.5469452301122177]
サバイバル回帰は、時間から時間までの変数と特徴変数の関係を推定するために用いられる。
XGBoostは、高速化された障害時間モデルを学習するための損失関数を実装している。
論文 参考訳(メタデータ) (2020-06-08T20:34:20Z) - Robust Boosting for Regression Problems [0.0]
基底学習者の線形結合による回帰予測アルゴリズムの構築
このロバストなブースティングアルゴリズムは、2段階のアプローチに基づいており、ロバストな線形回帰のためにブースティングが行なわれているのと同様である。
非定型的な観測が存在しない場合、頑健な昇降法は正方形損失を伴う標準勾配昇降法と同様に機能する。
論文 参考訳(メタデータ) (2020-02-06T01:12:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。