論文の概要: Revisiting Tabular Deep Regression: Objectives and the Limits of Global Early Stopping
- arxiv url: http://arxiv.org/abs/2610.13909v1
- Date: Fri, 09 Oct 2026 17:49:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.705813
- Title: Revisiting Tabular Deep Regression: Objectives and the Limits of Global Early Stopping
- Title（参考訳）: 喉頭深部回帰の再考 : 目的と早期停止の限界
- Abstract要約: いくつかの研究が標準平均正方形誤差(MSE)の代替手段を提供している。
データセット、バックボーン、評価プロトコルの違いは、それらの実用的な利点を比較するのを難しくします。
- 参考スコア（独自算出の注目度）: 20.521384106029256
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: While deep learning models for tabular data have recently received significant research attention, the choice of objective functions for regression tasks remains an understudied degree of freedom. Several lines of research offer alternatives to the standard Mean Squared Error (MSE), but differences in datasets, backbones, and evaluation protocols make their practical benefits difficult to compare. In this work, we address this gap by performing a systematic re-evaluation of regression objectives across a broad collection of established tabular datasets and multiple neural backbones. Our comparison reveals that many proposed objectives provide limited or inconsistent gains over a properly tuned MSE baseline, while quantile loss yields consistent aggregate improvements over MSE across the tested backbones. We then identify a limitation that remains even with this strong objective: regions with different levels of target noise can reach their best predictive performance at different training epochs. Consequently, a single global early-stopping checkpoint can impose a compromise between uncertainty regions, even when the objective can represent heteroskedastic target distributions. Motivated by this limitation, we introduce a heteroskedasticity-aware extension of quantile loss that uses input-dependent label smoothing as a potential remedy and improves over quantile loss on several backbones. Overall, our results provide a modern empirical picture of regression objectives for tabular deep learning and highlight how differences in optimal stopping times across uncertainty regions can limit the effectiveness of global early stopping. The code is available at https://github.com/yandex-research/tabular-regression.
- Abstract（参考訳）: 表形式のデータに対するディープラーニングモデルは近年大きな研究の注目を集めているが、回帰タスクの目的関数の選択は未研究の自由度のままである。
標準的なMean Squared Error(MSE)に代わるいくつかの研究ラインがあるが、データセット、バックボーン、評価プロトコルの違いにより、比較するのが難しくなっている。
本研究では,このギャップを,確立した表層データセットと複数の神経バックボーンの広範囲にまたがって,回帰目標の体系的再評価を行うことによって解決する。
比較の結果,提案した多くの目的が適切に調整されたMSEベースラインに対して限定的あるいは矛盾的な利得を与えるのに対し,量子的損失は試験されたバックボーン全体にわたってMSEよりも一貫した集合的改善をもたらすことがわかった。
ターゲットノイズのレベルが異なる領域は、異なるトレーニングエポックで最高の予測性能に達することができる。
その結果、対象がヘテロスケダスト目標分布を表現できる場合でも、単一グローバルな早期停止チェックポイントは不確実領域間の妥協を課すことができる。
この制限により、入力依存ラベルの平滑化による量子損失のヘテロスケダスティック性を考慮した拡張を導入し、複数のバックボーンにおける量子損失の超過を改善する。
本研究の結果は,表層深層学習における回帰目標の現代的実証図を提供し,不確実領域間での最適停止時間の違いが,世界的早期停止の有効性を抑えるかを明らかにするものである。
コードはhttps://github.com/yandex-research/tabular-regression.comで公開されている。
関連論文リスト
- Exposing Blind Spots in Deep Imbalanced Regression Evaluation [1.475612364427655]
Deep Im Balanced Regression (DIR)は、回帰モデルの共通の障害モードに対処する。
これら3つの軸に沿ってDIR評価を再検討する。
標準的な仮想センシングモデルでは,グローバルMAEによって隠蔽されたテール劣化が顕著であることを示す。
論文 参考訳（メタデータ） (2026-09-21T08:51:40Z) - RL2ML: Finite-Rollout Surrogate Objectives from Reinforcement Learning to Maximum Likelihood [0.0]
本稿では、有限ロールアウトされた代理対象の族であるRL2MLを、閉形式、正確に偏りのない勾配推定器で開発する。
代理目的の最良の選択は、最大可能性に近づいたり、人口レベルの重みだけで決められたりしないことを示す。
論文 参考訳（メタデータ） (2026-05-28T16:14:45Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳（メタデータ） (2026-05-21T16:45:31Z) - Provable Sparse Inversion and Token Relabel Enhanced One-shot Federated Learning with ViTs [77.42033827176806]
ワンショットフェデレートラーニング(One-Shot Federated Learning)は、単一のコミュニケーションラウンドでグローバルモデルを学ぶ中央サーバが、有望なパラダイムとして登場したものだ。
本稿では,合成画像の全パッチをフル活用してグローバルモデルをトレーニングする,新しいフェデレーションモデルインバージョンとトークンリラベルフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-11T15:49:08Z) - Learning from Interval Targets [11.40634831132165]
本研究では,対象値の上下境界のみを区間として利用できる対象値の回帰区間問題について検討する。
正確な目標がなければ、従来の回帰損失は使用できない。
提案手法は,最先端の性能機能を実現する。
論文 参考訳（メタデータ） (2025-10-23T18:24:17Z) - Temporal-Difference Variational Continual Learning [77.92320830700797]
複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
論文 参考訳（メタデータ） (2024-10-10T10:58:41Z) - Embedding generalization within the learning dynamics: An approach based-on sample path large deviation theory [0.0]
本研究では,持続的視点から手法を利用する経験的リスク摂動に基づく学習問題を考察する。
大規模偏差のFreidlin-Wentzell理論に基づく小雑音限界の推定を行う。
また、最適点推定に繋がる変分問題を解く計算アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-08-04T23:31:35Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳（メタデータ） (2024-06-05T13:36:38Z) - Domain-Adjusted Regression or: ERM May Already Learn Features Sufficient
for Out-of-Distribution Generalization [52.7137956951533]
既存の特徴から予測器を学習するためのよりシンプルな手法を考案することは、将来の研究にとって有望な方向である、と我々は主張する。
本稿では,線形予測器を学習するための凸目標である領域調整回帰(DARE)を紹介する。
自然モデルの下では、DARE解が制限されたテスト分布の集合に対する最小最適予測器であることを証明する。
論文 参考訳（メタデータ） (2022-02-14T16:42:16Z) - Communication-Efficient Distributed Quantile Regression with Optimal
Statistical Guarantees [2.064612766965483]
本稿では,分散量子レグレッションにおいて,厳密なスケーリング条件を伴わずに最適な推論を実現する方法の課題に対処する。
この問題は、ローカル(各データソース)とグローバルな目的関数に適用される二重平滑化アプローチによって解決される。
局所的および大域的滑らか化パラメータの微妙な組み合わせに依存するにもかかわらず、量子回帰モデルは完全にパラメトリックである。
論文 参考訳（メタデータ） (2021-10-25T17:09:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。