論文の概要: ScoreStop: Gradient-based early stopping using functional score tests

• arxiv url: http://arxiv.org/abs/2606.02740v1
• Date: Mon, 01 Jun 2026 18:05:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.525343
• Title: ScoreStop: Gradient-based early stopping using functional score tests
• Title（参考訳）: ScoreStop: 機能的スコアテストを使用したグラディエントベースの早期停止
• Authors: Oliver J. Hines, Christian L. Hines,
• Abstract要約: 本稿では,現在予測器が人口リスク最小化器であるというヌル仮説のテストとして,各イテレーションで停止決定を行う勾配に基づく早期停止則を提案する。 我々のテストでは損失値よりも勾配を用いるため、LambdaRankのような暗黙的な検証損失や、影響関数によるCox回帰のようなデータ依存的な損失にも、同じ構成が適用されます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gradient boosted decision trees require a stopping rule to avoid overfitting. The standard rule monitors a validation loss and stops if the loss fails to improve for a fixed patience period. However, the patience parameter has no interpretable scale and validation losses can be noisy or implicitly defined by a user-specified gradient. We propose ScoreStop, a gradient-based early-stopping rule that casts the stopping decision at each iteration as a test of the null hypothesis that the current predictor is the population risk minimizer. We use a functional score test, computed on validation data, with a statistic that is scale-invariant in the update direction, with a known asymptotic distribution under the null. Because our test uses gradients rather than loss values, the same construction applies to implicit losses such as LambdaRank, and data-dependent losses such as Cox regression via influence functions. In synthetic experiments and real-data benchmarks, we show that ScoreStop is competitive with loss-based methods.
• Abstract（参考訳）: グラディエントに強化された決定木は、過度な適合を避けるために停止ルールを必要とする。 標準ルールは、バリデーション損失を監視し、その損失が一定の忍耐期間の改善に失敗した場合に停止する。 しかし、忍耐パラメータは解釈可能なスケールを持たず、検証損失はユーザが指定した勾配によってノイズや暗黙的に定義することができる。 ScoreStopは,現在予測器が人口リスク最小化器であるというヌル仮説のテストとして,各イテレーションで停止決定を行う勾配に基づく早期停止ルールを提案する。 検証データに基づいて計算された関数的スコアテストを使用し、更新方向のスケール不変な統計値と、ヌルの下で既知の漸近分布を用いる。 私たちのテストでは損失値よりも勾配を使用するため、LambdaRankのような暗黙的な損失や、影響関数によるCox回帰のようなデータ依存的な損失にも、同じ構造が適用されます。 合成実験や実データベンチマークでは、ScoreStopは損失ベースの手法と競合することを示す。

関連論文リスト

• Tailoring Strictly Proper Scoring Rules for Downstream Tasks: An Application to Causal Inference [48.78219918881965]
  本稿では,ダウンストリーム誤差メトリックの局所曲率をマッチングすることにより,タスク固有の厳密なスコアリングルールを導出するフレームワークを提案する。 これを平均処理効果 (ATE) 推定に適用し, 閉形式損失と対応する正準確率写像を導出する。
  論文  参考訳（メタデータ） (2026-06-02T08:41:25Z)
• GRADSTOP: Early Stopping of Gradient Descent via Posterior Sampling [4.938367626424121]
  機械学習モデルは、しばしば過剰適合に悩まされ、目に見えないデータに対する予測性能が低下する。 標準解はホールドアウト検証セットを使用して早期に停止し、検証損失の減少が止まった場合に最小化を停止する。 本稿では,勾配降下アルゴリズムによって生成される勾配情報のみを利用する新しい早期停止法であるGRADSTOPを提案する。
  論文  参考訳（メタデータ） (2025-08-26T13:44:35Z)
• Centaur: Robust End-to-End Autonomous Driving with Test-Time Training [84.78837437133234]
  我々は,手作業によるルールやコスト関数に頼ることなく,テストタイムトレーニングを通じてプランナーの行動を更新するCentaurを提案する。 本稿では,クラスタ・エントロピー(Cluster Entropy,クラスタ・エントロピー)と呼ばれる新しい不確実性尺度を開発した。
  論文  参考訳（メタデータ） (2025-03-14T17:59:41Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Decision-Focused Learning with Directional Gradients [1.2363103948638432]
  そこで我々は,予測最適化フレームワークとして,摂動勾配損失(PG損失)と呼ばれる,決定を意識した新たなサロゲート損失のファミリーを提案する。 通常、断片的に一定かつ不連続な元の決定損失とは異なり、新しいPG損失はリプシッツ連続であり、凹函数の違いである。 我々は,PG損失が,基礎モデルが不明確である場合に,既存の提案よりも実質上優れていることを示す数値的な証拠を提供する。
  論文  参考訳（メタデータ） (2024-02-05T18:14:28Z)
• Near-Optimal Non-Parametric Sequential Tests and Confidence Sequences with Possibly Dependent Observations [44.71254888821376]
  我々は、一般的な非データ生成プロセスの下で、最初のタイプIエラーと予測リジェクション時間保証を提供する。 本研究では, 平均処理効果など, 方程式を推定することによって定義されるパラメータの推測に, 結果を適用する方法を示す。
  論文  参考訳（メタデータ） (2022-12-29T18:37:08Z)
• Boosting Active Learning via Improving Test Performance [35.9303900799961]
  勾配ノルムの高いラベル付きデータを選択すると、テスト損失の上限が低くなることを示す。 本稿では,期待次数とエントロピー次数という2つのスキームを提案する。 本手法は最先端技術に対して優れた性能を発揮する。
  論文  参考訳（メタデータ） (2021-12-10T17:25:14Z)
• High-probability Bounds for Non-Convex Stochastic Optimization with Heavy Tails [55.561406656549686]
  我々は、勾配推定が末尾を持つ可能性のある一階アルゴリズムを用いたヒルベルト非最適化を考える。 本研究では, 勾配, 運動量, 正規化勾配勾配の収束を高確率臨界点に収束させることと, 円滑な損失に対する最もよく知られた繰り返しを示す。
  論文  参考訳（メタデータ） (2021-06-28T00:17:01Z)
• Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
  順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。 近勾配法はOWL回帰を解くための標準手法として用いられる。 未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
  論文  参考訳（メタデータ） (2020-06-29T23:35:53Z)
• A termination criterion for stochastic gradient descent for binary classification [3.216356957608319]
  そこで本研究では, ステップサイズ勾配勾配定位のための新しい, 単純で, 安価に終了試験を提案する。 実験の終了回数が有限であることを示すとともに,データ中のノイズが大きすぎると,終了時の予測分類器が誤分類の確率を最小化することを示す。
  論文  参考訳（メタデータ） (2020-03-23T15:00:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。