論文の概要: Cross-validation for change-point regression: pitfalls and solutions
- arxiv url: http://arxiv.org/abs/2112.03220v2
- Date: Thu, 25 May 2023 14:43:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-27 00:34:40.791363
- Title: Cross-validation for change-point regression: pitfalls and solutions
- Title（参考訳）: 変化点回帰のためのクロスバリデーション:落とし穴と解決策
- Authors: Florian Pein and Rajen D. Shah
- Abstract要約: その結果,2乗誤差損失を伴うクロスバリデーションの問題はより深刻であり,変更点数の体系的過小評価や過大評価につながる可能性が示唆された。
本稿では,これらの問題を解決するための2つの簡単なアプローチを提案する。
これらの条件は,不正確な変更点数で供給された場合,その性能に関する新たな結果を用いて最適分割を満足することを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Cross-validation is the standard approach for tuning parameter selection in
many non-parametric regression problems. However its use is less common in
change-point regression, perhaps as its prediction error-based criterion may
appear to permit small spurious changes and hence be less well-suited to
estimation of the number and location of change-points. We show that in fact
the problems of cross-validation with squared error loss are more severe and
can lead to systematic under- or over-estimation of the number of
change-points, and highly suboptimal estimation of the mean function in simple
settings where changes are easily detectable. We propose two simple approaches
to remedy these issues, the first involving the use of absolute error rather
than squared error loss, and the second involving modifying the holdout sets
used. For the latter, we provide conditions that permit consistent estimation
of the number of change-points for a general change-point estimation procedure.
We show these conditions are satisfied for optimal partitioning using new
results on its performance when supplied with the incorrect number of
change-points. Numerical experiments show that the absolute error approach in
particular is competitive with common change-point methods using classical
tuning parameter choices when error distributions are well-specified, but can
substantially outperform these in misspecified models. An implementation of our
methodology is available in the R package crossvalidationCP on CRAN.
- Abstract（参考訳）: クロスバリデーションは、多くの非パラメトリック回帰問題においてパラメータ選択をチューニングするための標準的なアプローチである。
しかし、その使用は変化点回帰においてあまり一般的ではなく、おそらくその予測誤差に基づく基準は小さな急激な変化を許容し、したがって変化点の数と位置を推定するのに適さないと考えられる。
実際、二乗誤差損失を伴うクロスバリデーションの問題はより厳格であり、変更点数を体系的に過小評価し、変更が容易に検出できる単純な設定で平均関数を高最適に推定する可能性がある。
本稿では,2つの簡単な方法を提案する。まず,2乗誤差損失よりも絶対誤差を用いること,そして2つは,使用したホールドアウトセットを変更することである。
後者の場合、一般的な変更点推定手順に対して、変更点数の一貫した推定を可能にする条件を提供する。
これらの条件は,不正確な変更点数を付与した場合,その性能に関する新たな結果を用いて,最適分割に満足することを示す。
数値実験により、特に絶対誤差法は、誤差分布が適切に特定されている場合の古典的チューニングパラメータ選択を用いた共通変化点法と競合するが、これらを不特定モデルで大幅に上回ることを示す。
提案手法の実装は,CRAN上のRパッケージクロスバリデーションCPで利用可能である。
関連論文リスト
- Pathwise Gradient Variance Reduction with Control Variates in Variational Inference [2.1638817206926855]
ベイズ深層学習における変分推論は、閉形式解を持たない予想の勾配を計算することを伴うことが多い。
これらの場合、パスワイズとスコア関数勾配推定器が最も一般的なアプローチである。
最近の研究は、経路勾配推定器でさえ分散還元の恩恵を受けることを示唆している。
論文 参考訳（メタデータ） (2024-10-08T07:28:46Z) - Conformal Prediction via Regression-as-Classification [15.746085775084238]
回帰を分類問題に変換し、分類にCPを用いて回帰のCP集合を得る。
多くのベンチマークにおける実証的な結果は、この単純なアプローチが、多くの実践的な問題に対して驚くほど良い結果をもたらすことを示している。
論文 参考訳（メタデータ） (2024-04-12T00:21:30Z) - Stability-Adjusted Cross-Validation for Sparse Linear Regression [5.156484100374059]
k倍のクロスバリデーションのようなクロスバリデーション技術はスパース回帰の計算コストを大幅に増大させる。
クロスバリデーションメトリックの重み付け和とモデルの出力安定性を最小化するハイパーパラメータの選択を提案する。
我々の信頼度調整手順は、13の実世界のデータセット上で、テストセットエラーを平均で2%削減する。
論文 参考訳（メタデータ） (2023-06-26T17:02:45Z) - E-detectors: a nonparametric framework for sequential change detection [86.15115654324488]
逐次的変化検出のための基本的かつ汎用的なフレームワークを開発する。
私たちの手順は、平均走行距離のクリーンで無症状な境界が伴います。
統計的および計算効率の両方を達成するために,これらの混合物を設計する方法を示す。
論文 参考訳（メタデータ） (2022-03-07T17:25:02Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳（メタデータ） (2021-07-05T21:05:11Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳（メタデータ） (2021-04-11T09:50:24Z) - Calibrated Adaptive Probabilistic ODE Solvers [31.442275669185626]
不確実性の推定を校正するいくつかの確率的動機づけのある方法を紹介し,議論し,評価する。
本手法は,従来の4/5 runge-kutta法に対してベンチマークを行い,その効率性を示す。
論文 参考訳（メタデータ） (2020-12-15T10:48:55Z) - Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。
本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。
実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
論文 参考訳（メタデータ） (2020-07-20T12:07:48Z) - Calibration of Neural Networks using Splines [51.42640515410253]
キャリブレーション誤差の測定は、2つの経験的分布を比較します。
古典的コルモゴロフ・スミルノフ統計テスト(KS)にインスパイアされたビンニングフリーキャリブレーション尺度を導入する。
提案手法は,KS誤差に対する既存の手法と,他の一般的なキャリブレーション手法とを一貫して比較する。
論文 参考訳（メタデータ） (2020-06-23T07:18:05Z) - Online detection of local abrupt changes in high-dimensional Gaussian
graphical models [13.554038901140949]
高次元ガウス図形モデル(GGM)における変化点をオンライン手法で同定する問題は、生物学、経済学、社会科学に新たな応用が加えられたため、興味深い。
我々は、この問題に対処する新しいテストを開発する。これは、入力データの適切な選択された部分の正規化共分散行列の$ell_infty$ノルムに基づいている。
論文 参考訳（メタデータ） (2020-03-16T00:41:34Z) - Optimal Change-Point Detection with Training Sequences in the Large and
Moderate Deviations Regimes [72.68201611113673]
本稿では,情報理論の観点から,新しいオフライン変化点検出問題について検討する。
基礎となる事前および変更後分布の知識は分かっておらず、利用可能なトレーニングシーケンスからのみ学習できると仮定する。
論文 参考訳（メタデータ） (2020-03-13T23:39:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。