論文の概要: Sparse Regression Distilled from a Single Robust Fit

• arxiv url: http://arxiv.org/abs/2609.23937v1
• Date: Sun, 20 Sep 2026 23:30:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:01.02837
• Title: Sparse Regression Distilled from a Single Robust Fit
• Title（参考訳）: 単一ロバストシートから蒸留したスパース回帰
• Abstract要約: ロバストな線形フィットは反応の汚染に抵抗するが、有用なグローバルな説明には密度が高すぎるか不安定である。 本研究では, 円滑に切断された絶対偏差 (SCAD) 推定器を, 剛性な初期推定器の吸入面に適合させるペナルト蒸留法を提案する。 本研究は, 予知型トレーニング応答シフト下において, 蒸留式推定器は予測的に安定でありながら, 81斜面の66.8-68.8を維持していることを示す。
• 参考スコア（独自算出の注目度）: 1.8047694351309203
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Robust linear fits can resist response contamination yet remain too dense or unstable for useful global explanations. We propose penalized distillation, which fits a smoothly clipped absolute deviation (SCAD) estimator to a robust initial estimator's empirical fitted surface along a safeguarded coordinate-descent path and evaluates candidate states separately for fidelity, parsimony, perturbation stability, and held-out prediction. The new results attach to the states the algorithm actually computes. Conditional on a fixed uncontaminated design, deterministic bounds transfer response-replacement boundedness from the initial fit to every retained path state. Turning to fixed dimension, we characterize the oracle-support branch by its empirical-Gram projection and influence function, give conditions for covariance-weighted least-squares approximation equivalence, and establish a path-conditional generalized information criterion. By contrast, at large dimension-to-sample ratios the full-coordinate robust fit collapses without warning, and screening restores the construction. Under a sure-screening framework, the robustness bound and the support and selection guarantees transfer to the screened fit. Simulations separate robustness transfer from support recovery, efficiency, and computation across the dimension-to-sample ratio, with p up to 240, and the signal density, which isolates what the sparse stage adds once the screen over-selects. In a duplicate-grouped superconductivity study, the distilled estimator remains predictively stable under prespecified training-response shifts but retains 66.8--68.8 of 81 slopes. Stronger sparsification reduces the model to 12.6--14.0 slopes only at visible fidelity and prediction cost. Distillation therefore preserves predictive stability on these data without substantiating a compact coordinate-level explanation.
• Abstract（参考訳）: ロバストな線形フィットは反応の汚染に抵抗するが、有用なグローバルな説明には密度が高すぎるか不安定である。 本研究では, 安定度, パーシモニー, 摂動安定性, 保留状態の予測を別々に評価し, 円滑に切断された絶対偏差(SCAD)推定器を, 安定度, 安定度, 安定度, 保留状態の予測に適合するペナル化蒸留法を提案する。 新しい結果は、アルゴリズムが実際に計算する状態に付着する。 固定された未汚染設計を条件として、決定論的境界は、初期適合状態から保持された全てのパス状態への遷移応答-置換境界性である。 固定次元に転換し、経験的-グラム射影と影響関数によりオラクル支持分岐を特徴づけ、共分散重み付き最小二乗近似同値条件を与え、経路条件の一般化情報基準を確立する。 対照的に、大きな寸法とサンプルの比では、完全なコーディネートな整合性崩壊を警告なしで防止し、構造を復元する。 確実なスクリーニングフレームワークでは、堅牢性とサポートと選択によって、スクリーン化された適合への転送が保証される。 シミュレーションは、画面がオーバー選択されるとスパースステージが付加するものを分離する信号密度と、ディメンション・トゥ・サンプル比の最大240で、サポートリカバリ、効率、および計算から、ロバスト性転送を分離する。 重複群超伝導研究において、蒸留した推定器は、事前のトレーニング応答シフトの下で予測的に安定であるが、81の斜面の66.8-68.8を維持している。より強いスパシフィケーションにより、可視光度と予測コストでのみ12.6-14.0の斜面に縮退する。 したがって蒸留は、コンパクトな座標レベルの説明を裏付けることなく、これらのデータの予測安定性を維持する。

関連論文リスト

• Settling: Equilibrium Inference for Non-Convex Validity Sets [0.45687771576879593]
  正方形損失の下では、曖昧な条件分布は、無効な単一点推定を持つことができる。 本研究では,この故障を条件付き平均崩壊として定式化し,提案生成と整合性評価,テスト時間選択を分離した平衡演算子であるSetlingを導入する。
  論文  参考訳（メタデータ） (2026-09-09T03:57:24Z)
• Certified Safety Radii in Forecast-Error Space for Wasserstein Distributionally Robust Small Signal Stability-Constrained AC Optimal Power Flow via Lifted Spectrahedral Containment [9.61501006779767]
  我々は、交流最適潮流における小信号安定性を強固にするための代替的幾何を利用する。 我々は、元の不確実性空間および持ち上げ空間においてサンプルワイド安全な半径を認証し、対応する不確実性球のパワーフロー画像全体が凸安定領域に含まれることを確認した。 結果の変数は、経験的なサンプルから失敗までの距離の下位境界として認定され、したがってワッサーシュタイン分布制約の距離に基づく再構成に直接結合することができる。
  論文  参考訳（メタデータ） (2026-08-31T03:32:04Z)
• Distributionally Faithful Imputation via Positive Semi-Definite Kernel Density Estimation [55.47411235954028]
  マスク観測による密度推定では,不規則に不規則に不規則な計算を行う。 我々は,ニュートン内点法で解ける閉じた形状の辺縁を持つ凸型経験的リスク問題を得る。 結果のPSDインプットモデルでは、同一の入射密度から単一および多重インプットが得られる。
  論文  参考訳（メタデータ） (2026-07-08T15:51:05Z)
• Stability Annealing Selects the Implicit Bias of Smoothed Sign Descent: A Rate-Indexed Barrier Path on Separable Data [3.7437735326653883]
  本稿では,分離可能なデータに対する完全バッチ線形分類における速度制御中間事例について検討する。 指数損失を重み付けしたメモリレス安定アニール型スムーズドサイン降下に対して, 正規化繰り返しは, 凸バーグ型バリアの最小化に収束することが証明された。
  論文  参考訳（メタデータ） (2026-07-07T08:55:35Z)
• ARC: Adaptive Robust Joint State and Covariance Estimation [42.045109659898465]
  センサの測定は、外れ値と非ガウスノイズによって頻繁に破壊される。 センサデータのこれらの不完全性は、古典的状態推定器がバイアス付きで信頼性の低い状態と不確実性の推定を発生させる可能性がある。 本稿では,標準対応型適応ロバスト損失と反復重み付けされたLast-Squares状態更新を組み合わせたBlock-Coordinate Descentフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-18T16:09:50Z)
• Efficient Inference after Directionally Stable Adaptive Experiments [47.32051320630248]
  本稿では,帯域幅などの適応データ収集後の経路微分可能な対象の推測について検討する。 本稿では,従来の目標パラメトリック安定性条件よりも厳格に弱い,新たな目標固有条件である指向性安定性を導入する。
  論文  参考訳（メタデータ） (2026-02-25T01:09:18Z)
• Calibrated Decomposition of Aleatoric and Epistemic Uncertainty in Deep Features for Inference-Time Adaptation [3.018583625592182]
  ほとんどの推定器は、全ての不確実性モードを単一の信頼スコアに分解し、いつより多くの計算を割り当てるか、あるいは推論を調整するべきかについての信頼性の高い推論を防ぐ。 非確実性誘導推論時間選択(Uncertainty-Guided Inference-Time Selection)は,データ駆動型(データ駆動型)とモデル駆動型不確実性を,深い特徴空間で直接的に解消する軽量な推論時間フレームワークである。
  論文  参考訳（メタデータ） (2025-11-15T23:47:30Z)
• Convergence and Generalization of Anti-Regularization for Parametric Models [0.0]
  反正則化は損失関数に逆符号を持つ報酬項を導入する。 スペクトル安全性条件と信頼領域制約を定式化する。 我々は、プロジェクション演算子と勾配クリッピングを組み合わせた軽量な安全ガードを設計し、安定した介入を保証する。
  論文  参考訳（メタデータ） (2025-08-24T15:34:17Z)
• Target Networks and Over-parameterization Stabilize Off-policy Bootstrapping with Function Approximation [46.48569176651487]
  オフ・プライシ・データにおいても,ブートストラップ値推定の収束条件が弱くなることを証明する。 計算結果をトラジェクトリによる学習に拡張し、小さな修正を施した全てのタスクに対して収束が達成可能であることを示す。
  論文  参考訳（メタデータ） (2024-05-31T17:36:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。