論文の概要: Adaptive Iterative Hard Thresholding for Online High-dimensional Quantile Regression

• arxiv url: http://arxiv.org/abs/2606.28652v1
• Date: Fri, 26 Jun 2026 23:44:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.630935
• Title: Adaptive Iterative Hard Thresholding for Online High-dimensional Quantile Regression
• Title（参考訳）: オンライン高次元量子回帰に対する適応的反復型ハード閾値法
• Abstract要約: 本稿では,段階的な更新を適応的にスケジュールされたハードスレッディングステップに置き換えるオンラインスパース回帰フレームワークを提案する。 我々は高次元オンライン量子レグレッションの理論を開発する。
• 参考スコア（独自算出の注目度）: 1.0067421338825542
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Online high-dimensional regression requires algorithms that can update sequentially while preserving structural sparsity. We propose \textit{Adaptive Iterative Hard Thresholding (AIHT)}, an online sparse-regression framework that alternates stochastic subgradient updates with adaptively scheduled hard-thresholding steps. The key idea is to separate support discovery from local refinement: early in the learning process, AIHT delays thresholding so that weak but informative coordinates have time to accumulate signal, while later it increases the projection frequency to stabilize the sparse estimator and exploit local curvature. We develop the theory for high-dimensional online quantile regression, a challenging setting in which the loss is nonsmooth and the data may exhibit heterogeneity or heavy-tailed noise. Under restricted curvature and gradient-leakage conditions, AIHT remains in an inflated sparse cone, exhibits a two-phase convergence behavior, and attains logarithmic regret for the sliding-window objective. Simulations for online quantile regression, together with threshold-scheduling ablations, support the proposed mechanism and illustrate its advantage over standard online sparse-learning baselines.
• Abstract（参考訳）: オンラインの高次元回帰は、構造的間隔を保ちながら逐次更新できるアルゴリズムを必要とする。 本稿では,確率的下位更新と適応的にスケジュールされたハードスレッディングステップを交互に行うオンラインスパース回帰フレームワークである \textit{Adaptive Iterative Hard Thresholding (AIHT) を提案する。 学習プロセスの早い段階で、AIHTは閾値を遅らせ、弱いが情報的な座標が信号の蓄積に時間がかかるようにし、その後、プロジェクション周波数を高めてスパース推定器を安定化させ、局所曲率を利用する。 我々は高次元オンライン量子レグレッションの理論を開発し、損失が非滑らかであり、データが不均一性や重み付きノイズを示すという難題を解決した。 制限された曲率と勾配上昇条件下では、AIHTは膨らんだスパースコーンに留まり、二相収束挙動を示し、スライドウインドウの目的に対して対数後悔する。 オンライン量子レグレッションのシミュレーションは、しきい値スケジュールの短縮とともに、提案されたメカニズムをサポートし、標準のオンラインスパース学習ベースラインよりもその優位性を示す。

関連論文リスト

• Across the Loss Landscape with Progressive Growth [51.366966420881646]
  成長を漸進的緩和と見なして、より平坦な地域に向けての訓練戦略がいかに成長・最適化されるかを示す。 制御されたおもちゃの流域や現実的なResNet/CI-100環境でこれらの予測を実証的に検証する。 プログレッシブな部分空間成長は、より平坦な解を確実に生成するが、曲率の低減は、普遍的にテスト性能の向上に変換されず、平坦性一般化接続における微妙さを強調している。
  論文  参考訳（メタデータ） (2026-08-25T13:50:48Z)
• Online Learning with Gradient-Variation Interval Regret [54.59204826681113]
  そこで本研究では,勾配変動を伴う時間間隔のリフレッシュなスケーリングを実現するオンライン学習アルゴリズムを提案する。 提案手法では, よりシンプルで効率的な2層オンラインアンサンブル構造を用いて, 高い理論的保証を実現する。
  論文  参考訳（メタデータ） (2026-06-02T16:16:45Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• JAWS: Enhancing Long-term Rollout of Neural Operators via Spatially-Adaptive Jacobian Regularization [0.0]
  Jacobian-Adaptive Weighting for Stability (JAWS)は、これらの制限を軽減するために設計された確率的正規化戦略である。 空間的不確実性を伴う最大Aポストエリオーリ(MAP)推定として演算子学習をフレーミングすることにより、JAWSは局所的な物理的複雑さに基づいて正規化強度を動的に変調する。 実験により、この空間適応型プリコンディショナーが有効スペクトルプレコンディショナーとして機能し、高周波不安定性を扱う際のベースオペレータの負担を軽減することが示されている。
  論文  参考訳（メタデータ） (2026-03-04T06:15:09Z)
• When Learning Hurts: Fixed-Pole RNN for Real-Time Online Training [58.25341036646294]
  本研究では,再帰性極の学習がデータに有意な利点をもたらしない理由を解析的に検討し,実時間学習シナリオを実証的に提供する。 固定極ネットワークは、トレーニングの複雑さを低減し、オンラインリアルタイムタスクにより適していることを示す。
  論文  参考訳（メタデータ） (2026-02-25T00:15:13Z)
• Forecasting as Rendering: A 2D Gaussian Splatting Framework for Time Series Forecasting [79.37674445572462]
  時系列予測(TSF)は、周期内変動と周期間トレンドの複雑な絡み合いのため、依然として困難な問題である。 形状変化テンソルを静止画像として扱うと、トポロジカルミスマッチが発生する。 均一な固定サイズの表現に依存することは、モデリング能力を非効率に割り当てる。 TimeGSは、予測パラダイムをレグレッションから2D生成レンダリングに根本的にシフトする、新しいフレームワークである。
  論文  参考訳（メタデータ） (2026-02-10T14:13:36Z)
• LatentTrack: Sequential Weight Generation via Latent Filtering [0.0]
  LatentTrack(LT)は、非定常力学の下でのオンライン確率予測のためのシーケンシャルニューラルネットワークである。 LTは低次元潜在空間で因果ベイズフィルタを行い、軽量なハイパーネットワークを用いて各時間ステップで予測モデルパラメータを生成する。 LTは、ステートフルなシーケンシャルおよび静的不確実性認識ベースラインよりも低い負の対数や平均二乗誤差を一貫して校正した。
  論文  参考訳（メタデータ） (2026-01-31T02:22:59Z)
• Adaptive Benign Overfitting (ABO): Overparameterized RLS for Online Learning in Non-stationary Time-series [0.0]
  ABOは非常に正確で(ベースラインのカーネルメソッドと比較して)、20～40%のスピード改善を実現している。 結果は、安定したオンライン学習フレームワーク内で適応フィルタリング、カーネル近似、良性過剰適合をリンクする統一ビューを提供する。
  論文  参考訳（メタデータ） (2026-01-29T15:58:01Z)
• Trainability-Oriented Hybrid Quantum Regression via Geometric Preconditioning and Curriculum Optimization [0.6445605125467574]
  量子ニューラルネットワーク(QNN)は、科学的な機械学習への関心が高まっている。 レグレッション設定では、ノイズのある勾配の下でのトレーサビリティの制限や、不条件の最適化に悩まされることが多い。 本稿では、これらのボトルネックを軽減するために設計されたハイブリッド量子古典回帰フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-17T07:32:18Z)
• Gradient-Variation Online Learning under Generalized Smoothness [56.38427425920781]
  勾配変分オンライン学習は、オンライン関数の勾配の変化とともにスケールする後悔の保証を達成することを目的としている。 ニューラルネットワーク最適化における最近の取り組みは、一般化された滑らかさ条件を示唆し、滑らかさは勾配ノルムと相関する。 ゲームにおける高速収束と拡張逆最適化への応用について述べる。
  論文  参考訳（メタデータ） (2024-08-17T02:22:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。