論文の概要: Renewable Lasso without Batch-Number Constraints: A Gradient-Enhanced Approach

• arxiv url: http://arxiv.org/abs/2606.11738v1
• Date: Wed, 10 Jun 2026 07:15:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.336092
• Title: Renewable Lasso without Batch-Number Constraints: A Gradient-Enhanced Approach
• Title（参考訳）: Batch-Number制約のない再生可能なLasso: グラディエント・エンハンスなアプローチ
• Authors: Junzhuo Gao, Ling Peng, Xu Guo, Heng Lian,
• Abstract要約: ストリーミングデータを用いた高次元一般化線形モデルのオンライン推定について検討する。 非分散環境では,過去の要約のみを用いて累積損失を近似する代理損失を提案する。 次に、マスタ-クライアントアーキテクチャの下で分散ストリーミングデータにメソッドを拡張します。
• 参考スコア（独自算出の注目度）: 18.206702877104643
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study online estimation for high-dimensional generalized linear models with streaming data. First, for the non-distributed setting, we propose a gradient-enhanced surrogate loss that approximates the cumulative loss using only historical summaries, which modifies and improves upon the existing renewable estimation approach for the same model in the high-dimensional setting, and removes the batch-number constraint in previous studies. We then extend the method to distributed streaming data under the master-client architecture, where batches are partitioned across sites and only summaries (gradient vectors) are exchanged. Instead of directing applying the popular method of Jordan et al. (2019) to the surrogate quadratic loss, our adjusted approach does not require the clients to compute the full surrogate loss. We derive non-asymptotic error bounds under the high-dimensional scaling, without the stringent constraint on the number of batches in the previous studies. Simulation results under linear and logistic models, together with a real-data application, show improved accuracy over existing renewable estimators.
• Abstract（参考訳）: ストリーミングデータを用いた高次元一般化線形モデルのオンライン推定について検討する。 まず、非分散環境では、過去のサロゲート損失のみを用いて累積損失を近似する勾配強化サロゲート損失を提案し、これは、高次元環境で同じモデルに対する既存の再生可能推定手法を修正・改善し、過去の研究におけるバッチ数制約を除去する。 次に,本手法をマスタ-クライアントアーキテクチャの下で分散ストリーミングデータに拡張し,バッチをサイト間で分割し,要約(段階ベクトル)のみを交換する。 Jordan et al (2019) の一般的な手法を二次的損失に適応させる代わりに、我々の調整されたアプローチでは、クライアントが完全な二次的損失を計算する必要はない。 先行研究におけるバッチ数に対する制約を伴わずに,高次元スケーリングの下での非漸近誤差境界を導出する。 線形およびロジスティックモデルに基づくシミュレーションの結果は、実データアプリケーションとともに、既存の再生可能推定器よりも精度が向上したことを示している。

関連論文リスト

• Joint Model and Data Sparsification via the Marginal Likelihood [53.29070892356214]
  本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。 このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。 多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
  論文  参考訳（メタデータ） (2026-05-28T13:26:53Z)
• Total Robustness in Bayesian Nonlinear Regression for Measurement Error Problems under Model Misspecification [7.233732121762458]
  一般非線形回帰における3つの課題すべてに対処する完全ロバスト性をターゲットにした最初のベイズ的非パラメトリックフレームワークを提案する。 シミュレーションと実世界の2つの研究では、推定誤差の低減と、誤特定に対する推定感度の低減が示されている。 したがって、このフレームワークは、データとモデルが共同で不完全である場合に、信頼できる回帰のための実用的で解釈可能なパラダイムを提供する。
  論文  参考訳（メタデータ） (2025-10-03T15:58:40Z)
• Heterogeneous Self-Supervised Acoustic Pre-Training with Local Constraints [64.15709757611369]
  異種データを扱うための自己教師付き事前学習手法を提案する。 提案手法は、下流の教師付き微調整タスクに対する自己教師付き事前訓練モデルの適応性を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2025-08-27T15:48:50Z)
• Optimal lower bounds for logistic log-likelihoods [1.3124513975412255]
  ロジット変換は、おそらく線形設定を超えて最も広く採用されているリンク関数である。 2次よりも鋭い接する下界が、結果として生じるマイノライザーのトラクタビリティを損なうことなく導出できるかどうかはまだ分かっていない。 本稿は、新しい2次下界の設計と研究を通じて、このような挑戦的な問題に対処する。
  論文  参考訳（メタデータ） (2024-10-14T09:09:33Z)
• Online Tensor Inference [0.0]
  従来のオフライン学習は、各計算繰り返しにおける全てのデータの保存と利用を伴い、高次元テンソルデータには実用的ではない。 既存の低ランクテンソル法は、オンラインの方法での統計的推論能力に欠ける。 本手法では,広範囲なメモリ要求を伴わずに効率的なリアルタイムデータ処理を実現するため,グラディエント・Descent (SGD) を用いる。
  論文  参考訳（メタデータ） (2023-12-28T16:37:48Z)
• Consensus-Adaptive RANSAC [104.87576373187426]
  本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。 注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
  論文  参考訳（メタデータ） (2023-07-26T08:25:46Z)
• Refining Amortized Posterior Approximations using Gradient-Based Summary Statistics [0.9176056742068814]
  逆問題の文脈における後部分布の補正近似を改善するための反復的枠組みを提案する。 そこで我々は,本手法をスタイリング問題に適用して制御条件で検証し,改良された後部近似を各繰り返しで観察する。
  論文  参考訳（メタデータ） (2023-05-15T15:47:19Z)
• Deep Equilibrium Optical Flow Estimation [80.80992684796566]
  最近のSOTA(State-of-the-art)光フローモデルでは、従来のアルゴリズムをエミュレートするために有限ステップの更新操作を使用する。 これらのRNNは大きな計算とメモリオーバーヘッドを課し、そのような安定した推定をモデル化するために直接訓練されていない。 暗黙的層の無限レベル固定点として直接流れを解く手法として,Deep equilibrium Flow estimatorを提案する。
  論文  参考訳（メタデータ） (2022-04-18T17:53:44Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。