論文の概要: Generalized Random Direction Newton Algorithms for Stochastic Optimization

• arxiv url: http://arxiv.org/abs/2602.19893v1
• Date: Mon, 23 Feb 2026 14:33:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-24 17:42:02.854808
• Title: Generalized Random Direction Newton Algorithms for Stochastic Optimization
• Title（参考訳）: 確率最適化のための一般化ランダム方向ニュートンアルゴリズム
• Authors: Soumen Pachal, Prashanth L. A., Shalabh Bhatnagar, Avinash Achar,
• Abstract要約: 我々は、ランダムな近似方向(RDSA)を用いて目的の一般化されたヘッセン推定器の族を示す。 より機能的な推定値を持つ推定器は低次推定バイアスを示すことを示す。 また、一般化ヘッセン推定器を組み込んだニュートン法について、数値的および非漸近収束解析を行う。
• 参考スコア（独自算出の注目度）: 10.325784284122124
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a family of generalized Hessian estimators of the objective using random direction stochastic approximation (RDSA) by utilizing only noisy function measurements. The form of each estimator and the order of the bias depend on the number of function measurements. In particular, we demonstrate that estimators with more function measurements exhibit lower-order estimation bias. We show the asymptotic unbiasedness of the estimators. We also perform asymptotic and non-asymptotic convergence analyses for stochastic Newton methods that incorporate our generalized Hessian estimators. Finally, we perform numerical experiments to validate our theoretical findings.
• Abstract（参考訳）: 雑音関数のみを用いてランダム方向確率近似(RDSA)を用いて目的の一般化されたヘッセン推定器群を提案する。 それぞれの推定器の形状とバイアスの順序は、関数の測定数に依存する。 特に,より機能的な推定値を持つ推定器は,低次推定バイアスを示すことを示した。 我々は推定者の漸近的不偏性を示す。 また、一般化されたヘッセン推定器を組み込んだ確率的ニュートン法に対して、漸近的および非漸近的収束解析を行う。 最後に,理論的な結果を検証するための数値実験を行った。

関連論文リスト

• Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
  共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。 共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
  論文  参考訳（メタデータ） (2025-11-23T00:50:33Z)
• On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
  既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。 本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
  論文  参考訳（メタデータ） (2025-10-22T18:25:43Z)
• A weak convergence approach to large deviations for stochastic approximations [0.9374652839580183]
  我々は、状態依存マルコフ雑音とステップサイズを減少させる一般近似に対する大きな偏差原理を証明した。 学習アルゴリズムの例としては、勾配降下、コントラスト分岐、ワン・ランダウアルゴリズムがある。
  論文  参考訳（メタデータ） (2025-02-04T17:50:30Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• Generalized Simultaneous Perturbation-based Gradient Search with Reduced Estimator Bias [7.372983005764439]
  本稿では,雑音関数測定を用いた一般化同時摂動探索(GSPGS)の家系について述べる。 各推定器に必要な関数の測定回数は、所望の精度のレベルによって導かれる。
  論文  参考訳（メタデータ） (2022-12-20T17:50:36Z)
• Tuning Stochastic Gradient Algorithms for Statistical Inference via Large-Sample Asymptotics [18.93569692490218]
  勾配アルゴリズムのチューニングは、一般化可能な理論ではなく、試行錯誤に基づくことが多い。 固定ステップの大きい平均化は、チューニングパラメータの選択に対して堅牢であることを示す。 我々は他の勾配モンテカルロアルゴリズムの体系的解析の基礎を築いた。
  論文  参考訳（メタデータ） (2022-07-25T17:58:09Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
  均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。 提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
  論文  参考訳（メタデータ） (2021-10-07T17:51:10Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Asymptotic Analysis of Sampling Estimators for Randomized Numerical Linear Algebra Algorithms [43.134933182911766]
  最小二乗問題に対するRandNLAサンプリング推定器の分布を導出する解析法を開発した。 AAMSE(Asymptotic Mean Squared Error)とEAMSE(Asymsymotic Mean Squared Error)に基づく最適なサンプリング確率の同定を行った。 提案手法は, サンプリングプロセスにおけるレバレッジの役割を明らかにするとともに, 実験により既存の手法よりも改善したことを示す。
  論文  参考訳（メタデータ） (2020-02-24T20:34:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。