論文の概要: Stochastic global optimization of continuous functions via random walks on Grassmannians
- arxiv url: http://arxiv.org/abs/2605.14151v1
- Date: Wed, 13 May 2026 22:06:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 02:55:42.920368
- Title: Stochastic global optimization of continuous functions via random walks on Grassmannians
- Title(参考訳): グラスマン多様体上のランダムウォークによる連続関数の確率的大域的最適化
- Authors: Kartik Gupta, Stephen D. Miller, Pradeep Ravikumar, Ramarathnam Venkatesan,
- Abstract要約: グラスマン多様体上のランダムウォークに基づく大域的最適化手法を提案する。
この方法は、ランダムな$k$次元の線形部分空間を繰り返しサンプリングする。
我々は、反復が世界最小値に近づく速度を制御するギャップパラメータを同定する。
- 参考スコア(独自算出の注目度): 19.659410865201384
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a stochastic global optimization method based on random walks on Grassmannian manifolds. To minimize a continuous objective $\ell:\mathbb{R}^d\rightarrow\mathbb{R}$, the method repeatedly samples random $k$-dimensional linear subspaces (with $k\ll d$), solves the resulting low-dimensional restrictions of these problems to these subspaces using an arbitrary black-box optimizer, and updates the iterate (which monotonically improves upon the previous iterate). Unlike classical optimization analyses that rely on convexity, smoothness, Lipschitz bounds, or Polyak-Lojasiewicz-type conditions, our convergence guarantees depend only on the geometric distribution of restricted minima across the $k$-dimensional subspaces passing through a given point in $\mathbb{R}^d$. We identify a gap parameter -- an analogue of a spectral gap for random walks -- that controls the rate at which the iterates approach the global minimum value. Finally, we argue that the same analysis yields a blind-spot robustness property: sufficiently narrow, deep dips of the loss function (small-measure regions where $\ell$ spikes downward) have limited influence on the algorithm's trajectory, since they are unlikely to be encountered by random subspace sampling.
- Abstract(参考訳): グラスマン多様体上のランダムウォークに基づく確率的大域最適化手法を提案する。
連続対象 $\ell:\mathbb{R}^d\rightarrow\mathbb{R}$ を最小化するために、このメソッドはランダム$k$-次元線型部分空間($k\ll d$)を繰り返しサンプリングし、任意のブラックボックスオプティマイザを用いてこれらの問題の低次元の制約をこれらの部分空間に解決し、イテレートを更新する(これは以前のイテレートで単調に改善する)。
凸性、滑らか性、リプシッツ境界、あるいはポリャク・ロジャシエヴィチ型条件に依存する古典的な最適化解析とは異なり、収束保証は$k$次元部分空間の制限されたミニマの幾何学的分布にのみ依存する。
ランダムウォークのスペクトルギャップのアナログであるギャップパラメータを同定し、反復が世界最小値に近づく速度を制御する。
損失関数の十分に狭く深いディップ($$\ell$スパイクが下向きにある小さな測度領域)は、ランダムな部分空間サンプリングで遭遇する可能性が低いため、アルゴリズムの軌道に限られた影響を与える。
関連論文リスト
- Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic
Shortest Path [80.60592344361073]
線形混合遷移カーネルを用いた最短経路(SSP)問題について検討する。
エージェントは繰り返し環境と対話し、累積コストを最小化しながら特定の目標状態に到達する。
既存の作業は、イテレーションコスト関数の厳密な下限や、最適ポリシーに対する期待長の上限を仮定することが多い。
論文 参考訳(メタデータ) (2024-02-14T07:52:00Z) - Optimal and instance-dependent guarantees for Markovian linear stochastic approximation [47.912511426974376]
標準スキームの最後の繰り返しの2乗誤差に対して、$t_mathrmmix tfracdn$の非漸近境界を示す。
マルコフ雑音による政策評価について,これらの結果のまとめを導出する。
論文 参考訳(メタデータ) (2021-12-23T18:47:50Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Unified Convergence Analysis for Adaptive Optimization with Moving Average Estimator [75.05106948314956]
1次モーメントに対する大きな運動量パラメータの増大は適応的スケーリングに十分であることを示す。
また,段階的に減少するステップサイズに応じて,段階的に運動量を増加させるための洞察を与える。
論文 参考訳(メタデータ) (2021-04-30T08:50:24Z) - Last iterate convergence of SGD for Least-Squares in the Interpolation
regime [19.05750582096579]
基本最小二乗構成におけるノイズレスモデルについて検討する。
最適予測器が完全に入力に適合すると仮定し、$langletheta_*, phi(X) rangle = Y$, ここで$phi(X)$は無限次元の非線型特徴写像を表す。
論文 参考訳(メタデータ) (2021-02-05T14:02:20Z) - Tight Nonparametric Convergence Rates for Stochastic Gradient Descent
under the Noiseless Linear Model [0.0]
このモデルに基づく最小二乗リスクに対する1パス, 固定段差勾配勾配の収束度を解析した。
特殊な場合として、ランダムなサンプリング点における値のノイズのない観測から単位区間上の実関数を推定するオンラインアルゴリズムを解析する。
論文 参考訳(メタデータ) (2020-06-15T08:25:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。