論文の概要: Stochastic Trace Optimization of Parameter Dependent Matrices Based on Statistical Learning Theory

• arxiv url: http://arxiv.org/abs/2508.05764v1
• Date: Thu, 07 Aug 2025 18:23:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-11 20:39:05.977627
• Title: Stochastic Trace Optimization of Parameter Dependent Matrices Based on Statistical Learning Theory
• Title（参考訳）: 統計的学習理論に基づくパラメータ依存行列の確率的トレース最適化
• Authors: Arvind K. Saibaba, Ilse C. F. Ipsen,
• Abstract要約: すべての$boldsymbolthetainTheta$に対して$texttrace(boldsymboltheta)$を最小化するモンテカルロ推定器を提案する。 エプシロンネットとジェネリック連鎖に基づく2種類の境界を導出する。
• 参考スコア（独自算出の注目度）: 0.6445605125467574
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We consider matrices $\boldsymbol{A}(\boldsymbol\theta)\in\mathbb{R}^{m\times m}$ that depend, possibly nonlinearly, on a parameter $\boldsymbol\theta$ from a compact parameter space $\Theta$. We present a Monte Carlo estimator for minimizing $\text{trace}(\boldsymbol{A}(\boldsymbol\theta))$ over all $\boldsymbol\theta\in\Theta$, and determine the sampling amount so that the backward error of the estimator is bounded with high probability. We derive two types of bounds, based on epsilon nets and on generic chaining. Both types predict a small sampling amount for matrices $\boldsymbol{A}(\boldsymbol\theta)$ with small offdiagonal mass, and parameter spaces $\Theta$ of small ``size.'' Dependence on the matrix dimension~$m$ is only weak or not explicit. The bounds based on epsilon nets are easier to evaluate and come with fully specified constants. In contrast, the bounds based on chaining depend on the Talagrand functionals which are difficult to evaluate, except in very special cases. Comparisons between the two types of bounds are difficult, although the literature suggests that chaining bounds can be superior.
• Abstract（参考訳）: 行列 $\boldsymbol{A}(\boldsymbol\theta)\in\mathbb{R}^{m\times m}$ はコンパクトなパラメータ空間 $\Theta$ のパラメータ $\boldsymbol\theta$ に依存する。 我々は、すべての$\boldsymbol\theta\in\Theta$に対して$\text{trace}(\boldsymbol{A}(\boldsymbol\theta))$を最小化するためのモンテカルロ推定器を示し、その推定器の後方誤差が高い確率で有界となるようにサンプリング量を決定する。 エプシロンネットとジェネリック連鎖に基づく2種類の境界を導出する。 どちらの型も、小さな対角質量を持つ行列 $\boldsymbol{A}(\boldsymbol\theta)$ と小さな ``size のパラメータ空間 $\Theta$ の小さなサンプリング量を予測する。 '' 行列次元~$m$への依存は弱か明示的でないだけである。 エプシロンネットに基づく境界は評価しやすく、完全に指定された定数を持つ。 対照的に、連鎖に基づく境界は、非常に特殊な場合を除いて評価が難しいタラグランド汎函数に依存する。 2種類の境界の比較は難しいが、文献では鎖の境界の方が優れていることを示唆している。

関連論文リスト

• Optimal Sketching for Residual Error Estimation for Matrix and Vector Norms [50.15964512954274]
  線形スケッチを用いた行列とベクトルノルムの残差誤差推定問題について検討する。 これは、前作とほぼ同じスケッチサイズと精度で、経験的にかなり有利であることを示す。 また、スパースリカバリ問題に対して$Omega(k2/pn1-2/p)$低いバウンダリを示し、これは$mathrmpoly(log n)$ factorまで厳密である。
  論文  参考訳（メタデータ） (2024-08-16T02:33:07Z)
• Neural network learns low-dimensional polynomials with SGD near the information-theoretic limit [75.4661041626338]
  単一インデックス対象関数 $f_*(boldsymbolx) = textstylesigma_*left(langleboldsymbolx,boldsymbolthetarangleright)$ の勾配勾配勾配学習問題について検討する。 SGDに基づくアルゴリズムにより最適化された2層ニューラルネットワークは、情報指数に支配されない複雑さで$f_*$を学習する。
  論文  参考訳（メタデータ） (2024-06-03T17:56:58Z)
• Sparse Signal Detection in Heteroscedastic Gaussian Sequence Models: Sharp Minimax Rates [1.0309387309011746]
  スパースな代替品に対する信号検出問題を、既知のスパシティ$s$に対して検討する。 ミニマックス分離半径$epsilon*$の上の上限と下限を見つけ、それらが常に一致することを証明する。 以上の結果から,epsilon*$の挙動に関する新たな位相遷移が,Sigma$の疎度レベル,$Lt$メトリック,およびヘテロスセダサシティプロファイル(herescedasticity profile)に現れる。
  論文  参考訳（メタデータ） (2022-11-15T23:53:39Z)
• Optimal Query Complexities for Dynamic Trace Estimation [59.032228008383484]
  我々は,行列がゆっくりと変化している動的環境において,正確なトレース推定に必要な行列ベクトルクエリ数を最小化する問題を考える。 我々は、$delta$失敗確率で$epsilon$エラーまで、すべての$m$トレースを同時に推定する新しいバイナリツリー要約手順を提供する。 我々の下界(1)は、静的な設定においてもフロベニウスノルム誤差を持つ行列ベクトル積モデルにおけるハッチンソン推定子の第一の厳密な境界を与え、(2)動的トレース推定のための最初の無条件下界を与える。
  論文  参考訳（メタデータ） (2022-09-30T04:15:44Z)
• Spectral properties of sample covariance matrices arising from random matrices with independent non identically distributed columns [50.053491972003656]
  関数 $texttr(AR(z))$, for $R(z) = (frac1nXXT- zI_p)-1$ and $Ain mathcal M_p$ deterministic, have a standard deviation of order $O(|A|_* / sqrt n)$. ここでは、$|mathbb E[R(z)] - tilde R(z)|_F を示す。
  論文  参考訳（メタデータ） (2021-09-06T14:21:43Z)
• Thresholded Lasso Bandit [70.17389393497125]
  Thresholded Lasso banditは、報酬関数を定義するベクトルとスパースサポートを推定するアルゴリズムである。 一般には $mathcalO( log d + sqrtT )$ や $mathcalO( log d + sqrtT )$ としてスケールする非漸近的後悔の上界を確立する。
  論文  参考訳（メタデータ） (2020-10-22T19:14:37Z)
• Extensions to the Proximal Distance Method of Constrained Optimization [7.813460653362097]
  損失 $f(boldsymbolx)$ を S$ の $boldsymbolx の形に制約する問題について検討する。 融合制約は、滑らかさ、疎さ、あるいはより一般的な制約パターンをキャプチャすることができる。
  論文  参考訳（メタデータ） (2020-09-02T03:32:41Z)
• Optimal Combination of Linear and Spectral Estimators for Generalized Linear Models [59.015960528781115]
  最適に $hatboldsymbol xrm L$ と $hatboldsymbol xrm s$ を組み合わせる方法を示す。 我々は,$(boldsymbol x, hatboldsymbol xrm L, hatboldsymbol xrm s)$の制限分布を確立するために,Adroximate Message Passing (AMP)アルゴリズムの設計と解析を行う。
  論文  参考訳（メタデータ） (2020-08-07T18:20:05Z)
• On the robustness of the minimum $\ell_2$ interpolator [2.918940961856197]
  一般高次元線形回帰フレームワークにおいて最小$ell$-norm$hatbeta$で補間を解析する。 高い確率で、この推定器の予測損失は、上から$(|beta*|2r_cn(Sigma)vee |xi|2)/n$で有界であることを証明する。
  論文  参考訳（メタデータ） (2020-03-12T15:12:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。