Fugu-MT 論文翻訳(概要): Randomized Kaczmarz with geometrically smoothed momentum

論文の概要: Randomized Kaczmarz with geometrically smoothed momentum

arxiv url: http://arxiv.org/abs/2401.09415v3
Date: Sat, 24 Aug 2024 15:05:08 GMT
ステータス: 処理完了
システム内更新日: 2024-08-28 00:36:11.251749
Title: Randomized Kaczmarz with geometrically smoothed momentum
Title（参考訳）: 幾何学的滑らかな運動量を持つランダム化カッツマルツ
Authors: Seth J. Alderman, Roan W. Luikart, Nicholas F. Marshall,
Abstract要約: ランダム化Kaczmarzアルゴリズムに幾何的に滑らかな運動量を加える効果について検討する。最小二乗損失を定義する行列の特異ベクトルの方向の予測誤差に関する結果を証明する。
参考スコア（独自算出の注目度）: 0.49157446832511503
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper studies the effect of adding geometrically smoothed momentum to the randomized Kaczmarz algorithm, which is an instance of stochastic gradient descent on a linear least squares loss function. We prove a result about the expected error in the direction of singular vectors of the matrix defining the least squares loss. We present several numerical examples illustrating the utility of our result and pose several questions.
Abstract（参考訳）: 本稿では, 線形最小二乗損失関数上の確率勾配勾配の例であるランダム化Kaczmarzアルゴリズムに幾何的に滑らかな運動量を加える効果について検討する。最小二乗損失を定義する行列の特異ベクトル方向の予測誤差に関する結果を証明する。結果の有用性を示す数値的な例をいくつか提示し,いくつかの疑問を呈する。

関連論文リスト

Nonparametric regression on random geometric graphs sampled from submanifolds [2.3326951882644553]
ランダムな基底展開により設計したベイズ以前の分布から生じる後部分布の頻繁な挙動を解析する。これらの手法の後方収縮速度は任意の正の滑らか度指数に対して最小値(対数係数まで)であることを示す。
論文参考訳（メタデータ） (2024-05-31T15:18:44Z)
Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文参考訳（メタデータ） (2023-11-08T15:17:13Z)
An evaluation framework for dimensionality reduction through sectional curvature [59.40521061783166]
本研究は,非教師付き次元減少性能指標を初めて導入することを目的としている。その実現可能性をテストするために、この測定基準は最もよく使われる次元削減アルゴリズムの性能を評価するために用いられている。新しいパラメータ化問題インスタンスジェネレータが関数ジェネレータの形式で構築されている。
論文参考訳（メタデータ） (2023-03-17T11:59:33Z)
High-dimensional analysis of double descent for linear regression with random projections [0.0]
ランダムな投影数が異なる線形回帰問題を考察し、固定された予測問題に対する二重降下曲線を確実に示す。まず、リッジ回帰推定器を考察し、非パラメトリック統計学の古典的概念を用いて先行結果を再解釈する。次に、最小ノルム最小二乗の一般化性能(バイアスと分散の観点から)の同値をランダムな射影に適合させ、二重降下現象の単純な表現を与える。
論文参考訳（メタデータ） (2023-03-02T15:58:09Z)
Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。この問題は楕円分布のペナルティ化された最大推定値として表される。楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文参考訳（メタデータ） (2022-10-21T13:19:45Z)
Learning Linear Models Using Distributed Iterative Hessian Sketching [4.567810220723372]
観測データから線形システムのマルコフパラメータを学習する問題を考察する。 Hessian-Sketchingに基づくランダムに分散されたニュートンアルゴリズムは、$epsilon$-optimal Solutionを生成可能であることを示す。
論文参考訳（メタデータ） (2021-12-08T04:07:23Z)
Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文参考訳（メタデータ） (2021-05-03T16:36:27Z)
Symmetric Boolean Factor Analysis with Applications to InstaHide [18.143740528953142]
InstaHideは、中程度に大規模なkに対する再構築攻撃に対して、ある種の「きめ細かいセキュリティ」を持っていることを示す。我々のアルゴリズムはテンソル分解に基づいており、m は r において少なくとも準線形である必要がある。この結果は、k-スパースベクトルの集合が任意に選択される問題の最悪のケース設定のための準ポリノミカル時間アルゴリズムで補完する。
論文参考訳（メタデータ） (2021-02-02T15:52:52Z)
Precise expressions for random projections: Low-rank approximation and randomized Newton [63.68433510953756]
マトリックススケッチは、そのような次元削減を非常に効率的に行うための強力な技術として登場した。本研究では,スケッチによって得られたランダムな投影行列の予測値に対して,確率的に正確な表現を提供する手法を開発した。これらの表現は、様々な機械学習タスクにおける次元削減のパフォーマンスを特徴付けるのに使うことができる。
論文参考訳（メタデータ） (2020-06-18T16:23:00Z)
Optimal Iterative Sketching with the Subsampled Randomized Hadamard Transform [64.90148466525754]
最小二乗問題に対する反復スケッチの性能について検討する。本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
論文参考訳（メタデータ） (2020-02-03T16:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。