論文の概要: Incremental Aggregation on the Grassmannian for Asynchronous Eigenspace Computation
- arxiv url: http://arxiv.org/abs/2608.04406v1
- Date: Wed, 05 Aug 2026 03:21:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.702268
- Title: Incremental Aggregation on the Grassmannian for Asynchronous Eigenspace Computation
- Title(参考訳): 非同期固有空間計算のためのグラスマン多様体上の増分集合
- Authors: Xiaolu Wang, Jiang Hu, Hoi-To Wai,
- Abstract要約: 異種分散システムにおける有限サム固有空間計算の非同期最適化について検討する。
到着したコンポーネントのみをリフレッシュし、キャッシュされた勾配を再利用するグラスマン増分集約法を提案する。
直列および分散PCA実験は, 試料効率の向上と, 代表ベースライン上の壁面収束を実証した。
- 参考スコア(独自算出の注目度): 37.26483427088676
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study asynchronous optimization for finite-sum eigenspace computation in heterogeneous distributed systems. The theoretical foundations for asynchronous eigenspace computation remain scarce, with existing approaches offering limited coverage of dynamics directly on the Grassmannian under stale information. In this paper, we propose a Grassmannian incremental aggregation method that refreshes only arriving components and reuses cached gradients, retaining low per-update cost without global synchronization. The method employs an extrinsic polar update that preserves the intrinsic subspace geometry without requiring parallel transport of stale tangent vectors. Our analysis establishes a tight angle-dependent gradient-dominance characterization of the objective and a basin-invariance property for stale aggregated updates. These yield two-phase linear convergence, comprising an explicit broad-basin regime and a sharper local regime, with constants controlled by component spectral spreads. Experiments on serial and distributed PCA demonstrate improved sample efficiency and wall-clock convergence over representative baselines.
- Abstract(参考訳): 異種分散システムにおける有限サム固有空間計算の非同期最適化について検討する。
非同期固有空間計算の理論的基礎は依然として乏しいままであり、既存のアプローチではグラスマン的情報の下では力学を直接カバーできる範囲が限られている。
本稿では,到着するコンポーネントのみをリフレッシュし,キャッシュされた勾配を再利用し,グローバル同期なしで更新コストを低く抑える,グラスマン漸進的な集約手法を提案する。
この方法は、スタイル接ベクトルの平行移動を必要とせず、内在的な部分空間幾何学を保存した外在極更新を用いる。
解析により, 目標値の厳密な角度依存性の勾配支配特性と, 安定な集約更新に対する盆地不変特性が確立された。
これらの2相線形収束は、明示的な広帯域規則とよりシャープな局所規則から構成され、成分スペクトルの拡散によって制御される定数を持つ。
直列および分散PCA実験は, 試料効率の向上と, 代表ベースライン上の壁面収束を実証した。
関連論文リスト
- K-space Gaussian Representation for Parallel MRI [17.6035099220156]
K-空間ガウス表現(KGR)は、ネイティブなk-空間領域で直接形式化された最初の明示的連続表現である。
KGRは、Gabor-Gaussianプリミティブを共有空間幾何学でパラメータ化し、コイル間の相関を自然に保存するコンパクトな表現を生成する。
これらの結果は、ネイティブk空間の明示的な連続パラメータ化が、構造的低ランク再構成と連続信号モデリングを統合するための原則的枠組みを提供することを示唆している。
論文 参考訳(メタデータ) (2026-07-29T13:12:59Z) - Nonlocal Bayesian Modeling of Continuous Spatio-Temporal Dynamics [9.926231893220061]
本研究では,非局所結合を学習し,抽出可能な推論を保ちながら,非局所結合を学習する連続時間場のための原理的非局所S-NLモデル(BST)を提案する。
NLBSTは座標ベースの空間基底展開を通して潜時場を表し、連続時間ODEで逐次過程をモデル化する。
線形Gssianau観測モデルでは,不規則かつ不規則な観測下でのカルマンシア式逐次スパルス更新が可能であり,空間基底表現では,再学習することなく非測定位置での帰納的予測が可能となる。
論文 参考訳(メタデータ) (2026-06-12T09:51:07Z) - Recovering Physical Dynamics from Discrete Observations via Intrinsic Differential Consistency [12.266189649117003]
我々は地域の監督をグローバルな構造的制約に置き換える。
この特性からの偏差が2つの目的に作用する時間条件のセカント速度場を訓練する。
トレーニング正則化器として、時間スケールで一貫して構成されるフローに仮説空間を限定する。
論文 参考訳(メタデータ) (2026-05-08T20:24:32Z) - Reversible Residual Normalization Alleviates Spatio-Temporal Distribution Shift [0.0]
本研究では,空間的,時間的両次元の分布シフトに対応するために,空間的に認識可能な可逆正規化を行うフレームワークであるReversible Residual Normalization (NRR)を提案する。
提案手法は,可逆的残差ブロック内にグラフ畳み込み操作を統合し,可逆性を維持しつつ,基礎となるグラフ構造を尊重する適応正規化を可能にする。
論文 参考訳(メタデータ) (2026-04-17T08:40:28Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Ringleader ASGD: The First Asynchronous SGD with Optimal Time Complexity under Data Heterogeneity [51.56484100374058]
本稿では,並列計算の理論的下界を実現する最初の非同期アルゴリズムであるリングリーダーASGDを紹介する。
我々の分析により、リングリーダーASGDは任意の勾配と時間変化速度の下で最適であることが明らかとなった。
論文 参考訳(メタデータ) (2025-09-26T19:19:15Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Spatio-Temporal Variational Gaussian Processes [26.60276485130467]
時空間フィルタリングと自然変動推論を組み合わせたガウス過程推論にスケーラブルなアプローチを導入する。
還元された誘導点集合上で状態空間モデルを構成するスパース近似を導出する。
分離可能なマルコフカーネルの場合、完全スパースケースは標準変分GPを正確に回復する。
論文 参考訳(メタデータ) (2021-11-02T16:53:31Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳(メタデータ) (2021-01-16T17:11:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。