論文の概要: Random Inverse Problems Over Graphs: Decentralized Online Learning
- arxiv url: http://arxiv.org/abs/2303.11789v4
- Date: Fri, 25 Aug 2023 09:35:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-28 23:35:15.010738
- Title: Random Inverse Problems Over Graphs: Decentralized Online Learning
- Title(参考訳): グラフ上のランダム逆問題:分散オンライン学習
- Authors: Tao Li and Xiwei Zhang
- Abstract要約: ネットワークグラフ上の分散ランダム逆問題とオンライン計測のフレームワークを構築した。
無限ヒルベルト空間におけるL2-漸近安定理論を開発する。
非定常および非独立オンラインデータに基づく分散オンライン学習アルゴリズムをRKHSで提案する。
- 参考スコア(独自算出の注目度): 5.397984841056114
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We establish a framework of distributed random inverse problems over network
graphs with online measurements, and propose a decentralized online learning
algorithm. This unifies the distributed parameter estimation in Hilbert spaces
and the least mean square problem in reproducing kernel Hilbert spaces
(RKHS-LMS). We transform the convergence of the algorithm into the asymptotic
stability of a class of inhomogeneous random difference equations in Hilbert
spaces with L2-bounded martingale difference terms and develop the L2
-asymptotic stability theory in Hilbert spaces. It is shown that if the network
graph is connected and the sequence of forward operators satisfies the
infinite-dimensional spatio-temporal persistence of excitation condition, then
the estimates of all nodes are mean square and almost surely strongly
consistent. Moreover, we propose a decentralized online learning algorithm in
RKHS based on non-stationary and non-independent online data streams, and prove
that the algorithm is mean square and almost surely strongly consistent if the
operators induced by the random input data satisfy the infinite-dimensional
spatio-temporal persistence of excitation condition.
- Abstract(参考訳): オンライン計測を用いたネットワークグラフ上の分散ランダム逆問題の枠組みを構築し,分散オンライン学習アルゴリズムを提案する。
これはヒルベルト空間における分散パラメータ推定と、再現されたカーネルヒルベルト空間(RKHS-LMS)における最小平均平方問題を統一する。
アルゴリズムの収束をl2境界のマルティンゲール差分項を持つヒルベルト空間における不均質なランダム差分方程式のクラスにおける漸近安定性に変換し、ヒルベルト空間におけるl2-漸近安定性理論を発展させる。
ネットワークグラフが連結され、フォワード作用素の列が励起条件の無限次元時空間持続性を満たすならば、全てのノードの見積もりは平均二乗であり、ほぼ確実に一致している。
さらに,非定常および非独立なオンラインデータストリームに基づくrkhsにおける分散オンライン学習アルゴリズムを提案し,ランダム入力データによって誘導される演算子が励起条件の無限次元時空間持続性を満たす場合,アルゴリズムが平均正方形かつほぼ確実に一貫性があることを証明した。
関連論文リスト
- Weighted mesh algorithms for general Markov decision processes: Convergence and tractability [0.9940462449990576]
離散時間有限水平マルコフ決定過程(MDP)に対するメッシュ型アプローチを提案する。
非有界な状態空間に対して、このアルゴリズムは、複雑性がある次元独立な$cgeq2$を持つ$epsilonc$であるという意味で「半有理」である。
論文 参考訳(メタデータ) (2024-06-29T10:08:23Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Convergence Conditions of Online Regularized Statistical Learning in Reproducing Kernel Hilbert Space With Non-Stationary Data [4.5692679976952215]
本研究では,HilbertRKHSにおける正規化学習アルゴリズムの収束性について検討した。
独立および非独立に分散したデータストリームに対して、アルゴリズムは平均二乗一貫性を達成する。
論文 参考訳(メタデータ) (2024-04-04T05:35:59Z) - Kullback-Leibler and Renyi divergences in reproducing kernel Hilbert
space and Gaussian process settings [0.0]
正規化Kullback-LeiblerとR'enyiの発散をAlpha Log-Det(Log-Det)発散により定式化する。
特徴的核について、最初の設定は、完全可分な距離空間上の任意のボレル確率測度の間の分岐をもたらす。
我々は、Alpha Log-Detの発散がヒルベルト-シュミットノルムにおいて連続であることを示し、ヒルベルト空間値の確率変数に対して大数の法則を適用することができる。
論文 参考訳(メタデータ) (2022-07-18T06:40:46Z) - Decentralized Online Regularized Learning Over Random Time-Varying Graphs [4.065547532041163]
ランダムな時間変化グラフを用いたオンライン正規化線形回帰アルゴリズムを開発した。
後悔の上限は$O(T1-tauln T)$であり、$tauin (0.5,1)$はアルゴリズムのゲインに依存する定数である。
さらに、後悔の上限は$O(T1-tauln T)$であり、$tauin (0.5,1)$はアルゴリズムのゲインに依存する定数であることを示す。
論文 参考訳(メタデータ) (2022-06-07T12:55:08Z) - First-Order Algorithms for Nonlinear Generalized Nash Equilibrium
Problems [88.58409977434269]
非線形一般化ナッシュ均衡問題(NGNEP)における平衡計算の問題を考える。
我々の貢献は、2次ペナルティ法と拡張ラグランジアン法に基づく2つの単純な一階アルゴリズムフレームワークを提供することである。
これらのアルゴリズムに対する漸近的理論的保証を提供する。
論文 参考訳(メタデータ) (2022-04-07T00:11:05Z) - Polynomial convergence of iterations of certain random operators in
Hilbert space [2.732936573198251]
本稿では,SGDアルゴリズムにインスパイアされた無限次元空間上の演算子の族におけるランダム反復列の収束について検討する。
収束率は初期状態に依存するが、ランダム性は最適定数係数の選択においてのみ役割を果たすことを示す。
論文 参考訳(メタデータ) (2022-02-04T17:48:29Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。