論文の概要: Learning and Concentration for High Dimensional Linear Gaussians: an Invariant Subspace Approach

• arxiv url: http://arxiv.org/abs/2304.01708v1
• Date: Tue, 4 Apr 2023 11:11:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-05 14:07:27.801769
• Title: Learning and Concentration for High Dimensional Linear Gaussians: an Invariant Subspace Approach
• Title（参考訳）: 高次元線形ガウスの学習と集中:不変部分空間によるアプローチ
• Authors: Muhammad Abdullah Naeem
• Abstract要約: 安定線形系の2つの時間的実現と等方的ガウス雑音の相関に関する非漸近境界について検討する。 本分析は,ランダム力学系における学習と集中の複雑さについて,まず解釈可能な幾何学的説明を提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we study non-asymptotic bounds on correlation between two time realizations of stable linear systems with isotropic Gaussian noise. Consequently, via sampling from a sub-trajectory and using \emph{Talagrands'} inequality, we show that empirical averages of reward concentrate around steady state (dynamical system mixes to when closed loop system is stable under linear feedback policy ) reward , with high-probability. As opposed to common belief of larger the spectral radius stronger the correlation between samples, \emph{large discrepancy between algebraic and geometric multiplicity of system eigenvalues leads to large invariant subspaces related to system-transition matrix}; once the system enters the large invariant subspace it will travel away from origin for a while before coming close to a unit ball centered at origin where an isotropic Gaussian noise can with high probability allow it to escape the current invariant subspace it resides in, leading to \emph{bottlenecks} between different invariant subspaces that span $\mathbb{R}^{n}$, to be precise : system initiated in a large invariant subspace will be stuck there for a long-time: log-linear in dimension of the invariant subspace and inversely to log of inverse of magnitude of the eigenvalue. In the problem of Ordinary Least Squares estimate of system transition matrix via a single trajectory, this phenomenon is even more evident if spectrum of transition matrix associated to large invariant subspace is explosive and small invariant subspaces correspond to stable eigenvalues. Our analysis provide first interpretable and geometric explanation into intricacies of learning and concentration for random dynamical systems on continuous, high dimensional state space; exposing us to surprises in high dimensions
• Abstract（参考訳）: 本研究では,安定線形系の2つの時間実現と等方性ガウス雑音との相関に関する非漸近境界について検討する。 その結果, 準軌道からのサンプリングと<emph{talagrands'}不等式を用いて, 定常状態(閉ループ系が線形フィードバックポリシーの下で安定しているときと力学系が混合する) を中心として, 経験平均の報酬が高確率で集中することを示した。 As opposed to common belief of larger the spectral radius stronger the correlation between samples, \emph{large discrepancy between algebraic and geometric multiplicity of system eigenvalues leads to large invariant subspaces related to system-transition matrix}; once the system enters the large invariant subspace it will travel away from origin for a while before coming close to a unit ball centered at origin where an isotropic Gaussian noise can with high probability allow it to escape the current invariant subspace it resides in, leading to \emph{bottlenecks} between different invariant subspaces that span $\mathbb{R}^{n}$, to be precise : system initiated in a large invariant subspace will be stuck there for a long-time: log-linear in dimension of the invariant subspace and inversely to log of inverse of magnitude of the eigenvalue. 単一軌跡によるシステム遷移行列の通常の最小二乗推定の問題において、大きな不変部分空間に関連する遷移行列のスペクトルが爆発的であり、小さな不変部分空間が安定した固有値に対応する場合、この現象はさらに明らかである。 本解析は,連続高次元状態空間におけるランダム力学系の学習と集中の複雑さについて,最初に解釈可能かつ幾何学的な説明を与える。

関連論文リスト

• Inferring Kernel $ε$-Machines: Discovering Structure in Complex Systems [49.1574468325115]
  本稿では,カーネル因果状態推定を縮小次元空間における座標の集合として符号化する因果拡散成分を提案する。 それぞれのコンポーネントがデータから予測機能を抽出し,そのアプリケーションを4つの例で示す。
  論文  参考訳（メタデータ） (2024-10-01T21:14:06Z)
• Exact dynamics of quantum dissipative $XX$ models: Wannier-Stark localization in the fragmented operator space [49.1574468325115]
  振動と非振動崩壊を分離する臨界散逸強度において例外的な点が見つかる。 また、演算子部分空間全体の単一減衰モードにつながる異なるタイプの散逸についても記述する。
  論文  参考訳（メタデータ） (2024-05-27T16:11:39Z)
• On the entanglement of co-ordinate and momentum degrees of freedom in noncommutative space [0.0]
  位相空間非可換性により引き起こされる量子絡み合いについて検討する。 座標の絡み合い特性と運動量自由度について検討した。 位相空間の非可換性を含むだけでは、絡み合いを生成するのに十分でないことを示す。
  論文  参考訳（メタデータ） (2024-01-05T18:43:47Z)
• From Spectral Theorem to Statistical Independence with Application to System Identification [11.98319841778396]
  状態遷移行列 $|Ak|$ の有限パワーの崩壊率に関する最初の定量的ハンドルを提供する。 安定な力学系が 1 つの異なる固有値と差分しか持たないとき、$n-1$:$|A|$ は $n$ に依存することが示されている。 要素的誤差は、本質的にはよく知られたリトルウッド・オフォード問題の変種であることを示す。
  論文  参考訳（メタデータ） (2023-10-16T15:40:43Z)
• Machine learning in and out of equilibrium [58.88325379746631]
  我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。 我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。 本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T09:12:49Z)
• Continuous percolation in a Hilbert space for a large system of qubits [58.720142291102135]
  パーコレーション遷移は無限クラスターの出現によって定義される。 ヒルベルト空間の指数的に増加する次元性は、有限サイズの超球面による被覆を非効率にすることを示す。 コンパクトな距離空間におけるパーコレーション遷移への我々のアプローチは、他の文脈での厳密な処理に有用である。
  論文  参考訳（メタデータ） (2022-10-15T13:53:21Z)
• Unified Fourier-based Kernel and Nonlinearity Design for Equivariant Networks on Homogeneous Spaces [52.424621227687894]
  等質空間上の群同変ネットワークに対する統一的枠組みを導入する。 昇降した特徴場のフーリエ係数の空間性を利用する。 安定化部分群におけるフーリエ係数としての特徴を取り扱う他の方法が、我々のアクティベーションの特別な場合であることを示す。
  論文  参考訳（メタデータ） (2022-06-16T17:59:01Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)
• Improved rates for prediction and identification of partially observed linear dynamical systems [4.68299658663016]
  部分的な観測から線形時間イン力学系の同定は制御理論の基本的な問題である。 本稿では,システム固有の$d$に依存する非漸近統計率でそのようなシステムを学習するアルゴリズムを提案する。 本アルゴリズムは,ハンケル行列に適用したマルチスケール低ランク近似SVDに基づく。
  論文  参考訳（メタデータ） (2020-11-19T18:04:18Z)
• Nonlinear entanglement growth in inhomogeneous spacetimes [0.0]
  エンターメントは、平衡内と外の両方で量子物質の特徴づけの中心となっている。 非相互作用フェルミオンの場合と、正確な数値解が可能である場合と、エルゴード系のパラダイムクラスを表すランダムなユニタリ回路について、絡み合いのダイナミクスについて検討する。
  論文  参考訳（メタデータ） (2020-06-01T08:58:26Z)
• Polynomially filtered exact diagonalization approach to many-body localization [0.0]
  大規模なスパース行列に対する多項式フィルタによる精密対角化法(POLFED)を導入する。 POLFEDのポテンシャルは、1次元相互作用する量子スピン-1/2鎖における多体スケーリング遷移を実証する。
  論文  参考訳（メタデータ） (2020-05-19T15:49:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。