論文の概要: Geometric Dyson Brownian Motions and the Free Log-Normal Limit for a Non-Square Product of Random Matrices
- arxiv url: http://arxiv.org/abs/2606.30831v1
- Date: Mon, 29 Jun 2026 19:01:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:18.988908
- Title: Geometric Dyson Brownian Motions and the Free Log-Normal Limit for a Non-Square Product of Random Matrices
- Title(参考訳): ランダム行列の非二乗積に対する幾何学的ダイソンブラウン運動と自由対数ノルマル極限
- Abstract要約: 非二乗ランダム行列の積の平方特異値スペクトルについて検討する。
まず、固定されたデータ点の個数$m$と、比例深さ幅$d,n$の制限を取り、結果の共分散固有値過程がダイソン・ブラウン運動の幾何版を満たすことを示す。
また, 制約スペクトル法則を用いて, 有限次元シミュレーションとの密接な一致を見いだし, おもちゃのランダムな回帰リスクを予測する。
- 参考スコア(独自算出の注目度): 11.32927490081994
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the squared singular value spectrum of a product of non-square random matrices, a setting that also corresponds to the feature covariance eigenvalues of a deep linear neural network at initialization. We first take a proportional depth-width $d,n$ limit with the number of data points $m$ held fixed, and show that the resulting covariance eigenvalue process satisfies a geometric version of Dyson Brownian motion. We then take a second, sequential mean-field limit corresponding to the scaling $dm/n\to\barτ$, and show that the limiting $T$-transform of the spectrum solves a Burgers equation. In the identity-start case this equation yields the free log-normal law, and the general limit is obtained by free multiplicative convolution with the free log-normal. We further obtain the free log-normal support formula, a fixed-point iteration for numerical evaluation, and a formal small-time Marchenko--Pastur approximation. We also use the limiting spectral law to predict a toy random-feature regression risk, finding close agreement with a finite-dimensional simulation.
- Abstract(参考訳): 非二乗確率行列の積の平方特異値スペクトルについて検討し、これは初期化時のディープ線形ニューラルネットワークの特徴共分散固有値に対応する設定である。
まず、固定されたデータ点の個数$m$と、比例深さ幅$d,n$の制限を取り、結果の共分散固有値過程がダイソン・ブラウン運動の幾何版を満たすことを示す。
次に、スケーリングの$dm/n\to\barτ$に対応する2番目の連続平均場極限をとり、スペクトルの制限である$T$-変換がバーガーズ方程式を解くことを示す。
アイデンティティスタートの場合、この方程式は自由対数正規法則となり、一般極限は自由対数正規法と自由乗法的畳み込みによって得られる。
さらに, 自由対数正規化支援式, 数値評価のための固定点反復法, フォーマルな小型マルテンコ-パストゥル近似を求める。
また, 制約スペクトル法則を用いて, 有限次元シミュレーションとの密接な一致を見いだし, おもちゃのランダムな回帰リスクを予測する。
関連論文リスト
- Orthogonal Polynomial Approximation for Matrix Log Normalization in Global Covariance Pooling [11.561251776738324]
Global Covariance Pooling (GCP)は、二階特徴統計をキャプチャすることでディープネットワークを改善し、特にきめ細かい認識に有効である。
鍵となる要素は、平均固有値事前正規化(英語版)であり、ログの特異点から離れた1付近のスペクトルを中心とし、閉じた形でlog(A)の特異部分を返すポスト補償(英語版)である。
論文 参考訳(メタデータ) (2026-08-19T15:17:46Z) - Exponential Reduction of Mesh Dependence in Quantum Estimation of Parabolic PDE Observables [3.3636842548621275]
線形および二次可観測物を推定し、測定前に回路内部に粗いキャンセリングを配置する量子PDEアルゴリズムを開発した。
また、1次元のエネルギー直交ダイアド中間点の詳細に基づく非フーリエ実現を与える。
論文 参考訳(メタデータ) (2026-07-20T16:09:24Z) - Near-Optimal Mode Scaling for Finite-Dimensional Boson Sampling via Lie-Algebraic Leakage Bounds [0.8594140167290097]
物質ベースのプラットフォーム上のボソンサンプリングは、有限次元局所ヒルベルト空間におけるボゾンモードの符号化を必要とする。
コンパクトリー群の既約表現に対する非相互作用サンプリングのための統一的なフレームワークを開発する。
我々は遷移行列のガウスモデルにおいて、そのスペクトルノルムが以前のスピンベースエミュレーションの$O(n)$最悪の場合よりも$tildeO(stn)$に集中していることを証明する。
論文 参考訳(メタデータ) (2026-07-13T15:36:29Z) - Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。
一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。
グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
論文 参考訳(メタデータ) (2026-02-26T15:27:53Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Theory of free fermions under random projective measurements [43.04146484262759]
本研究では,一次元自由フェルミオンを局所的占有数のランダム射影的測定対象とする解析的手法を開発した。
問題の有効場理論として非線形シグマモデル(NLSM)を導出する。
論文 参考訳(メタデータ) (2023-04-06T15:19:33Z) - Dimension free ridge regression [10.434481202633458]
我々は、リッジ回帰のバイアスとばらつきの観点から、すなわちデータ上のリッジ回帰を再考し、等価なシーケンスモデルのバイアスとばらつきの観点から、リッジ回帰のバイアスとばらつきを考察する。
新しい応用として、定期的に変化するスペクトルを持つヒルベルト共変量に対して、完全に明示的で鋭い尾根回帰特性を得る。
論文 参考訳(メタデータ) (2022-10-16T16:01:05Z) - Optimal Online Generalized Linear Regression with Stochastic Noise and
Its Application to Heteroscedastic Bandits [88.6139446295537]
一般化線形モデルの設定におけるオンライン一般化線形回帰の問題について検討する。
ラベルノイズに対処するため、古典的追従正規化リーダ(FTRL)アルゴリズムを鋭く解析する。
本稿では,FTRLに基づくアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-28T08:25:26Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。