Fugu-MT 論文翻訳(概要): Quantitative Gaussian-Process limits of Tensor Programs

論文の概要: Quantitative Gaussian-Process limits of Tensor Programs

arxiv url: http://arxiv.org/abs/2607.06290v1
Date: Tue, 07 Jul 2026 13:59:56 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-08 21:24:51.543026
Title: Quantitative Gaussian-Process limits of Tensor Programs
Title（参考訳）: テンソルプログラムの量的ガウス-プロス限界
Abstract要約: テンソルプログラムのレンズによるランダムニューラルネットワークの無限幅ガウス過程限界について検討する。我々の主な結果は、有限ネットワークの実行とガウス過程の制限の間の幅の逆2乗根の明示的な有限幅誤差境界を与える。
参考スコア（独自算出の注目度）: 3.441021278275805
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We study the infinite-width Gaussian-process limit of random neural networks through the lens of tensor programs, and we provide a quantitative convergence theory in Wasserstein distance. Our main result gives explicit finite-width error bounds, of order inverse square-root of the widths between finite-network executions and their Gaussian-process limits. The framework is architecture-agnostic and covers feed-forward models together with weight-sharing schemes relevant for recurrent and transformer-type architectures.
Abstract（参考訳）: テンソルプログラムのレンズによるランダムニューラルネットワークの無限幅ガウス過程限界について検討し、ワッサーシュタイン距離における定量的収束理論を提案する。我々の主な結果は、有限ネットワークの実行とガウス過程の制限の間の幅の逆2乗根の明示的な有限幅誤差境界を与える。このフレームワークはアーキテクチャに依存しず、フィードフォワードモデルとリカレントおよびトランスフォーマータイプのアーキテクチャに関連するウェイトシェアリングスキームをカバーしている。

関連論文リスト

How Deep Are Deep GPs, Really? A Sharp Threshold and a Non-Gaussian Limit for Compositional GPs [48.096969031315744]
以前の研究により、RBFカーネルと特定の帯域幅$r$に対して、前者は限界で縮退することがわかった。しきい値以下$r$の場合、r_c(d)$ は制限分布 $_barZ$ に収束する。
論文参考訳（メタデータ） (2026-06-06T15:12:43Z)
Generalization Bounds for Physics-Informed Neural Networks for the Incompressible Navier-Stokes Equations [42.57657519369106]
この研究は、ナヴィエ・ストークス方程式の解を近似する方法の一般化誤差に基づいて、厳密な上界を確立する。我々は、教師なし物理情報ニューラルネットワークフレームワークを用いて、深度2のニューラルネットワークを訓練した。提案する活性化関数と対応する境界を,Taylor-Green vortexベンチマークを解くPINNセットアップ上で実証検証する。
論文参考訳（メタデータ） (2026-03-24T11:08:34Z)
Quantitative convergence of trained single layer neural networks to Gaussian processes [3.441021278275805]
本研究では、勾配勾配から関連するガウス過程へ学習した浅層ニューラルネットワークの無限幅限界における定量的収束について検討する。ネットワーク出力とガウス近似の間の二次ワッサーシュタイン距離を任意のトレーニング時間で明示的な上界を与える。この結果は,幅や入力次元などのアーキテクチャパラメータや収束の影響,およびトレーニング力学が近似誤差にどのように影響するかを定量化する。
論文参考訳（メタデータ） (2025-09-29T09:59:27Z)
Infinite-Width Limit of a Single Attention Layer: Analysis via Tensor Programs [15.559242245579382]
本稿では,現実的なアーキテクチャ次元の下で,単一注意層内の変数の無限幅極限分布を同定する。この極限法則の正確な形を無限ヘッド近似や調整されたスケーリングに頼ることなく導き出す。我々の研究成果は、無限幅政権における深層トランスフォーマーアーキテクチャの統一理論開発の基礎となるものである。
論文参考訳（メタデータ） (2025-06-01T05:53:47Z)
Verification of Geometric Robustness of Neural Networks via Piecewise Linear Approximation and Lipschitz Optimisation [57.10353686244835]
我々は、回転、スケーリング、せん断、翻訳を含む入力画像の幾何学的変換に対するニューラルネットワークの検証の問題に対処する。提案手法は, 分枝・分枝リプシッツと組み合わせたサンプリングおよび線形近似を用いて, 画素値に対する楽音線形制約を求める。提案手法では,既存の手法よりも最大32%の検証ケースが解決されている。
論文参考訳（メタデータ） (2024-08-23T15:02:09Z)
Wide Deep Neural Networks with Gaussian Weights are Very Close to Gaussian Processes [1.0878040851638]
ネットワーク出力と対応するガウス近似との距離は、ネットワークの幅と逆向きにスケールし、中心極限定理によって提案されるネーブよりも高速な収束を示すことを示す。また、(有限)トレーニングセットで評価されたネットワーク出力の有界リプシッツ関数である場合、ネットワークの正確な後部分布の理論的近似を求めるために境界を適用した。
論文参考訳（メタデータ） (2023-12-18T22:29:40Z)
Posterior Inference on Shallow Infinitely Wide Bayesian Neural Networks under Weights with Unbounded Variance [1.5960546024967326]
1つの隠れた層を持つベイズニューラルネットワークの無限幅スケーリング限界は、ネットワーク重みが事前の分散に束縛されたガウス過程であることが知られている。 Nealの結果は、複数の隠蔽層を持つネットワークや、ガウスのプロセススケーリング制限を伴う畳み込みニューラルネットワークにまで拡張されている。我々の貢献は、条件付きガウス表現を用いて、後部推論の解釈可能かつ計算学的に効率的な手順であり、非ガウス系におけるトラクタブルな後部推論と不確実な定量化のためにガウス過程の機械をフル活用することができる。
論文参考訳（メタデータ） (2023-05-18T02:55:00Z)
Provable Lipschitz Certification for Generative Models [103.97252161103042]
生成モデルのリプシッツ定数を上界化するためのスケーラブルな手法を提案する。この集合をゾノトープを用いた層状凸近似により近似する。これにより、小さなネットワーク上で効率的かつ厳密なバウンダリを提供し、VAEおよびDCGANアーキテクチャ上の生成モデルにスケールすることができる。
論文参考訳（メタデータ） (2021-07-06T17:00:29Z)
Divergence Frontiers for Generative Models: Sample Complexity, Quantization Level, and Frontier Integral [58.434753643798224]
多様性フロンティアは生成モデルの評価フレームワークとして提案されている。分岐フロンティアのプラグイン推定器のサンプル複雑性の非漸近的境界を確立する。また,スムーズな分布推定器の統計的性能を調べることにより,分散フロンティアの枠組みも強化する。
論文参考訳（メタデータ） (2021-06-15T06:26:25Z)
Scaling limits of lattice quantum fields by wavelets [62.997667081978825]
再正規化群は格子体代数間の拡大写像の帰納的体系と見なされる。自由格子基底状態の帰納的極限が存在し、極限状態はよく知られた巨大連続体自由場にまで拡張されることを示す。
論文参考訳（メタデータ） (2020-10-21T16:30:06Z)
Asymptotics of Wide Convolutional Neural Networks [18.198962344790377]
スキップ接続を有する広帯域CNNおよびネットワークのスケーリング法則について検討する。有限幅モデルと無限幅モデルのパフォーマンス差は,モデル幅に対して一定の速度で消失することがわかった。
論文参考訳（メタデータ） (2020-08-19T21:22:19Z)
Local Propagation in Constraint-based Neural Network [77.37829055999238]
ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
論文参考訳（メタデータ） (2020-02-18T16:47:38Z)
Operator-algebraic renormalization and wavelets [62.997667081978825]
我々はウェーブレット理論を用いてハミルトン格子系のスケーリング極限として連続体自由場を構築する。格子観測可能な格子を、コンパクトに支持されたウェーブレットでスミアリングされた連続体と同定するスケーリング方程式により、正規化群ステップを決定する。
論文参考訳（メタデータ） (2020-02-04T18:04:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。