論文の概要: Holographic functions and neural networks
- arxiv url: http://arxiv.org/abs/2605.22666v1
- Date: Thu, 21 May 2026 16:08:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.339467
- Title: Holographic functions and neural networks
- Title(参考訳): ホログラフィー機能とニューラルネットワーク
- Authors: Balazs Szegedy,
- Abstract要約: ファジィブール関数は写像 $f:cubento [0,1]$ であり、$ninmathbb N$ である。
そのような関数が有界であるという3つの言い方を紹介し比較する。
ホログラフィーから構造への含意は、ハイパーグラフ正則性の弱いバージョンの変種を用いる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A fuzzy Boolean function is a map $f:\cube^n\to [0,1]$, where $n\in\mathbb N$. We introduce and compare three ways of saying that such a function has bounded complexity. The first is a sampling property: the value $f(x)$ can be recovered, up to small error and with high probability, from the values of a bounded number of randomly chosen coordinates of $x$. We call this the holographic property. The second is a structural property: $f$ is uniformly close to a bounded-degree polynomial in boundedly many bounded linear coordinate forms. The third is computational: $f$ is uniformly close to the output of a neural network with a bounded number of non-input neurons, bounded Lipschitz activation functions and bounded incoming weights. We prove that these three properties are equivalent up to quantitative changes of the parameters. The implication from holography to polynomial structure uses a variant of a weak version of hypergraph regularity.
- Abstract(参考訳): ファジィブール函数は写像 $f:\cube^n\to [0,1]$ である。
このような関数が複雑性を有界とする3つの言い方を紹介し比較する。
1つはサンプリング特性であり、値 $f(x)$ は小さな誤差と高い確率で、ランダムに選択された座標の有界数の値$x$から回収できる。
これをホログラフィー特性と呼ぶ。
2つ目は構造的性質であり、$f$ は有界な多くの有界線型座標形式における有界次数多項式に一様に近い。
3つめは計算である:$f$は、有界数の非入力ニューロン、有界リプシッツ活性化関数、および有界重みを持つニューラルネットワークの出力に一様に近い。
これら3つの性質がパラメータの量的変化に等しいことを証明している。
ホログラフィーから多項式構造への含意は、ハイパーグラフ正則性の弱いバージョンの変種を用いる。
関連論文リスト
- Triangulating PL functions and the existence of efficient ReLU DNNs [0.0]
コンパクトなサポートを持つ任意のピースワイズ線型関数 $f:Rd から R$ へのポリヘドロン $P$ は、いわゆる単純関数の和としての表現を持つことを示す。
論文 参考訳(メタデータ) (2025-05-11T22:20:16Z) - Neural network learns low-dimensional polynomials with SGD near the information-theoretic limit [75.4661041626338]
単一インデックス対象関数 $f_*(boldsymbolx) = textstylesigma_*left(langleboldsymbolx,boldsymbolthetarangleright)$ の勾配勾配勾配学習問題について検討する。
SGDに基づくアルゴリズムにより最適化された2層ニューラルネットワークは、情報指数に支配されない複雑さで$f_*$を学習する。
論文 参考訳(メタデータ) (2024-06-03T17:56:58Z) - A Minimal Control Family of Dynamical Systems for Universal Approximation [5.217870815854702]
普遍近似特性(UAP)は、ディープラーニングにおいて基本的な位置を占める。
コンパクト領域上の連続函数を近似できることを示す。
この結果から,ニューラルネットワークと制御系との近似力の相関関係が明らかとなった。
論文 参考訳(メタデータ) (2023-12-20T10:36:55Z) - Learning Hierarchical Polynomials with Three-Layer Neural Networks [56.71223169861528]
3層ニューラルネットワークを用いた標準ガウス分布における階層関数の学習問題について検討する。
次数$k$s$p$の大規模なサブクラスの場合、正方形損失における階層的勾配によるトレーニングを受けた3層ニューラルネットワークは、テストエラーを消すためにターゲット$h$を学習する。
この研究は、3層ニューラルネットワークが複雑な特徴を学習し、その結果、幅広い階層関数のクラスを学ぶ能力を示す。
論文 参考訳(メタデータ) (2023-11-23T02:19:32Z) - Shallow neural network representation of polynomials [91.3755431537592]
d+1+sum_r=2Rbinomr+d-1d-1[binomr+d-1d-1d-1[binomr+d-1d-1d-1]binomr+d-1d-1d-1[binomr+d-1d-1d-1]binomr+d-1d-1d-1]
論文 参考訳(メタデータ) (2022-08-17T08:14:52Z) - Deep Network Approximation: Achieving Arbitrary Accuracy with Fixed
Number of Neurons [5.37133760455631]
一定数のニューロンを持つ全ての連続関数に対する普遍近似特性を実現するフィードフォワードニューラルネットワークを開発した。
例えば、$sigma$-activated networks with width $36d(2d+1)$ and depth $111$ can almost any continuous function on a $d$-dimensioanl hypercube in an arbitrarilyly small error。
論文 参考訳(メタデータ) (2021-07-06T05:24:30Z) - On the Modularity of Hypernetworks [103.1147622394852]
構造化対象関数の場合、ハイパーネットワークにおけるトレーニング可能なパラメータの総数は、標準ニューラルネットワークのトレーニング可能なパラメータの数や埋め込み法よりも桁違いに小さいことを示す。
論文 参考訳(メタデータ) (2020-02-23T22:51:52Z) - A Corrective View of Neural Networks: Representation, Memorization and
Learning [26.87238691716307]
我々はニューラルネットワーク近似の補正機構を開発する。
ランダム・フィーチャー・レギュレーション(RF)における2層ニューラルネットワークは任意のラベルを記憶できることを示す。
また、3層ニューラルネットワークについても検討し、その補正機構がスムーズなラジアル関数に対する高速な表現率をもたらすことを示す。
論文 参考訳(メタデータ) (2020-02-01T20:51:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。