論文の概要: Constructive Bounds for the Topological Expressivity of Neural Networks

• arxiv url: http://arxiv.org/abs/2610.13931v1
• Date: Fri, 09 Oct 2026 17:55:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.720762
• Title: Constructive Bounds for the Topological Expressivity of Neural Networks
• Title（参考訳）: ニューラルネットワークのトポロジカル表現性のための構成境界
• Abstract要約: ニューラルネットワーク$((X))$の出力のベッチ数の観点からトポロジカル表現性について検討する。 アーキテクチャ $(d,sumlimits_k=1d _k(2k+2),sumlimits_k=1d_k(k+1))$ が任意のベッチ数を持つ球面のウェッジ和と同値な空間ホモトピーを表現できることを証明する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The expressivity of a neural network $Φ$ describes the class of functions that a network can express. The term topological expressivity refers to a family of measures particularly suited to understand binary classification and is often formulated in terms of the Betti numbers of a decision boundary $β(Φ^{-1}(0))$. Despite its popularity, this measure is not as useful for regression and other problems that do not involve a decision boundary. Instead, we propose to study topological expressivity in terms of the Betti numbers of the output of a neural network $β(Φ(X))$. We formally prove that a ReLU network with architecture $(d,\sum\limits_{k=1}^{d } β_k(3k+2),\sum\limits_{k=1}^{d}β_k(k+1))$ can express spaces homotopy equivalent to wedge sums of spheres with arbitrary Betti numbers. This gives upper bounds for any arbitrary connected ($β_0=1$) sequence of Betti numbers, but by constructing spaces homotopy equivalent to products of $N$ spheres of dimension $d_1,...,d_N$ we achieve much better bounds $(\sum\limits_{n=1} d_n, 3\sum\limits_{n=1}\limits^N d_n + 2N, \sum\limits_{n=1}\limits^N d_n + N) $ for Betti numbers given by $\prod_n (1+x^{d_n})$. Finally we conjecture a much stronger tight bound which gives the architectural bound $(d,d+1,d+1)$ for a space homeomorphic to the sphere.
• Abstract（参考訳）: ニューラルネットワークの表現率$$は、ネットワークが表現できる関数のクラスを記述する。 トポロジカル表現性(topological expressivity)という用語は、二項分類を理解するのに特に適した測度の族を指し、しばしば決定境界のベッチ数(英語版)$β(\^{-1}(0))$で定式化される。 その人気にもかかわらず、この尺度は決定境界を含まない回帰やその他の問題にはあまり役に立たない。 代わりに、ニューラルネットワークの出力のベッチ数(英語版)の観点でトポロジカルな表現性を研究することを提案する。 アーキテクチャ $(d,\sum\limits_{k=1}^{d } β_k(3k+2),\sum\limits_{k=1}^{d}β_k(k+1))$ が任意のベッチ数を持つ球面のウェッジ和と同値な空間ホモトピーを表現できることを正式に証明する。 これは任意の連結なベティ数列(β_0=1$)の上界を与えるが、次元 $d_1, ..., d_N$ の$N$球面の積に同値な空間を構成することにより、$(\sum\limits_{n=1} d_n, 3\sum\limits_{n=1}\limits^N d_n + 2N, \sum\limits_{n=1}\limits^N d_n + N)$ のベティ数に対して$\prod_n (1+x^{d_n})$ が成立する。 最後に、球面に同型な空間に対して、建築上の有界$(d,d+1,d+1)$を与えるより強い強境界を予想する。

関連論文リスト

• Near-Optimal Dimension Lower Bounds for Single-Vector Embeddings of Maximum Inner Product Similarity [75.14269295861845]
  シングルトンクエリでは、Chamferは最大内部積類似度(MAX-IP)になる。 すべての固定$in(0,1)$に対して、定数は$A_,c_>0$である。 単位球MAX-IPマトリクスは、DNFパターンマトリクスの正確な2値アフィンイメージであり、少なくとも8ドルのギャップがある。
  論文  参考訳（メタデータ） (2026-07-22T17:27:20Z)
• A law of robustness for two-layer neural networks with arbitrary weights [0.0]
  Bubeck、Li、Nagarajは、一般的なデータでは、ノイズラベルに適合する$m$のニューロンを持つ任意の2層ニューラルネットワークは、リプシッツ定数を持つ必要があると推測した。 予想法則を1つの対数係数まで証明し、特にReLUネットワークにおいて連続的な片方向線形活性化を行う。
  論文  参考訳（メタデータ） (2026-07-08T17:44:15Z)
• Hardness of High-Dimensional Linear Classification [58.29089693778071]
  我々は、最大半空間離散性問題に対する次元下界の新たな指数関数を確立する。 どちらも計算幾何学と機械学習の基本的問題であり、その正確で近似的な形式である。
  論文  参考訳（メタデータ） (2026-03-19T15:53:41Z)
• Sharp Lower Bounds for Linearized ReLU^k Approximation on the Sphere [3.8969433233965205]
  単位球面上の線形化浅部ReLU$k$ニューラルネットワークに対する飽和定理を証明した。 この結果は、古典的な飽和フレームワーク内に線形化されたニューラルネットワーク近似をしっかりと配置する。
  論文  参考訳（メタデータ） (2025-10-05T06:47:24Z)
• The Communication Complexity of Approximating Matrix Rank [50.6867896228563]
  この問題は通信複雑性のランダム化を$Omega(frac1kcdot n2log|mathbbF|)$とする。 アプリケーションとして、$k$パスを持つ任意のストリーミングアルゴリズムに対して、$Omega(frac1kcdot n2log|mathbbF|)$スペースローバウンドを得る。
  論文  参考訳（メタデータ） (2024-10-26T06:21:42Z)
• Low-degree learning and the metric entropy of polynomials [44.99833362998488]
  少なくとも$Omega(sqrtvarepsilon)2dlog n leq log mathsfM(mathscrF_n,d,|cdot|_L,varepsilon)は2辺の推定値$c(1-varepsilon)2dlogを満たす。
  論文  参考訳（メタデータ） (2022-03-17T23:52:08Z)
• Tighter Sparse Approximation Bounds for ReLU Neural Networks [25.386446536829318]
  有名な研究ライン(Barron, 1993; Breiman, 1993; Klusowski & Barron, 1993)は、ReLUの2層ニューラルネットワークの幅$n$の限界を提供する。 最近では、Ongieらはラドン変換を無限幅のReLU2層ネットワークの解析ツールとして利用している。
  論文  参考訳（メタデータ） (2021-10-07T17:57:20Z)
• On the Complexity of Minimizing Convex Finite Sums Without Using the Indices of the Individual Functions [62.01594253618911]
  有限和の有限ノイズ構造を利用して、大域オラクルモデルの下での一致する$O(n2)$-upper境界を導出する。 同様のアプローチを踏襲したSVRGの新規な適応法を提案し、これはオラクルと互換性があり、$tildeO(n2+nsqrtL/mu)log (1/epsilon)$と$O(nsqrtL/epsilon)$, for $mu>0$と$mu=0$の複雑さ境界を実現する。
  論文  参考訳（メタデータ） (2020-02-09T03:39:46Z)
• Differentially Private Release and Learning of Threshold Functions [27.612916837481485]
  我々は、$(epsilon, delta)$微分プライベートアルゴリズムのサンプル複雑性に対して、新しい上界と下界を証明した。 完全に順序付けられたドメイン上のしきい値関数$c_x$は$c_x(y) = 1$ if $y le x$と評価され、$0$と評価される。
  論文  参考訳（メタデータ） (2015-04-28T16:15:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。