論文の概要: Linear Independence of Polynomial Compositions and Identifiability of Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2608.27113v1
• Date: Thu, 27 Aug 2026 13:26:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.416612
• Title: Linear Independence of Polynomial Compositions and Identifiability of Deep Neural Networks
• Title（参考訳）: 深部ニューラルネットワークの多項式成分の線形独立性と同定可能性
• Abstract要約: 深層学習における理論的な問題によって動機づけられた我々は、一対の異なる一対の異なる不一致の固定数のポストコンピレーションが、十分に大きな次数の一般の線形独立性をもたらすと推測する。 完全連結ネットワークアーキテクチャの同定可能性について,この予想が完全に理解していることを示す。
• 参考スコア（独自算出の注目度）: 5.869449310299287
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Motivated by theoretical problems in deep learning, we conjecture that post-composing a fixed number of pairwise distinct nonconstant polynomials with a generic polynomial of sufficiently large degree yields linearly independent polynomials. This generalizes Newman--Slater's theorem on powers of polynomials. We establish several cases of this conjecture and its origin-passing variant: We prove the result for two polynomials, and for an arbitrary number of polynomials when their degrees are bounded. Furthermore, we show how the conjecture implies a complete understanding of the identifiability (i.e., parameter symmetries) of deep fully connected neural network architectures with generic polynomial activation functions. In particular, for network architectures with layer-specific activations of increasing degree, our established versions of the conjecture fully characterize the set of parameters yielding the same end-to-end network function. As a special case, we fully resolve the identifiability of shallow polynomial networks.
• Abstract（参考訳）: 深層学習の理論的問題によって動機づけられた我々は、十分に大きな次数の一般多項式を持つ一対独立な非定常多項式の固定数のポストコンピレーションが線形独立多項式をもたらすと推測する。 これはニューマン・スレーターの多項式のべき乗に関する定理を一般化する。 この予想とその原点通過変項のいくつかのケースを確立する: 2つの多項式に対する結果と、それらの次数が有界であるときの任意の数の多項式に対する結果を証明する。 さらに、この予想が、一般的な多項式活性化関数を持つディープ完全連結ニューラルネットワークアーキテクチャの同定可能性(パラメータ対称性)の完全な理解を如何に示しているかを示す。 特に、層固有のアクティベーションが増加するネットワークアーキテクチャでは、この予測の確立されたバージョンは、同じエンドツーエンドネットワーク関数を生成するパラメータの集合を完全に特徴付けている。 特別な場合として、浅い多項式ネットワークの同定可能性を完全に解決する。

関連論文リスト

• Polynomial Threshold Functions of Bounded Tree-Width: Some Explainability and Complexity Aspects [0.6554326244334868]
  多変量体のツリー幅は、ハイパーグラフのツリー幅であり、その項に対応するハイパーエッジを持つ。 有界木幅の符号としてのブール関数の表現はしきい値表現と呼ばれる。
  論文  参考訳（メタデータ） (2025-01-14T18:28:08Z)
• Equivariant Graph Network Approximations of High-Degree Polynomials for Force Field Prediction [62.05532524197309]
  同変深部モデルでは、分子動力学シミュレーションにおいて原子ポテンシャルと力場を正確に予測できることが示されている。 本研究では、同変アーキテクチャの同変関数を解析し、PACEと呼ばれる新しい同変ネットワークを導入する。 一般的なベンチマークで実験されたように、PACEは原子エネルギーと力場の予測における最先端のパフォーマンスを示す。
  論文  参考訳（メタデータ） (2024-11-06T19:34:40Z)
• Defining Neural Network Architecture through Polytope Structures of Dataset [53.512432492636236]
  本稿では, ニューラルネットワーク幅の上下境界を定義し, 問題となるデータセットのポリトープ構造から情報を得る。 本研究では,データセットのポリトープ構造を学習したニューラルネットワークから推定できる逆条件を探索するアルゴリズムを開発した。 MNIST、Fashion-MNIST、CIFAR10といった一般的なデータセットは、顔の少ない2つ以上のポリトップを用いて効率的にカプセル化できることが確立されている。
  論文  参考訳（メタデータ） (2024-02-04T08:57:42Z)
• Algebraic Complexity and Neurovariety of Linear Convolutional Networks [0.0]
  線形畳み込みネットワークを1次元および任意のストライドで検討する。 共通零点が対応する神経多様体のザリスキー閉包に対応する方程式を生成する。 このようなネットワークの最適化におけるすべての複素臨界点の数は、セグレ多様体の一般的なユークリッド距離と等しいことが判明した。
  論文  参考訳（メタデータ） (2024-01-29T23:00:15Z)
• Structure of universal formulas [13.794391803767617]
  本稿では,大域近似特性と無限VC次元の弱い性質を結合するクラス階層を導入する。 活性化するニューロンの層が1つ以上ある固定サイズニューラルネットワークは任意の有限集合上の関数を近似できないことを示す。 任意の有限集合上の関数を近似する2層ニューラルネットワークを含む関数族を例に挙げるが、定義領域全体においてそれを行うことができない。
  論文  参考訳（メタデータ） (2023-11-07T11:50:25Z)
• An Analysis of On-the-fly Determinization of Finite-state Automata [65.268245109828]
  有限状態オートマトンをオンザフライで決定する手法の抽象化を確立し, オートマトンにどのように適用できるかを実証する。 我々の発見の特別な例は、多くの非決定論的遷移を持つオートマトンが、ほとんど常に複雑性の決定性を持っていることである。
  論文  参考訳（メタデータ） (2023-08-27T11:51:27Z)
• Revisiting Tropical Polynomial Division: Theory, Algorithms and Application to Neural Networks [40.137069931650444]
  熱帯幾何学は、最近、一方向線形活性化関数を持つニューラルネットワークの解析にいくつかの応用を見出した。 本稿では,熱帯分断問題に対する新たな考察とニューラルネットワークの単純化への応用について述べる。
  論文  参考訳（メタデータ） (2023-06-27T02:26:07Z)
• An Exponential Separation Between Quantum Query Complexity and the Polynomial Degree [79.43134049617873]
  本稿では,部分関数に対する完全次数と近似量子クエリの指数関数的分離を実証する。 アルファベットのサイズについては、定値対分離の複雑さがある。
  論文  参考訳（メタデータ） (2023-01-22T22:08:28Z)
• Qualitative neural network approximation over R and C: Elementary proofs for analytic and polynomial activation [0.0]
  解析的アクティベーション関数を持つ深部ニューラルネットワークと浅部ニューラルネットワークのクラスで近似を証明した。 活性化関数を持つ大深度ネットワークの完全連結および残留ネットワークは,任意の幅要件下で近似可能であることを示す。
  論文  参考訳（メタデータ） (2022-03-25T01:36:13Z)
• Finite-Function-Encoding Quantum States [52.77024349608834]
  任意の$d$値論理関数を符号化する有限関数符号化(FFE)を導入する。 それらの構造的特性について検討する。
  論文  参考訳（メタデータ） (2020-12-01T13:53:23Z)
• A refinement of Reznick's Positivstellensatz with applications to quantum information theory [72.8349503901712]
  ヒルベルトの17番目の問題において、アルティンはいくつかの変数の任意の正定値が2つの平方和の商として書けることを示した。 レズニックはアルティンの結果の分母は常に変数の平方ノルムの$N$-次パワーとして選択できることを示した。
  論文  参考訳（メタデータ） (2019-09-04T11:46:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。