論文の概要: Separation Capacity of Scattering Networks

• arxiv url: http://arxiv.org/abs/2606.30822v1
• Date: Mon, 29 Jun 2026 18:51:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:18.987081
• Title: Separation Capacity of Scattering Networks
• Title（参考訳）: 散乱ネットワークの分離能力
• Authors: Konstantin Häberle, Helmut Bölcskei,
• Abstract要約: 分離能力の概念、つまり、実現可能な二コトミの数を数えることから導かれる量に焦点をあてる。 特定のCNNアーキテクチャを用いた特徴抽出器の分離能力を決定する要因を同定する。
• 参考スコア（独自算出の注目度）: 1.2318267573115804
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we attempt to enhance the theoretical understanding of convolutional neural networks (CNNs) as feature extractors in classification tasks by analyzing them through the lens of Cover's function-counting theory. Specifically, our focus lies on the notion of separation capacity, a combinatorial quantity derived from counting the number of realizable dichotomies (i.e., binary label assignments). Our contributions are threefold. First, we extend Cover's framework by establishing a conceptually insightful and practically useful formulation for the separation capacity. Second, leveraging this formulation, we identify the factors governing the separation capacity of feature extractors that employ a specific CNN architecture, so-called scattering networks, in terms of their network building blocks. Third, we provide practical insights for scattering network design.
• Abstract（参考訳）: 本稿では,Cover関数計数理論のレンズを用いて,分類タスクにおける特徴抽出器としての畳み込みニューラルネットワーク(CNN)の理論的理解を強化することを試みる。 具体的には、分離能力の概念、つまり、実現可能な二コトミ(バイナリラベルの割り当て)の数を数えることから得られる組合せ量に焦点が当てられている。 私たちの貢献は3倍です。 まず,分離能力に関する概念的洞察と実用的有用な定式化を確立することにより,Coverの枠組みを拡張した。 第二に、この定式化を利用して、ネットワーク構築ブロックの観点から、特定のCNNアーキテクチャ、いわゆる散乱ネットワークを利用する特徴抽出器の分離能力を決定する要因を特定する。 第3に,ネットワーク設計の実践的な洞察を提供する。

関連論文リスト

• Intrinsic and Extrinsic Organized Attention: Softmax Invariance and Network Sparsity [1.837729564584369]
  変圧器における自己注意機構の内因性(注意頭)と外因性(注意頭)構造について検討した。 我々は、ネットワーク構造を調べるために、テンソルの階層的な構成に既存の方法論を用いる。
  論文  参考訳（メタデータ） (2025-06-18T15:14:56Z)
• Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
  ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。 神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。 私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
  論文  参考訳（メタデータ） (2025-05-16T13:49:43Z)
• Provable Guarantees for Nonlinear Feature Learning in Three-Layer Neural Networks [44.31729147722701]
  3層ニューラルネットワークは,2層ネットワークよりも特徴学習能力が豊富であることを示す。 この研究は、特徴学習体制における2層ネットワーク上の3層ニューラルネットワークの証明可能なメリットを理解するための前進である。
  論文  参考訳（メタデータ） (2023-05-11T17:19:30Z)
• Factorizing Knowledge in Neural Networks [65.57381498391202]
  知識伝達タスクKF(Knowledge Factorization)を提案する。 KFは、それをいくつかの要因ネットワークに分解することを目的としており、それぞれが専用のタスクのみを処理し、ソースネットワークから分解されたタスク固有の知識を維持する。 学習した表現と入力の相互情報を最適化してKFを実行するための情報理論的目的であるInfoMax-Bottleneck(IMB)を導入する。
  論文  参考訳（メタデータ） (2022-07-04T09:56:49Z)
• Decomposing neural networks as mappings of correlation functions [57.52754806616669]
  本研究では,ディープフィードフォワードネットワークによって実装された確率分布のマッピングについて検討する。 ニューラルネットワークで使用できる異なる情報表現と同様に、データに不可欠な統計を識別する。
  論文  参考訳（メタデータ） (2022-02-10T09:30:31Z)
• Distributed Learning for Time-varying Networks: A Scalable Design [13.657740129012804]
  本稿では,スケーラブルなディープニューラルネットワーク(DNN)設計に基づく分散学習フレームワークを提案する。 学習タスクの置換等価性と不変性を利用することで、異なるスケールのクライアントに対して異なるスケールのDNNを構築することができる。 モデルアグリゲーションはこれらの2つのサブマトリクスに基づいて行うことができ、学習の収束と性能を改善することができる。
  論文  参考訳（メタデータ） (2021-07-31T12:44:28Z)
• Learning distinct features helps, provably [98.78384185493624]
  最小二乗損失で訓練された2層ニューラルネットワークによって学習された特徴の多様性について検討する。 隠蔽層の特徴間の平均的な$L$-distanceで多様性を測定する。
  論文  参考訳（メタデータ） (2021-06-10T19:14:45Z)
• Distribution of Gaussian Entanglement in Linear Optical Systems [0.0]
  絡み合いは、多くのアプリケーションを持つ量子ネットワークを構築する上で不可欠な要素である。 線形ネットワークにおけるガウス絡みの保存と分布について,二部交絡のための新しい定量化器を用いて検討する。
  論文  参考訳（メタデータ） (2021-05-27T20:34:54Z)
• Dual-constrained Deep Semi-Supervised Coupled Factorization Network with Enriched Prior [80.5637175255349]
  本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。 隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。 我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
  論文  参考訳（メタデータ） (2020-09-08T13:10:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。