論文の概要: The Polytopal Neural Network

• arxiv url: http://arxiv.org/abs/2610.12004v1
• Date: Thu, 08 Oct 2026 14:08:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.069222
• Title: The Polytopal Neural Network
• Title（参考訳）: ポリトープニューラルネットワーク
• Abstract要約: PNNは,ポリトープをベースとした構造を強制することによって,異なる階層的側面を抽出するフレームワークである。 学習したコーパス表現とアモータイズされたシンプルな推論手法を用いて、我々のアプローチをスケールする。 ニューラルネットワーク表現にポリトープ制約を課すことは、性能の最小限の劣化を伴う潜在空間における有意義な構造を保っていることを示す実験結果が得られた。 我々の発見は、ディープネットワークが解釈可能なポリトープベースの表現を強制し、より透過的なAIシステムへの原則的な経路を提供することを示唆している。
• 参考スコア（独自算出の注目度）: 7.935918489638211
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding how deep neural networks process information remains a central challenge. Existing interpretability methods often compromise structural fidelity, rely on prespecified corpora, or explain models post-hoc. We propose Polytopal Neural Networks (PNNs), a framework that extracts distinct layer-wise aspects by enforcing a polytope-based structure that is used directly in subsequent information processing. We scale our approach using learned corpus representations and an amortized simplex inference procedure and highlight how the framework also gives a direct route to vector quantized (VQ) training. In PNNs, observations are explicitly described by their alignment with layer-specific aspects. Empirical results show that imposing polytopal constraints on neural network representations preserves meaningful structures in the latent space with minimal degradation in performance, favorable compressed representations when compared to VQ representations in unsupervised learning, while also providing a performant new approach to VQ deep learning training. Our findings suggest that deep networks can enforce interpretable polytope-based representations, offering a principled path toward more transparent AI systems with minimal performance compromise.
• Abstract（参考訳）: ディープニューラルネットワークがどのように情報を処理しているかを理解することは、依然として中心的な課題である。 既存の解釈可能性法は、しばしば構造的忠実さを損なうか、あらかじめ定義されたコーパスに依存するか、あるいはポストホックのモデルを説明する。 PNN(Polytopal Neural Networks)は,後続の情報処理に直接使用されるポリトープに基づく構造を強制することによって,異なるレイヤの側面を抽出するフレームワークである。 学習したコーパス表現とアモータイズされた単純度推論手法を用いて、我々のアプローチをスケールし、このフレームワークがベクトル量子化(VQ)トレーニングへの直接的な経路を提供する方法を強調した。 PNNでは、観察は層固有の側面との整合性によって明確に記述される。 ニューラルネットワーク表現にポリトープ制約を課すことは、性能の低下を最小限に抑えた潜在空間における有意義な構造を保ち、教師なし学習におけるVQ表現と比較して圧縮された表現を好適に保存し、同時に、VQ深層学習トレーニングに優れた新しいアプローチを提供することを示す。 我々の研究結果は、ディープネットワークが解釈可能なポリトープベースの表現を強制できることを示唆している。

関連論文リスト

• Simplifying Neural Networks During Training [1.7966001353008778]
  トレーニング中のディープネットワークを簡素化するためのNCにインスパイアされたトレーニングフレームワークを提案する。 Inverse Fisher Criterion による表現力学のモニタリングを行う。 次に、後続のプロキシ層を軽量な分類ヘッドに置き換え、縮小モデルのトレーニングを継続します。
  論文  参考訳（メタデータ） (2026-07-30T08:32:40Z)
• Information-Theoretic Greedy Layer-wise Training for Traffic Sign Recognition [0.5024983453990065]
  レイヤワイズトレーニングは、クロスエントロピー損失とバックプロパゲーションの必要性を排除する。 既存の階層的なトレーニングアプローチの多くは、比較的小さなデータセットでのみ評価されている。 本稿では,最近開発された決定論的情報ボトルネック(DIB)と行列に基づくR'enyiの$alpha$-orderエントロピー関数に基づく,階層的学習手法を提案する。
  論文  参考訳（メタデータ） (2025-10-31T17:24:58Z)
• Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
  ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。 神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。 私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
  論文  参考訳（メタデータ） (2025-05-16T13:49:43Z)
• Identifying Sub-networks in Neural Networks via Functionally Similar Representations [41.028797971427124]
  我々は、異なるサブネットワークの存在を調査し、ネットワークの理解を自動化するための一歩を踏み出した。 具体的には、ニューラルネットワーク内の機能的に類似した表現の概念に基づく、新しい自動化されたタスク非依存のアプローチについて検討する。 提案手法は,人間と計算コストを最小限に抑えたニューラルネットワークの動作に関する有意義な洞察を提供する。
  論文  参考訳（メタデータ） (2024-10-21T20:19:00Z)
• Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
  本稿では,重み空間学習におけるSANEアプローチを紹介する。 ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
  論文  参考訳（メタデータ） (2024-06-14T13:12:07Z)
• Imbedding Deep Neural Networks [0.0]
  ニューラルODEのような連続深度ニューラルネットワークは、非線形ベクトル値の最適制御問題の観点から、残留ニューラルネットワークの理解を再燃させた。 本稿では,ネットワークの深さを基本変数とする新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-01-31T22:00:41Z)
• Developing Constrained Neural Units Over Time [81.19349325749037]
  本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。 ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。 提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
  論文  参考訳（メタデータ） (2020-09-01T09:07:25Z)
• Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
  本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。 接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。 この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
  論文  参考訳（メタデータ） (2020-08-19T04:53:31Z)
• Local Propagation in Constraint-based Neural Network [77.37829055999238]
  ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。 本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
  論文  参考訳（メタデータ） (2020-02-18T16:47:38Z)
• Investigating the Compositional Structure Of Deep Neural Networks [1.8899300124593645]
  本稿では,一方向線形活性化関数の構成構造に基づく新しい理論的枠組みを提案する。 予測ラベルと予測に使用する特定の(線形)変換の両方に関して、入力データのインスタンスを特徴付けることができる。 MNISTデータセットの予備テストでは、ニューラルネットワークの内部表現における類似性に関して、入力インスタンスをグループ化することが可能である。
  論文  参考訳（メタデータ） (2020-02-17T14:16:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。