論文の概要: On the Decompositionality of Neural Networks
- arxiv url: http://arxiv.org/abs/2604.07868v1
- Date: Thu, 09 Apr 2026 06:32:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.738847
- Title: On the Decompositionality of Neural Networks
- Title(参考訳): ニューラルネットワークの分解性について
- Authors: Junyong Lee, Baek-Ryun Seong, Sang-Ki Ko, Andrew Ferraiuolo, Minwoo Kang, Hyuntae Jeon, Seungmin Lim, Jieung Kim,
- Abstract要約: ニューラルアーキテクチャに対する意味保存抽象化として定義された形式的概念であるニューラル分解性を導入する。
我々の重要な洞察は、分解性はモデルの決定境界に沿った意味的行動の保存によって特徴づけられるべきであるということである。
提案した定義を運用する境界対応フレームワーク SAVED を開発した。
- 参考スコア(独自算出の注目度): 5.540814471808276
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advances in deep neural networks have achieved state-of-the-art performance across vision and natural language processing tasks. In practice, however, most models are treated as monolithic black-box functions, limiting maintainability, component-wise optimization, and systematic testing and verification. Despite extensive work on pruning and empirical decomposition, the field still lacks a principled semantic notion of when a neural network can be meaningfully decomposed. We introduce neural decompositionality, a formal notion defined as a semantic-preserving abstraction over neural architectures. Our key insight is that decompositionality should be characterized by the preservation of semantic behavior along the model's decision boundary, which governs classification outcomes. This yields a semantic contract between the original model and its components, enabling a rigorous formulation of decomposition. Building on this foundation, we develop a boundary-aware framework, SAVED (Semantic-Aware Verification-Driven Decomposition), which operationalizes the proposed definition. SAVED combines counterexample mining over low logic-margin inputs, probabilistic coverage, and structure-aware pruning to construct decompositions that preserve decision-boundary semantics. We evaluate our approach on CNNs, language Transformers, and Vision Transformers. Results show clear architectural differences: language Transformers largely preserve boundary semantics under decomposition, whereas vision models frequently violate the decompositionality criterion, indicating intrinsic limits. Overall, our work establishes decompositionality as a formally definable and empirically testable property, providing a foundation for modular reasoning about neural networks.
- Abstract(参考訳): ディープニューラルネットワークの最近の進歩は、ビジョンと自然言語処理タスクをまたいだ最先端のパフォーマンスを実現している。
しかし実際には、ほとんどのモデルはモノリシックなブラックボックス関数として扱われ、保守性、コンポーネントの最適化、系統的なテストと検証が制限される。
刈り取りと経験的分解に関する広範な研究にもかかわらず、ニューラルネットワークが有意義に分解できるという原則的なセマンティックな概念はいまだに欠けている。
ニューラルアーキテクチャに対する意味保存抽象化として定義された形式的概念であるニューラル分解性を導入する。
我々の重要な洞察は、分解性は、分類結果を支配するモデルの決定境界に沿った意味的行動の保存によって特徴づけられるべきであるということである。
これにより、元のモデルとそのコンポーネント間の意味的契約が得られ、分解の厳密な定式化が可能になる。
この基盤を基盤として,提案した定義を運用する境界対応フレームワーク SAVED (Semantic-Aware Verification-Driven Decomposition) を開発した。
SAVEDは低論理マージン入力上の反例マイニング、確率的カバレッジ、構造認識プルーニングを組み合わせ、決定境界意味論を保存する分解を構成する。
我々は,CNN,言語変換器,視覚変換器に対するアプローチを評価する。
言語変換者は、分解の下で境界セマンティクスをほとんど保持するが、視覚モデルは、内在的限界を示す分解性基準にしばしば違反する。
全体として、我々の研究は、分解性を正式に定義可能で実証可能な特性として確立し、ニューラルネットワークに関するモジュラー推論の基礎を提供する。
関連論文リスト
- OMNIFLOW: A Physics-Grounded Multimodal Agent for Generalized Scientific Reasoning [51.33849811496781]
大規模言語モデル (LLM) は例外的な論理的推論能力を示しているが、部分微分方程式 (PDE) による連続力学としばしば競合する。
OMNIFLOWは, 領域固有のパラメータ更新を必要とせず, 基本物理法則で凍結LDMを基底として設計したマルチモーダルシンボリックアーキテクチャである。
我々は, 微視的乱流, 理論的ナビエ・ストークス, マクロ的世界天気予報のベンチマークでこれを評価した。
論文 参考訳(メタデータ) (2026-03-16T18:29:01Z) - A Percolation Model of Emergence: Analyzing Transformers Trained on a Formal Language [15.929767234646631]
データ、サイズ、計算量の増加は、ニューラルネットワークによる特定の能力の急激な学習につながる可能性がある。
エマージェンス(emergence)とは、しばしば「エマージェンス(emergence)」と呼ばれる現象である。
論文 参考訳(メタデータ) (2024-08-22T17:44:22Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳(メタデータ) (2024-05-12T22:18:25Z) - Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。
オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。
大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
論文 参考訳(メタデータ) (2024-02-23T16:50:07Z) - LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and
Reasoning [73.98142349171552]
LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。
ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。
これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
論文 参考訳(メタデータ) (2023-09-24T05:43:19Z) - Multi-Relational Hyperbolic Word Embeddings from Natural Language
Definitions [5.763375492057694]
本稿では、そのような構造を明示的に活用し、定義から単語埋め込みを導出するマルチリレーショナルモデルを提案する。
経験的な分析は、フレームワークが望ましい構造的制約を課すのに役立つことを示している。
実験により、ユークリッド語よりもハイパーボリック語の埋め込みの方が優れていることが示された。
論文 参考訳(メタデータ) (2023-05-12T08:16:06Z) - Learning Disentangled Representations for Natural Language Definitions [0.0]
テキストデータの連続的な構文的・意味的規則性は、構造的バイアスと生成的要因の両方をモデルに提供するのに有効である、と我々は主張する。
本研究では,文型,定義文の表現的・意味的に密接なカテゴリに存在する意味的構造を利用して,不整合表現を学習するための変分オートエンコーダを訓練する。
論文 参考訳(メタデータ) (2022-09-22T14:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。