論文の概要: Artificial Structure Function Search: Preserving Artificial Functional Connectivity for Structured Pruning

• arxiv url: http://arxiv.org/abs/2609.24401v1
• Date: Mon, 21 Sep 2026 10:51:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:01.256685
• Title: Artificial Structure Function Search: Preserving Artificial Functional Connectivity for Structured Pruning
• Title（参考訳）: 人工的構造関数探索: 構造化プルーニングのための人工的機能接続性を保存する
• Abstract要約: 構造化プルーニングは、リソース制約されたデバイスにディープニューラルネットワークをデプロイする際の計算コストを削減するために使用される。 本稿では,ASF-S(Artificial Structure Search: ASF-S):新しい構造化プルーニングフレームワークを提案する。 提案手法は,70%のパラメータ削減でモデル変種を出力し,刈り取られた層を再学習することなくベースライン精度を回復することを示した。
• 参考スコア（独自算出の注目度）: 1.5425688173297465
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Structured pruning is a model compression technique that is used to reduce the computational cost of deploying deep neural networks on resource-constrained devices. Popular methods of pruning rely on opaque heuristics or weight-based criteria that give no indication as to the structural dependencies in the network. To address these limitations we present Artificial Structure Function Search (ASF-S): a novel structured pruning framework. ASF-S utilizes Principle Gradient Importance (PGI): a novel prune-candidate selection criteria that is inspired by structure-function relationships in the brain. By ensuring the pruned structure of the model respects topographical organization of the output layer, we define Artificial Functional Connectivity (AFC) for artificial neural networks. AFC provides evidence to demonstrate that accurate smaller networks can be found using careful prune candidate selection criteria. We present results for PGI as a selection criterion and for ASF-S as a pruning framework against recent benchmarks, demonstrating that our method yields model variants with 70\% parameter reduction, that can recover baseline accuracy without re-training the pruned layers.
• Abstract（参考訳）: 構造化プルーニング(Structured pruning)は、リソース制約のあるデバイスにディープニューラルネットワークをデプロイする際の計算コストを削減するために使用されるモデル圧縮技術である。 プルーニングの一般的な手法は不透明なヒューリスティックや重みに基づく基準に依存しており、ネットワークの構造的依存関係について何も示していない。 これらの制約に対処するために,新しい構造化プルーニングフレームワークであるArtificial Structure Function Search (ASF-S)を提案する。 ASF-S は Principle Gradient Importance (PGI) を利用しており、これは脳の構造と機能の関係にインスパイアされた新しいプーン候補選択基準である。 モデルの構造が出力層の地形的構造を尊重することを保証することにより、人工ニューラルネットワークのための人工機能接続性(AFC)を定義する。 AFCは、慎重なプルーネ候補選択基準を用いて、正確な小さなネットワークを見つけることができることを示す証拠を提供する。 我々は,PGI を選択基準として,ASF-S を最近のベンチマークに対するプルーニングフレームワークとして提案し,70 % のパラメータ還元でモデル変種を出力し,プルーニング層を再学習することなくベースライン精度を回復できることを示した。

関連論文リスト

• Structure-Aware Automatic Channel Pruning by Searching with Graph Embedding [28.03880549472142]
  チャネルプルーニングはディープニューラルネットワークの計算オーバーヘッドを低減するための強力な技術である。 ネットワークトポロジをモデル化し,各チャネルのグローバルな重要性を学習するための,構造対応自動チャネルプルーニング(SACP)フレームワークを提案する。 SACPは圧縮効率と精度保持の競争力において最先端のプルーニング法より優れている。
  論文  参考訳（メタデータ） (2025-06-13T05:05:35Z)
• Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
  レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。 LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。 提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
  論文  参考訳（メタデータ） (2023-08-23T10:48:28Z)
• Structured Pruning for Deep Convolutional Neural Networks: A survey [2.811264250666485]
  これにより、ストレージと計算コストを効果的に削減するため、ニューラルネットワークのプルーニングが関心を集めている。 本稿では, 深部CNNの構造化プルーニングに向けた最近の進展を概観する。 本稿では,フィルタランキング手法,正規化手法,動的実行,ニューラルネットワーク探索,抽選チケット仮説,プルーニングの応用について,最先端の構造化プルーニング手法を要約して比較する。
  論文  参考訳（メタデータ） (2023-03-01T15:12:55Z)
• Pushing the Efficiency Limit Using Structured Sparse Convolutions [82.31130122200578]
  本稿では,画像の固有構造を利用して畳み込みフィルタのパラメータを削減する構造的スパース畳み込み(SSC)を提案する。 我々は、SSCが効率的なアーキテクチャにおける一般的なレイヤ(奥行き、グループ回り、ポイント回りの畳み込み)の一般化であることを示す。 SSCに基づくアーキテクチャは、CIFAR-10、CIFAR-100、Tiny-ImageNet、ImageNet分類ベンチマークのベースラインと比較して、最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2022-10-23T18:37:22Z)
• Compact Neural Networks via Stacking Designed Basic Units [38.10212043168065]
  本稿では、より少ない重みパラメータを持つコンパクトニューラルネットワークを直接構築する、TythNetと呼ばれる新しい手法を提案する。 我々は、さまざまなベンチマークデータセットの最先端プルーニング手法と比較するために、さまざまな人気バックボーンでTOTYNetを定式化する。 実験の結果、TeachNetは最大80%のFLOPと89.7%のパラメータを節約しながら、同等の分類精度を達成できることがわかった。
  論文  参考訳（メタデータ） (2022-05-03T14:04:49Z)
• Efficient Micro-Structured Weight Unification and Pruning for Neural Network Compression [56.83861738731913]
  ディープニューラルネットワーク(DNN)モデルは、特にリソース制限されたデバイスにおいて、実用的なアプリケーションに不可欠である。 既往の非構造的あるいは構造化された重量刈り法は、推論を真に加速することはほとんど不可能である。 ハードウェア互換のマイクロ構造レベルでの一般化された重み統一フレームワークを提案し,高い圧縮と加速度を実現する。
  論文  参考訳（メタデータ） (2021-06-15T17:22:59Z)
• Feature Flow Regularization: Improving Structured Sparsity in Deep Neural Networks [12.541769091896624]
  プルーニングはディープニューラルネットワーク(DNN)の冗長パラメータを除去するモデル圧縮法である 特徴フロー正則化(FFR)と呼ばれる特徴の進化という新たな視点から, 単純かつ効果的な正則化戦略を提案する。 VGGNets、CIFAR-10/100上のResNets、Tiny ImageNetデータセットによる実験では、FFRが非構造化と構造化の両方の空間性を大幅に改善できることが示されている。
  論文  参考訳（メタデータ） (2021-06-05T15:00:50Z)
• DAIS: Automatic Channel Pruning via Differentiable Annealing Indicator Search [55.164053971213576]
  畳み込みニューラルネットワークは,計算オーバーヘッドが大きいにもかかわらず,コンピュータビジョンタスクの実行において大きな成功を収めている。 構造的(チャネル)プルーニングは、通常、ネットワーク構造を保ちながらモデルの冗長性を低減するために適用される。 既存の構造化プルーニング法では、手作りのルールが必要であり、これは大きなプルーニング空間に繋がる可能性がある。
  論文  参考訳（メタデータ） (2020-11-04T07:43:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。