論文の概要: How Sparsity Allocation Shapes Label-Free Post-Pruning Recoverability

• arxiv url: http://arxiv.org/abs/2605.21972v1
• Date: Thu, 21 May 2026 04:03:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 20:14:18.518104
• Title: How Sparsity Allocation Shapes Label-Free Post-Pruning Recoverability
• Title（参考訳）: 余剰転位がラベルフリーの回収性にどのように影響するか
• Authors: Qishi Zhan, Minxuan Hu, Liang He,
• Abstract要約: プレニング後の修復法は部分的に崩壊したスパースモデルを復元できるが、その有効性は上流のプルースアロケーションが残したスパースモデルに依存する。 本稿では, 固定されたアクティベーション統計補修バックエンドにおいて, 空間配置が修復後の回復性にどう影響するかを考察する。
• 参考スコア（独自算出の注目度）: 4.9112670395105305
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unstructured magnitude pruning at high sparsity can reduce neural network accuracy to near-random performance, while labeled retraining may be unavailable in practical deployment settings. Label-free post-pruning repair methods can partially recover collapsed sparse models, but their effectiveness depends on the sparse model left by the upstream pruning allocation. This paper studies how sparsity allocation shapes post-repair recoverability under a fixed activation-statistic repair backend. We compare ERK and LAMP allocations under the same label-free repair protocol across CIFAR-10, CIFAR-100, and Imagenette with ResNet-18, ResNet-34, and ResNet-50 at sparsities from 90% to 95.5%. The results show that allocation choice can substantially change post-repair accuracy at the same global sparsity, and that the preferred allocation varies with architecture, dataset difficulty, and sparsity level. We identify a repair-sensitive transition regime in which BatchNorm recalibration begins to fail, while activation-statistic repair still recovers nontrivial accuracy. Additional validation on ImageNet-100 and DenseNet-121 shows that the location and width of this recoverable regime depend on data scale and connectivity structure. These findings suggest that pruning allocation and post-pruning repair should be studied jointly, since the allocation determines how much activation signal remains available for label-free recovery.
• Abstract（参考訳）: 高間隔での非構造的マグニチュードプルーニングは、ニューラルネットワークの精度をほぼランダムなパフォーマンスに低下させる可能性があるが、ラベル付きリトレーニングは実践的なデプロイメント設定では利用できない可能性がある。 ラベルのないプレニング後修復法は部分的に崩壊したスパースモデルを復元できるが、その有効性は上流プルーニングアロケーションが残したスパースモデルに依存する。 本稿では, 固定されたアクティベーション統計補修バックエンドにおいて, 空間配置が修復後の回復性にどう影響するかを考察する。 我々は、CIFAR-10、CIFAR-100、Imagenetteを、ResNet-18、ResNet-34、ResNet-50で、同一のラベルのない修復プロトコルの下でERKとLAMPを90%から95.5%の範囲で比較した。 その結果、アロケーションの選択は、同じグローバルな間隔で、リペア後の精度を大幅に変えることができ、好みのアロケーションは、アーキテクチャ、データセットの難易度、スパーシリティレベルによって変化することが示された。 我々は,BatchNormの再校正が失敗し始め,アクティベーション統計による修復が相変わらず非自明な精度で回復するという,修復に敏感な遷移機構を同定する。 ImageNet-100とDenseNet-121のさらなる検証は、回復可能なレシエーションの位置と幅がデータスケールと接続構造に依存することを示している。 これらの結果から, ラベルフリーリカバリにどの程度のアクティベーション信号が残っているかは, プルーニングアロケーションとポストプルーニング修復を共同で検討すべきであることが示唆された。

関連論文リスト

• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Adaptive Signal Resuscitation: Channel-wise Post-Pruning Repair for Sparse Vision Networks [8.5133415329194]
  1発のマグニチュードプルーニングは、高スパーシティ・レシエーションにおいて深刻な精度の崩壊を引き起こす可能性がある。 そこで我々は,ASR (Adaptive Signal Resuscitation) を訓練不要なチャネルワイズ修復法として提案する。 ASRは、各出力チャネルの分散マッチング補正を推定し、データ駆動収縮規則で安定化する。
  論文  参考訳（メタデータ） (2026-05-20T17:19:01Z)
• DegBins: Degradation-Driven Binning for Depth Super-Resolution [57.61783461543096]
  DegBinsは、劣化駆動のビンニングを利用して残留モデリングを適応的に強化する新しいDSRフレームワークである。 DegBinsは、精度、堅牢性、一般化の観点から、既存の最先端メソッドを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-05-10T16:17:11Z)
• Restoration-Aligned Generative Flow Models for Blind Motion Deblurring [57.425021485907756]
  本稿では,フロー軌跡自体を再構成することで,不整合を解消するフレームワークであるDeFlowを紹介する。 この定式化の下では、標準フローマッチング損失は自然に残留損失の形を取る。 GoPro、HIDE、RealBlur、RWBIの実験では、DeFlowは強力な復元忠実性と知覚リアリズムを実現している。
  論文  参考訳（メタデータ） (2026-05-09T10:05:51Z)
• Exactness Matters for Physical Rule Enforcement [4.230349220081444]
  より強い物理ルールの執行がいつ信頼できるか、いつそれが流通シフトの源となるかは、まだ不明である。 この問題は作用素の正確性(すなわち、補修写像が対象多様体上の恒等写像であるかどうか)を通して研究する。 制御ミスマッチ、スクリーニングされたクリーンアップ、アダプティブゲーティング、および外部バックボーンチェックは、最適な近似登録操作ポイントが生またはほぼ同一であることを示す。
  論文  参考訳（メタデータ） (2026-05-08T07:59:59Z)
• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• Rethinking Reconstruction Autoencoder-Based Out-of-Distribution Detection [0.0]
  リコンストラクションオートエンコーダに基づく手法は、入力再構成誤差を新規性対正規性の計量として用いることでこの問題に対処する。 本稿では, 意味的再構成, データの確実性分解, 正規化L2距離を導入し, 元の手法を大幅に改善する。 提案手法は,追加データや実装の困難さ,時間を要するパイプライン,さらには既知のクラスの分類精度を損なうことなく機能する。
  論文  参考訳（メタデータ） (2022-03-04T09:04:55Z)
• Edge Rewiring Goes Neural: Boosting Network Resilience via Policy Gradient [62.660451283548724]
  ResiNetは、さまざまな災害や攻撃に対する回復力のあるネットワークトポロジを発見するための強化学習フレームワークである。 ResiNetは複数のグラフに対してほぼ最適のレジリエンス向上を実現し,ユーティリティのバランスを保ちながら,既存のアプローチに比べて大きなマージンを持つことを示す。
  論文  参考訳（メタデータ） (2021-10-18T06:14:28Z)
• Structured and Localized Image Restoration [141.75042935077465]
  本稿では,局所的構造予測と非線形マルチタスク学習のアイデアを活用した画像復元手法を提案する。 平均二乗およびユークリッド標準誤差に基づいて対応するエネルギーのアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2020-06-16T15:43:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。