論文の概要: How Sparsity Allocation Shapes Label-Free Post-Pruning Recoverability

• arxiv url: http://arxiv.org/abs/2605.21972v1
• Date: Thu, 21 May 2026 04:03:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 20:14:18.518104
• Title: How Sparsity Allocation Shapes Label-Free Post-Pruning Recoverability
• Title（参考訳）: 余剰転位がラベルフリーの回収性にどのように影響するか
• Abstract要約: プレニング後の修復法は部分的に崩壊したスパースモデルを復元できるが、その有効性は上流のプルースアロケーションが残したスパースモデルに依存する。 本稿では, 固定されたアクティベーション統計補修バックエンドにおいて, 空間配置が修復後の回復性にどう影響するかを考察する。
• 参考スコア（独自算出の注目度）: 4.9112670395105305
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unstructured magnitude pruning at high sparsity can reduce neural network accuracy to near-random performance, while labeled retraining may be unavailable in practical deployment settings. Label-free post-pruning repair methods can partially recover collapsed sparse models, but their effectiveness depends on the sparse model left by the upstream pruning allocation. This paper studies how sparsity allocation shapes post-repair recoverability under a fixed activation-statistic repair backend. We compare ERK and LAMP allocations under the same label-free repair protocol across CIFAR-10, CIFAR-100, and Imagenette with ResNet-18, ResNet-34, and ResNet-50 at sparsities from 90% to 95.5%. The results show that allocation choice can substantially change post-repair accuracy at the same global sparsity, and that the preferred allocation varies with architecture, dataset difficulty, and sparsity level. We identify a repair-sensitive transition regime in which BatchNorm recalibration begins to fail, while activation-statistic repair still recovers nontrivial accuracy. Additional validation on ImageNet-100 and DenseNet-121 shows that the location and width of this recoverable regime depend on data scale and connectivity structure. These findings suggest that pruning allocation and post-pruning repair should be studied jointly, since the allocation determines how much activation signal remains available for label-free recovery.
• Abstract（参考訳）: 高間隔での非構造的マグニチュードプルーニングは、ニューラルネットワークの精度をほぼランダムなパフォーマンスに低下させる可能性があるが、ラベル付きリトレーニングは実践的なデプロイメント設定では利用できない可能性がある。 ラベルのないプレニング後修復法は部分的に崩壊したスパースモデルを復元できるが、その有効性は上流プルーニングアロケーションが残したスパースモデルに依存する。 本稿では, 固定されたアクティベーション統計補修バックエンドにおいて, 空間配置が修復後の回復性にどう影響するかを考察する。 我々は、CIFAR-10、CIFAR-100、Imagenetteを、ResNet-18、ResNet-34、ResNet-50で、同一のラベルのない修復プロトコルの下でERKとLAMPを90%から95.5%の範囲で比較した。 その結果、アロケーションの選択は、同じグローバルな間隔で、リペア後の精度を大幅に変えることができ、好みのアロケーションは、アーキテクチャ、データセットの難易度、スパーシリティレベルによって変化することが示された。 我々は,BatchNormの再校正が失敗し始め,アクティベーション統計による修復が相変わらず非自明な精度で回復するという,修復に敏感な遷移機構を同定する。 ImageNet-100とDenseNet-121のさらなる検証は、回復可能なレシエーションの位置と幅がデータスケールと接続構造に依存することを示している。 これらの結果から, ラベルフリーリカバリにどの程度のアクティベーション信号が残っているかは, プルーニングアロケーションとポストプルーニング修復を共同で検討すべきであることが示唆された。

関連論文リスト

• Restore What Matters: Lessons from Joint Restoration and Recognition [72.91692240810536]
  認識パイプラインは通常、再認識ワークフローを採用するが、数十年の経験から、視覚的に満足な画像を生成することは、認識を改善するためにめったにないことを示している。 下流のタスクが本当に必要とするものだけを復元し、タスク信号がどこで、どのくらい、そして、修復が必要なのかを判断する。 我々は、より良い外観のイメージは必要でも十分でもないと結論付け、復元モジュールはタスク駆動で、選択的で、物理的に認識されなければならない。
  論文  参考訳（メタデータ） (2026-09-12T08:08:08Z)
• TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
  大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。 しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。 凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。 MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
  論文  参考訳（メタデータ） (2026-08-18T23:40:28Z)
• Bend the Basics: Degradation-Aware Deformable Tokenization for All-in-One Image Restoration [72.64498743287601]
  オールインワン画像復元は、多様で空間的に一様でない腐敗によって劣化した画像を復元できる単一のモデルを求める。 パイプライン全体にわたる劣化認識をモデル化するフレキシブル・イメージ・トランスフォーマー(FIT)を提案する。 FITは、30.72dBの平均PSNRを5次劣化設定で32.83dBを3次劣化設定で達成し、最近の統一修復法を+0.5$sim$1.1dBで上回った。
  論文  参考訳（メタデータ） (2026-08-07T05:44:31Z)
• Relative Repairability: A Calibration-Based Diagnostic for High-Sparsity Post-Pruning Allocation [12.288779306467768]
  相対修復性 (RR) はキャリブレーションに基づく診断であり、層状プルーニングによる生の活性化歪みとチャネル状分散整合修復後の残留歪みを比較する。 RRはアーキテクチャ依存の回復可能性遷移(Recoverability transition)の近くで最も有用であり、標準的な構造や大きさに基づくアロケーションが信頼性を失い始めるが、修復後のリカバリはまだ完全には崩壊していない。 これらの結果から, 高い疎水性プルーニングは, 保持重量だけでなく, 修復性にも寄与することが示唆された。
  論文  参考訳（メタデータ） (2026-05-25T07:12:38Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Adaptive Signal Resuscitation: Channel-wise Post-Pruning Repair for Sparse Vision Networks [8.5133415329194]
  1発のマグニチュードプルーニングは、高スパーシティ・レシエーションにおいて深刻な精度の崩壊を引き起こす可能性がある。 そこで我々は,ASR (Adaptive Signal Resuscitation) を訓練不要なチャネルワイズ修復法として提案する。 ASRは、各出力チャネルの分散マッチング補正を推定し、データ駆動収縮規則で安定化する。
  論文  参考訳（メタデータ） (2026-05-20T17:19:01Z)
• DegBins: Degradation-Driven Binning for Depth Super-Resolution [57.61783461543096]
  DegBinsは、劣化駆動のビンニングを利用して残留モデリングを適応的に強化する新しいDSRフレームワークである。 DegBinsは、精度、堅牢性、一般化の観点から、既存の最先端メソッドを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-05-10T16:17:11Z)
• Restoration-Aligned Generative Flow Models for Blind Motion Deblurring [57.425021485907756]
  本稿では,フロー軌跡自体を再構成することで,不整合を解消するフレームワークであるDeFlowを紹介する。 この定式化の下では、標準フローマッチング損失は自然に残留損失の形を取る。 GoPro、HIDE、RealBlur、RWBIの実験では、DeFlowは強力な復元忠実性と知覚リアリズムを実現している。
  論文  参考訳（メタデータ） (2026-05-09T10:05:51Z)
• Exactness Matters for Physical Rule Enforcement [4.230349220081444]
  より強い物理ルールの執行がいつ信頼できるか、いつそれが流通シフトの源となるかは、まだ不明である。 この問題は作用素の正確性(すなわち、補修写像が対象多様体上の恒等写像であるかどうか)を通して研究する。 制御ミスマッチ、スクリーニングされたクリーンアップ、アダプティブゲーティング、および外部バックボーンチェックは、最適な近似登録操作ポイントが生またはほぼ同一であることを示す。
  論文  参考訳（メタデータ） (2026-05-08T07:59:59Z)
• ANNEAL: Adapting LLM Agents via Governed Symbolic Patch Learning [12.44509691077682]
  本稿では,繰り返し発生する障害をプロセス知識グラフのシンボル編集に変換する神経シンボルエージェントであるANNEALを紹介する。 その中核となるメカニズムであるFDKA(Failure-Driven Knowledge Acquisition)は、責任のあるオペレータをローカライズし、制約付きLLM生成を通じて型付きパッチを合成し、提案を検証する。 4つのドメインと27のマルチシードランをまたいだANNEALは、永続的な構造修復を行う唯一の評価システムである。
  論文  参考訳（メタデータ） (2026-05-04T05:24:03Z)
• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• Rethinking Reconstruction Autoencoder-Based Out-of-Distribution Detection [0.0]
  リコンストラクションオートエンコーダに基づく手法は、入力再構成誤差を新規性対正規性の計量として用いることでこの問題に対処する。 本稿では, 意味的再構成, データの確実性分解, 正規化L2距離を導入し, 元の手法を大幅に改善する。 提案手法は,追加データや実装の困難さ,時間を要するパイプライン,さらには既知のクラスの分類精度を損なうことなく機能する。
  論文  参考訳（メタデータ） (2022-03-04T09:04:55Z)
• Edge Rewiring Goes Neural: Boosting Network Resilience via Policy Gradient [62.660451283548724]
  ResiNetは、さまざまな災害や攻撃に対する回復力のあるネットワークトポロジを発見するための強化学習フレームワークである。 ResiNetは複数のグラフに対してほぼ最適のレジリエンス向上を実現し,ユーティリティのバランスを保ちながら,既存のアプローチに比べて大きなマージンを持つことを示す。
  論文  参考訳（メタデータ） (2021-10-18T06:14:28Z)
• Structured and Localized Image Restoration [141.75042935077465]
  本稿では,局所的構造予測と非線形マルチタスク学習のアイデアを活用した画像復元手法を提案する。 平均二乗およびユークリッド標準誤差に基づいて対応するエネルギーのアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2020-06-16T15:43:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。