論文の概要: Beyond Loss Values: Robust Dynamic Pruning via Loss Trajectory Alignment

• arxiv url: http://arxiv.org/abs/2604.07306v1
• Date: Wed, 08 Apr 2026 17:14:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.655982
• Title: Beyond Loss Values: Robust Dynamic Pruning via Loss Trajectory Alignment
• Title（参考訳）: 損失値を超えた:損失軌道アライメントによるロバストなダイナミックプルーニング
• Authors: Huaiyuan Qin, Muli Yang, Gabriel James Goenawan, Kai Wang, Zheng Wang, Peng Hu, Xi Peng, Hongyuan Zhu,
• Abstract要約: 既存の動的データプルーニングメソッドは、ノイズの多いラベル設定で失敗することが多い。 本稿では,ラベル雑音下での動的刈り出しの信頼性向上を目的としたノイズローバストモジュールAlignPruneを提案する。 シンプルだが効果的なプラグイン・アンド・プレイモジュールであるAlignPruneは、最先端の動的プルーニングフレームワークにシームレスに統合できる。
• 参考スコア（独自算出の注目度）: 45.1555422417891
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing dynamic data pruning methods often fail under noisy-label settings, as they typically rely on per-sample loss as the ranking criterion. This could mistakenly lead to preserving noisy samples due to their high loss values, resulting in significant performance drop. To address this, we propose AlignPrune, a noise-robust module designed to enhance the reliability of dynamic pruning under label noise. Specifically, AlignPrune introduces the Dynamic Alignment Score (DAS), which is a loss-trajectory-based criterion that enables more accurate identification of noisy samples, thereby improving pruning effectiveness. As a simple yet effective plug-and-play module, AlignPrune can be seamlessly integrated into state-of-the-art dynamic pruning frameworks, consistently outperforming them without modifying either the model architecture or the training pipeline. Extensive experiments on five widely-used benchmarks across various noise types and pruning ratios demonstrate the effectiveness of AlignPrune, boosting accuracy by up to 6.3\% over state-of-the-art baselines. Our results offer a generalizable solution for pruning under noisy data, encouraging further exploration of learning in real-world scenarios. Code is available at: https://github.com/leonqin430/AlignPrune.
• Abstract（参考訳）: 既存の動的データプルーニングメソッドは、通常、ランキング基準としてサンプル単位の損失に依存するため、ノイズの多いラベル設定で失敗することが多い。 これは、高い損失値のためにノイズのあるサンプルを保存するのに誤ってつながり、結果としてパフォーマンスが大幅に低下する可能性がある。 そこで本稿では,ラベル雑音下での動的プルーニングの信頼性向上を目的としたノイズロバストモジュールAlignPruneを提案する。 具体的には、AlignPruneは、ノイズサンプルのより正確な識別を可能にする損失軌跡に基づく基準であるDynamic Alignment Score(DAS)を導入し、プルーニングの有効性を改善した。 シンプルだが効果的なプラグイン・アンド・プレイモジュールであるAlignPruneは、最先端の動的プルーニングフレームワークにシームレスに統合され、モデルアーキテクチャやトレーニングパイプラインを変更することなく、一貫してパフォーマンスが向上する。 様々なノイズタイプとプルーニング比で広く使用されている5つのベンチマークに対する大規模な実験は、AlignPruneの有効性を示し、最先端のベースラインに対する精度を最大6.3倍に向上させる。 実世界のシナリオにおける学習のさらなる探索を奨励し,ノイズの多いデータの下での学習を一般化可能なソリューションを提供する。 コードは、https://github.com/leonqin430/AlignPrune.comで入手できる。

関連論文リスト

• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• Robust Self-Training with Closed-loop Label Correction for Learning from Noisy Labels [29.68163073890278]
  ノイズの多いラベルでディープニューラルネットワークをトレーニングすることは、依然として大きな課題である。 分離二段階最適化を用いた自己学習ラベル補正フレームワークを提案する。 提案手法は, 地中構造を伝達するために, ノイズのある後部シミュレーションと中間特徴を用いる。
  論文  参考訳（メタデータ） (2026-03-14T11:10:17Z)
• Machine Unlearning for Robust DNNs: Attribution-Guided Partitioning and Neuron Pruning in Noisy Environments [5.8166742412657895]
  ディープニューラルネットワーク(DNN)は、さまざまなドメインで顕著な成功を収めているが、ノイズやトレーニングデータによってそのパフォーマンスが著しく低下する可能性がある。 本稿では,帰属誘導型データパーティショニング,識別的ニューロンプルーニング,およびノイズのあるサンプルの影響を軽減するための微調整を目的とした新しいフレームワークを提案する。 CIFAR-10の標準リトレーニングよりも約10%の絶対精度向上を実現し,ラベルノイズを注入した。
  論文  参考訳（メタデータ） (2025-06-13T09:37:11Z)
• Mitigating Instance-Dependent Label Noise: Integrating Self-Supervised Pretraining with Pseudo-Label Refinement [3.272177633069322]
  実世界のデータセットは、アノテーションプロセス中にヒューマンエラー、あいまいさ、リソース制約のために、ノイズの多いラベルを含むことが多い。 そこで本研究では,SimCLRを用いた自己教師型学習と反復的擬似ラベル改良を組み合わせた新しいフレームワークを提案する。 提案手法は,特に高騒音条件下では,いくつかの最先端手法よりも優れる。
  論文  参考訳（メタデータ） (2024-12-06T09:56:49Z)
• SoftPatch: Unsupervised Anomaly Detection with Noisy Data [67.38948127630644]
  本稿では,画像センサ異常検出におけるラベルレベルのノイズを初めて考察する。 本稿では,メモリベースの非教師付きAD手法であるSoftPatchを提案する。 既存の手法と比較して、SoftPatchは通常のデータの強力なモデリング能力を維持し、コアセットにおける過信問題を軽減する。
  論文  参考訳（メタデータ） (2024-03-21T08:49:34Z)
• Negative Pre-aware for Noisy Cross-modal Matching [46.5591267410225]
  雑音対応は認識と修正が難しいため,クロスモーダルノイズロバスト学習は難しい課題である。 本稿では,雑音の多い下流タスクに対する大規模視覚言語モデルファインタニングのための,否定的事前認識型クロスモーダルマッチングソリューションを提案する。
  論文  参考訳（メタデータ） (2023-12-10T05:52:36Z)
• Identifying Hard Noise in Long-Tailed Sample Distribution [71.8462682319137]
  NLT(Noisy Long-Tailed Classification)を紹介する。 ほとんどのノイズ除去法は、ハードノイズを特定するのに失敗する。 我々はH2E(Hard-to-Easy)と呼ばれる反復的な雑音学習フレームワークを設計する。
  論文  参考訳（メタデータ） (2022-07-27T09:03:03Z)
• Open-set Label Noise Can Improve Robustness Against Inherent Label Noise [27.885927200376386]
  オープンセットノイズラベルは非毒性であり, 固有ノイズラベルに対するロバスト性にも寄与することを示した。 本研究では,動的雑音ラベル(ODNL)を用いたオープンセットサンプルをトレーニングに導入することで,シンプルかつ効果的な正規化を提案する。
  論文  参考訳（メタデータ） (2021-06-21T07:15:50Z)
• Tackling Instance-Dependent Label Noise via a Universal Probabilistic Model [80.91927573604438]
  本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。 合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
  論文  参考訳（メタデータ） (2021-01-14T05:43:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。