論文の概要: FNBench: Benchmarking Robust Federated Learning against Noisy Labels
- arxiv url: http://arxiv.org/abs/2505.06684v1
- Date: Sat, 10 May 2025 16:14:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-13 20:21:48.987273
- Title: FNBench: Benchmarking Robust Federated Learning against Noisy Labels
- Title(参考訳): FNBench: ノイズラベルに対するロバストなフェデレーション学習のベンチマーク
- Authors: Xuefeng Jiang, Jia Li, Nannan Wu, Zhiyuan Wu, Xujing Li, Sheng Sun, Gang Xu, Yuwei Wang, Qi Li, Min Liu,
- Abstract要約: 本稿では,フェデレートラーニング(FL)における雑音ラベルに関する最初のベンチマーク研究について述べる。
本稿では, 合成ラベルノイズ, 不完全な人間のアノテーション誤り, 系統的誤りを含む3種類のラベルノイズパターンについて考察する。
評価には、5つの画像認識データセットと1つのテキスト分類データセットに18の最先端手法が組み込まれている。
- 参考スコア(独自算出の注目度): 23.660857480962104
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Robustness to label noise within data is a significant challenge in federated learning (FL). From the data-centric perspective, the data quality of distributed datasets can not be guaranteed since annotations of different clients contain complicated label noise of varying degrees, which causes the performance degradation. There have been some early attempts to tackle noisy labels in FL. However, there exists a lack of benchmark studies on comprehensively evaluating their practical performance under unified settings. To this end, we propose the first benchmark study FNBench to provide an experimental investigation which considers three diverse label noise patterns covering synthetic label noise, imperfect human-annotation errors and systematic errors. Our evaluation incorporates eighteen state-of-the-art methods over five image recognition datasets and one text classification dataset. Meanwhile, we provide observations to understand why noisy labels impair FL, and additionally exploit a representation-aware regularization method to enhance the robustness of existing methods against noisy labels based on our observations. Finally, we discuss the limitations of this work and propose three-fold future directions. To facilitate related communities, our source code is open-sourced at https://github.com/Sprinter1999/FNBench.
- Abstract(参考訳): データ内のノイズをラベル付けするロバストさは、連邦学習(FL)において重要な課題である。
データ中心の観点からは、異なるクライアントのアノテーションには様々なレベルの複雑なラベルノイズが含まれているため、分散データセットのデータ品質は保証できない。
FLでは、ノイズの多いラベルに対処するための初期の試みがいくつかあった。
しかし、統一された設定下での実用性能を総合的に評価するベンチマーク研究は存在しない。
そこで本研究では,合成ラベルノイズ,不完全な人体アノテーションエラー,系統的誤りを含む3種類のラベルノイズパターンについて検討した。
評価には、5つの画像認識データセットと1つのテキスト分類データセットに18の最先端手法が組み込まれている。
一方、ノイズラベルがFLを損なう理由を理解するために観測を行い、また、既存のノイズラベルに対するロバスト性を高めるために、表現対応正規化手法を利用した。
最後に,本研究の限界について論じ,今後の3つの方向性を提案する。
関連コミュニティを促進するため,ソースコードはhttps://github.com/Sprinter1999/FNBench.comで公開されている。
関連論文リスト
- Co-Learning Meets Stitch-Up for Noisy Multi-label Visual Recognition [70.00984078351927]
本稿では,多ラベル分類と長期学習の特徴に基づく雑音の低減に焦点をあてる。
よりクリーンなサンプルを合成し,マルチラベルノイズを直接低減するStitch-Up拡張を提案する。
ヘテロジニアス・コラーニング・フレームワークは、長い尾の分布とバランスの取れた分布の不整合を活用するためにさらに設計されている。
論文 参考訳(メタデータ) (2023-07-03T09:20:28Z) - FedNoisy: Federated Noisy Label Learning Benchmark [53.73816587601204]
フェデレーション学習は、クライアントからの機密データを集約することなく、分散学習で人気を集めている。
データ分離の分散と分離の性質は、データ品質によって複雑になり、ノイズの多いラベルに対してより脆弱になる可能性がある。
私たちは、研究者が潜在的にフェデレートされたノイズ設定を十分に調査するのに役立つ、最初の標準ベンチマークを提供しています。
論文 参考訳(メタデータ) (2023-06-20T16:18:14Z) - Towards Federated Learning against Noisy Labels via Local
Self-Regularization [11.077889765623588]
フェデレーテッド・ラーニング(FL)は、ラベル付きデータをプライバシを保存する方法で、大規模に分散化されたデバイスから共同知識を学ぶことを目的としている。
高品質なラベル付きデータは高価な人間の知性と努力を必要とするため、誤ったラベル(ノイズラベルと呼ばれる)を持つデータは現実にはどこにでもある。
本研究では,雑音ラベルを暗黙的に記憶することによる局所的な学習過程を効果的に調整する局所自己正規化手法を提案する。
論文 参考訳(メタデータ) (2022-08-25T04:03:12Z) - Neighborhood Collective Estimation for Noisy Label Identification and
Correction [92.20697827784426]
ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。
近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。
提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
論文 参考訳(メタデータ) (2022-08-05T14:47:22Z) - S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
本稿では,ラベルノイズの存在下での分類の問題に対処する。
提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。
提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
論文 参考訳(メタデータ) (2021-11-22T15:49:20Z) - Learning with Noisy Labels Revisited: A Study Using Real-World Human
Annotations [54.400167806154535]
ノイズラベルを用いた学習に関する既存の研究は、主に合成ラベルノイズに焦点を当てている。
本研究は2つの新しいベンチマークデータセット(CIFAR-10N, CIFAR-100N)を示す。
実世界のノイズラベルは古典的に採用されたクラス依存のラベルではなく、インスタンス依存のパターンに従うことを示す。
論文 参考訳(メタデータ) (2021-10-22T22:42:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。