論文の概要: Does Federated Training Degrade Explainability? A Comparative Analysis of Grad-CAM Faithfulness in Centralized vs. Federated Deepfake Detection

• arxiv url: http://arxiv.org/abs/2610.39483v1
• Date: Thu, 29 Oct 2026 06:49:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.46998
• Title: Does Federated Training Degrade Explainability? A Comparative Analysis of Grad-CAM Faithfulness in Centralized vs. Federated Deepfake Detection
• Title（参考訳）: フェデレーショントレーニングは説明責任を低下させるか? 集中型とディープフェイク検出におけるGrad-CAMの忠実度の比較分析
• Abstract要約: フェデレーション学習は、生データではなくモデル更新のみを共有することによって、プライバシの側面を解決する。 本研究は, ディープフェイク検出におけるGrad-CAM説明忠実度に関する系統的研究である。 フェデレーションと説明品質の関係は非モノトニックであることが判明した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Automated detection has become the essential safeguard against realistic synthetic media, but deploying it at scale requires training on sensitive data from multiple organizations, putting privacy and the transparency demanded by forensic review in direct conflict. Federated learning resolves the privacy side by sharing only model updates rather than raw data, but whether this comes at the cost of trustworthy gradient-based explanations, which analysts rely on to decide whether or not to trust a flagged clip, has not been studied. We present the systematic study of Grad-CAM explanation faithfulness under federated deepfake detection, evaluating an EfficientNet-B4 detector on FaceForensics++ across five federated clients under varying degrees of data heterogeneity. We find that the relationship between federation and explanation quality is non-monotonic: at near-IID (Independent and Identically Distributed Data) and moderate heterogeneity, federated models match or exceed the faithfulness of a centralized baseline, but at extreme heterogeneity, explanations break down entirely, becoming spatially incoherent and, on average, causally misleading. This degradation is not a general cost of federated training but a threshold effect tied to client heterogeneity, and we offer practical guidance for identifying when privacy-preserving deepfake detection can be deployed safely and when its explanations can no longer be trusted. Code and data partitions are available for reproducibility.
• Abstract（参考訳）: 自動検出は、現実的な合成メディアに対する必須の保護となっているが、大規模に展開するには、複数の組織からの機密データをトレーニングする必要がある。 フェデレートラーニング(Federated learning)は、生のデータではなくモデルのアップデートのみを共有することによって、プライバシの側面を解決します。 フェデレートディープフェイク検出におけるGrad-CAM説明忠実度に関する系統的研究を行い,データ不均一度の異なる5つのフェデレートクライアントに対して,FaceForensics++上での高効率Net-B4検出器の評価を行った。 フェデレーションと説明品質の関係は, ほぼIID(独立分散データ)と中等不均一性において, フェデレーションモデルが集中ベースラインの忠実度に一致するか, あるいは超越するが, 極端なヘテロジニティにおいては, 説明は完全に崩壊し, 空間的に不整合となり, 平均的には因果的誤解を招く。 この劣化は,フェデレーショントレーニングの一般的なコストではなく,クライアントの不均一性に関連するしきい値効果であり,プライバシ保護されたディープフェイク検出が安全にデプロイ可能で,その説明がもはや信頼できない場合を特定するための実用的なガイダンスを提供する。 コードとデータのパーティションは再現性のために利用できる。

関連論文リスト

• Privacy, Robustness, and Fairness Trade-offs in Federated Intrusion Detection: Geometric Indistinguishability at the Aggregation Interface [1.3037017215576172]
  フェデレーション学習は、センシティブなトラフィックデータを集中化せずに、プライバシを重視したネットワーク侵入検出を可能にする。 これは3つの競合する要件を同時に満たさなければならない: 公式な差分プライバシー保証、ビザンチンと敵対する参加者への寛容、重度の不均衡な攻撃カテゴリにわたる信頼性のある検出カバレッジ。 本研究では,これらの要求がクラス不均衡なNIDSにおいてどのように相互作用するかを考察し,クライアント更新におけるプライバシーによる分散が,ロバストアグリゲーションの保存を困難にしている状況において,幾何学的不明瞭性を概念レンズとして導入する。
  論文  参考訳（メタデータ） (2026-09-03T06:27:03Z)
• COSMO: Consensus-Driven Shift Modulation for Source-Free Domain Adaptation [79.43842208099619]
  ソースフリードメイン適応(SFDA)は、ソースデータなしでラベルなしのターゲットドメインにソーストレーニングされたモデルを適用する。 VLM誘導型SFDAを標本単位の信頼性割当問題として定式化する。 本稿では,専門家から専門家への指導を協調適応に置き換えるために,COSMO(Consensus-Driven Shift Modulation)を提案する。
  論文  参考訳（メタデータ） (2026-08-05T09:10:30Z)
• Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
  フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。 グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。 これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。 Byz-Clip21-SGD2Mを提案する。
  論文  参考訳（メタデータ） (2026-03-24T17:39:09Z)
• VALID: a Validated Algorithm for Learning in Decentralized Networks with Possible Adversarial Presence [13.612214163974459]
  不均一なデータを持つ非方向性ネットワークに対して、検証された分散学習のパラダイムを導入する。 VALIDプロトコルは、検証された学習保証を達成した最初のプロトコルである。 興味深いことに、VALIDは敵のない環境での最適なパフォーマンス指標を維持している。
  論文  参考訳（メタデータ） (2024-05-12T15:55:43Z)
• Efficient Conformal Prediction under Data Heterogeneity [79.35418041861327]
  コンフォーマル予測(CP)は不確実性定量化のための頑健な枠組みである。 非交換性に対処するための既存のアプローチは、最も単純な例を超えて計算不可能なメソッドにつながる。 この研究は、比較的一般的な非交換可能なデータ分布に対して証明可能な信頼セットを生成する、CPに新しい効率的なアプローチを導入する。
  論文  参考訳（メタデータ） (2023-12-25T20:02:51Z)
• Combating Exacerbated Heterogeneity for Robust Models in Federated Learning [91.88122934924435]
  対人訓練と連合学習の組み合わせは、望ましくない頑丈さの劣化につながる可能性がある。 我々は、Slack Federated Adversarial Training (SFAT)と呼ばれる新しいフレームワークを提案する。 各種ベンチマークおよび実世界のデータセットに対するSFATの合理性と有効性を検証する。
  論文  参考訳（メタデータ） (2023-03-01T06:16:15Z)
• Understanding Clipping for Federated Learning: Convergence and Client-Level Differential Privacy [67.4471689755097]
  本稿では, 切断したFedAvgが, 実質的なデータ均一性でも驚くほど良好に動作できることを実証的に示す。 本稿では,差分プライベート(DP)FedAvgアルゴリズムの収束解析を行い,クリッピングバイアスとクライアント更新の分布との関係を明らかにする。
  論文  参考訳（メタデータ） (2021-06-25T14:47:19Z)
• FedBoosting: Federated Learning with Gradient Protected Boosting for Text Recognition [7.988454173034258]
  フェデレートラーニング(FL)フレームワークは、データの集中化やデータオーナ間の共有なしに、共有モデルを協調的に学習することを可能にする。 本稿では,非独立性および非独立性分散(Non-IID)データに基づくジョイントモデルの一般化能力について述べる。 本稿では,FLの一般化と勾配リーク問題に対処する新しいブースティングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-14T18:47:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。