論文の概要: Federated Art Chase: Privacy Leakage and Data Poisoning in Federated Fine-Tuning

• arxiv url: http://arxiv.org/abs/2610.21547v1
• Date: Thu, 15 Oct 2026 09:11:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.298596
• Title: Federated Art Chase: Privacy Leakage and Data Poisoning in Federated Fine-Tuning
• Title（参考訳）: Federated Art Chase:Federated Fine-Tuningにおけるプライバシ漏洩とデータ中毒
• Abstract要約: フェデレートラーニング(FL)は、ユーザーデバイスに残るデータに、事前訓練された、集中的に微調整されたモデルを適用するために、ますます使われています。 再現可能なパイプラインを用いて,このアプローチのプライバシと完全性について検討する。 レポートは、参加者がIndigmaのFedMaestroオーケストレータを通じてモデルを描画、微調整、毒殺するライブセッションで終了する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) is increasingly used to adapt a pretrained, centrally fine-tuned model to data that remain on user devices, beyond training a model from scratch. In this report, prepared for the 4th Federated Machine Learning International Summer School, we study the privacy and integrity of this approach with a reproducible pipeline. An ImageNet-pretrained MobileNetV4-Conv-Small model is fine-tuned centrally on ten Quick, Draw! classes (97.50% test accuracy) and then adapted with head-only FedAvg over ten non-IID clients, which raises client training accuracy from 90.34% to 91.49% while preserving global accuracy. We evaluate four adversarial scenarios. First, from a single one-step client update, an honest-but-curious server recovers the complete private label set, but its reconstructions follow class prototypes rather than the private drawings (mean SSIM 0.130). Second, from a one-round FedAvg aggregate, label-count recovery falls from 87.5% with one client to 75.0% with five and ten clients, below the 80.0% of an uninformed uniform guess. Third, under FedAvg, a backdoor injected by 30%, 50%, and 100% of the clients reaches an attack success rate (ASR) of 21.9%, 31.3%, and 54.7% at a cost of at most 0.8 percentage points of clean accuracy, whereas label flipping is effective only when most of the source-class data are relabeled. Fourth, FLTrust with a root set retained from centralized fine-tuning lowers the backdoor ASR to 1.8% and 4.0% at 30% and 50% malicious clients and the label-flipping ASR from 12.6% to 0.8% without measurable clean-accuracy loss, but provides no protection when every client is malicious. The report closes with a live session in which participants draw, fine-tune, and poison the model through Indigma's FedMaestro orchestrator. Code and executed notebooks, runnable on Google Colab, are at https://github.com/Indigma-Innovations/fl-summer-school.
• Abstract（参考訳）: フェデレートラーニング(FL)は、スクラッチからモデルをトレーニングする以外に、ユーザデバイスに残るデータに、事前訓練された、集中的に調整されたモデルを適用するために、ますます使われています。 本報告では,第4回フェデレート機械学習国際サマースクールに備えて,再現可能なパイプラインを用いて,このアプローチのプライバシと整合性について検討する。 ImageNet-pretrained MobileNetV4-Conv-Smallモデルは、10のQuick, Draw!クラス(97.50%のテスト精度)で微調整され、10の非IIDクライアント上でヘッドオンリーのFedAvgに適合し、クライアントのトレーニング精度は90.34%から91.49%に向上する。 敵のシナリオを4つ評価する。 まず、単一のワンステップのクライアント更新から、真面目だがクレージーなサーバが完全なプライベートラベルセットを復元するが、その再構築はプライベートドローイングではなくクラスプロトタイプに従う(つまりSSIM 0.130)。 第二に、1ラウンドのFedAvgアグリゲーションから、ラベルのリカバリは1つのクライアントで87.5%から5と10のクライアントで75.0%に減少し、インフォームされていない均一な推測の80.0%を下回る。 第三に、FedAvgの下では、クライアントの30%、50%、100%で注入されたバックドアが21.9%、31.3%、54.7%の攻撃成功率(ASR)に達する。 第4に、ルートセットが集中的な微調整から保持されているFLTrustは、バックドアASRを30%、50%の悪意のあるクライアントで1.8%、ラベルフリップASRを12.6%から0.8%に下げる。 レポートは、参加者がIndigmaのFedMaestroオーケストレータを通じてモデルを描画、微調整、毒殺するライブセッションで終了する。 Google Colabで実行可能なコードおよび実行ノートブックはhttps://github.com/Indigma-Innovations/fl-summer-schoolにある。

関連論文リスト

• WaSA: Wavelet Scattering Autoencoders for Unsupervised Offline Detection of Malicious Clients in Federated Learning [51.56484100374058]
  Federated Learning(FL)は、生データを公開することなく、協調的なモデルトレーニングを可能にする。 我々は、悪意のあるクライアント検出のための完全に教師なしのオフラインフレームワーク、WaSAを提案する。 クリーンな補助データのみに基づいて訓練されたデノナイジングオートエンコーダは、学習された良性多様体からの偏差に基づいてクライアントをスコアする。
  論文  参考訳（メタデータ） (2026-10-09T08:10:10Z)
• ORDERS: An Empirical Study of Norm-Rank Aggregation for Personalized Federated Learning [0.0]
  本稿では,共有バックボーン,プライベートな残差アダプタと分類器,および更新ノルムによって割り当てられた幾何重みを組み合わせた構成について検討する。 8つの設定、2つのデータセット、データセット毎に1つの固定パーティションに5つのトレーニングシード。 2クラス毎のCIFAR-10では、ORDERS 80.51 pm 0.79%$ネイティブ平均クライアント精度が79.02 pm 1.42%$のFedPer-R1と80.27 pm 0.73%$の一致した一様ウェイト制御が達成されている。
  論文  参考訳（メタデータ） (2026-10-07T16:31:44Z)
• HE-OFT: Privacy-Preserving One-Shot Federated Fine-Tuning under Homomorphic Encryption [1.332713003014756]
  HE-OFT(英語版)は、訓練されたモデルを受け取らない最初の暗号でセキュアなワンショット・フェデレーション・ファインチューニングプロトコルである。 4つのテキスト分類タスクでは、HE-OFTは61～79パーセントの精度に達し、クライアントのトレーニング単独では20～48パーセントである。
  論文  参考訳（メタデータ） (2026-10-06T12:35:08Z)
• FedAttr: Towards Privacy-preserving Client-Level Attribution in Federated LLM Fine-tuning [58.80511162314259]
  我々はフェデレート学習のための新しいクライアントレベルの属性プロトコルであるFedAttrを提案する。 FedAttrは、ペア化されたサブセット差分メカニズムを通じて、ウォーターマークされたデータでトレーニングされたクライアントを特定する。 100%のTPRと0%のFPRを達成し、TPRでは少なくとも44.4%、FPRでは19.1%を上回り、FLトレーニング時間に比べて6.3%のオーバーヘッドしか残っていない。
  論文  参考訳（メタデータ） (2026-05-07T17:21:02Z)
• FedEMA-Distill: Exponential Moving Average Guided Knowledge Distillation for Robust Federated Learning [1.1393603788068776]
  フェデレーテッド・ラーニング(FL)は、クライアントが不均一な非独立性(non-Independent)およびIdentically Distributed(non-IID)データを保持すると、しばしば劣化する。 本稿では,グローバルモデルの指数移動平均(EMA)とクライアント負荷予測ロジットからのアンサンブル知識蒸留を組み合わせたサーバサイドプロシージャであるFedEMA-Distillを提案する。
  論文  参考訳（メタデータ） (2026-02-15T01:40:45Z)
• Prediction-space knowledge markets for communication-efficient federated learning on multimedia tasks [0.0]
  フェデレートラーニング(FL)は、分散マルチメディアデータによる協調トレーニングを可能にする。 FLの予測空間知識取引市場であるKTA v2を提案する。 FEMNIST、CIFAR-10、AG Newsの実験では、KTA v2はローカルのみのベースラインと強力なパラメータベースの手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2025-11-30T11:24:19Z)
• Enhancing Federated Learning Privacy with QUBO [0.0]
  フェデレーテッド・ラーニング(FL)は、プライバシを保ちながらスケーラブルな方法で機械学習(ML)モデルをトレーニングするための広く使われている方法である。 本稿では,トレーニング中のクライアントによる情報漏洩と,グローバルモデルのクエリや取得が可能な敵の2つの脅威ベクトルに着目した。 20ラウンドで300のクライアントを持つMNISTデータセットの実験では、1ラウンドあたり95.2%、累積プライバシー露出が49%減少した。
  論文  参考訳（メタデータ） (2025-11-04T18:06:30Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• Patch-Level Contrasting without Patch Correspondence for Accurate and Dense Contrastive Representation Learning [79.43940012723539]
  ADCLRは、正確で高密度な視覚表現を学習するための自己教師型学習フレームワークである。 提案手法は, コントラッシブな手法のための新しい最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-06-23T07:38:09Z)
• FedRecover: Recovering from Poisoning Attacks in Federated Learning using Historical Information [67.8846134295194]
  フェデレートラーニングは、悪意のあるクライアントが世界モデルに毒を盛る攻撃に対して脆弱である。 我々はFedRecoverを提案する。これは、クライアントに対して少量のコストで、毒殺攻撃から正確なグローバルモデルを取り戻すことができる。
  論文  参考訳（メタデータ） (2022-10-20T00:12:34Z)
• Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
  フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。 我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。 我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
  論文  参考訳（メタデータ） (2022-03-05T02:31:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。