論文の概要: Prediction-space knowledge markets for communication-efficient federated learning on multimedia tasks

• arxiv url: http://arxiv.org/abs/2512.00841v1
• Date: Sun, 30 Nov 2025 11:24:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-02 19:46:34.447944
• Title: Prediction-space knowledge markets for communication-efficient federated learning on multimedia tasks
• Title（参考訳）: マルチメディアタスクにおけるコミュニケーション効率のよいフェデレーション学習のための予測空間知識市場
• Authors: Wenzhang Du,
• Abstract要約: フェデレートラーニング(FL)は、分散マルチメディアデータによる協調トレーニングを可能にする。 FLの予測空間知識取引市場であるKTA v2を提案する。 FEMNIST、CIFAR-10、AG Newsの実験では、KTA v2はローカルのみのベースラインと強力なパラメータベースの手法を一貫して上回っている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) enables collaborative training over distributed multimedia data but suffers acutely from statistical heterogeneity and communication constraints, especially when clients deploy large models. Classic parameter-averaging methods such as FedAvg transmit full model weights and can diverge under nonindependent and identically distributed (non-IID) data. We propose KTA v2, a prediction-space knowledge trading market for FL. Each round, clients locally train on their private data, then share only logits on a small public reference set. The server constructs a client-client similarity graph in prediction space, combines it with reference-set accuracy to form per-client teacher ensembles, and sends back personalized soft targets for a second-stage distillation update. This two-stage procedure can be interpreted as approximate block-coordinate descent on a unified objective with prediction-space regularization. Experiments on FEMNIST, CIFAR-10 and AG News show that, under comparable or much lower communication budgets, KTA v2 consistently outperforms a local-only baseline and strong parameter-based methods (FedAvg, FedProx), and substantially improves over a FedMD-style global teacher. On CIFAR-10 with ResNet-18, KTA v2 reaches 57.7% test accuracy using approximately 1/1100 of FedAvg's communication, while on AG News it attains 89.3% accuracy with approximately 1/300 of FedAvg's traffic.
• Abstract（参考訳）: フェデレートラーニング(FL)は、分散マルチメディアデータ上での協調トレーニングを可能にするが、特にクライアントが大規模モデルをデプロイする場合、統計的不均一性や通信の制約に非常に苦しむ。 FedAvgのような古典的なパラメータ検出手法は、完全なモデル重みを送信し、非独立で同一に分散された(非IID)データの下で分散することができる。 FLの予測空間知識取引市場であるKTA v2を提案する。 各ラウンドで、クライアントはプライベートデータをローカルにトレーニングし、小さな公開参照セットでのみログを共有する。 サーバは、予測空間内でクライアント-クライアント間類似性グラフを構築し、参照セット精度と組み合わせて、クライアント毎の教師アンサンブルを形成し、第2段蒸留更新のためにパーソナライズされたソフトターゲットを返送する。 この2段階の手順は、予測空間正則化を伴う統一目的に対する近似ブロック座標降下と解釈できる。 FEMNIST、CIFAR-10、AG Newsの実験では、同等またはより低い通信予算の下で、KTA v2は、ローカルのみのベースラインと強力なパラメータベースのメソッド(FedAvg、FedProx)を一貫して上回り、FedMDスタイルのグローバル教師よりも大幅に改善されている。 CIFAR-10とResNet-18では、KTA v2はFedAvgの通信の約1/1100を使用して57.7%の精度に達し、AG NewsではFedAvgのトラフィックの約1/300で89.3%の精度を達成した。

関連論文リスト

• FedFeat+: A Robust Federated Learning Framework Through Federated Aggregation and Differentially Private Feature-Based Classifier Retraining [26.546920912051522]
  本稿では,特徴抽出と分類を区別するFedFeat+フレームワークを提案する。 差分プライバシー機構を実装することにより,モデルの精度向上と個人のプライバシー保護のバランスを確立する。 CIFAR-10, CIFAR-100, MNIST, FMNISTなど, ベンチマークデータセット上で行った経験的評価により, 本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2025-04-08T13:12:38Z)
• Parametric Feature Transfer: One-shot Federated Learning with Foundation Models [14.97955440815159]
  ワンショットのフェデレーション学習では、クライアントは単一のコミュニケーションでグローバルモデルを協調的にトレーニングする。 本稿では,基礎モデルの転送可能性を利用してワンショットFLの精度と通信効率を向上させる手法であるFedPFTを紹介する。
  論文  参考訳（メタデータ） (2024-02-02T19:34:46Z)
• Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
  Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。 本稿では,FedInsという新しいFLアルゴリズムを提案する。 我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:58:47Z)
• FedCliP: Federated Learning with Client Pruning [3.796320380104124]
  フェデレートラーニング(Federated Learning、FL)は、新たな分散ラーニングパラダイムである。 FLの基本的なボトルネックの1つは、分散クライアントと中央サーバの間の通信オーバーヘッドである。 マクロの観点から,最初の通信効率のよいFLトレーニングフレームワークであるFedCliPを提案する。
  論文  参考訳（メタデータ） (2023-01-17T09:15:37Z)
• FedSkip: Combatting Statistical Heterogeneity with Federated Skip Aggregation [95.85026305874824]
  我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。 我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
  論文  参考訳（メタデータ） (2022-12-14T13:57:01Z)
• Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
  フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。 我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。 我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
  論文  参考訳（メタデータ） (2022-03-05T02:31:32Z)
• Unifying Distillation with Personalization in Federated Learning [1.8262547855491458]
  Federated Learning(FL)は、クライアントがデータを共有せずに中央アグリゲータを通じて共同作業モデルを学習する分散プライバシ保護学習技術である。 この設定では、すべてのクライアントが単一の共通予測器(FedAvg)を学習する。 本稿では,2段階のパーソナライズされた学習アルゴリズムPersFLを用いてこの問題に対処する。 第1段階では、PersFLはFLトレーニングフェーズにおいて各クライアントの最適な教師モデルを見つけ、第2段階では、PersFLは有用な知識を抽出する。
  論文  参考訳（メタデータ） (2021-05-31T17:54:29Z)
• Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
  フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。 本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。 Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
  論文  参考訳（メタデータ） (2021-04-27T18:23:54Z)
• CatFedAvg: Optimising Communication-efficiency and Classification Accuracy in Federated Learning [2.2172881631608456]
  そこで我々はCatFedAvgというフェデレート学習アルゴリズムを新たに導入した。 コミュニケーション効率は向上するが、NIST戦略のカテゴリカバレッジを用いて学習の質を向上させる。 実験の結果,FedAvgよりもネットワーク転送率が70%低いMデータセットでは,10%の絶対点精度が向上していることがわかった。
  論文  参考訳（メタデータ） (2020-11-14T06:52:02Z)
• WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
  データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。 本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
  論文  参考訳（メタデータ） (2020-08-13T04:26:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。