論文の概要: Prediction-space knowledge markets for communication-efficient federated learning on multimedia tasks

• arxiv url: http://arxiv.org/abs/2512.00841v1
• Date: Sun, 30 Nov 2025 11:24:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-02 19:46:34.447944
• Title: Prediction-space knowledge markets for communication-efficient federated learning on multimedia tasks
• Title（参考訳）: マルチメディアタスクにおけるコミュニケーション効率のよいフェデレーション学習のための予測空間知識市場
• Abstract要約: フェデレートラーニング(FL)は、分散マルチメディアデータによる協調トレーニングを可能にする。 FLの予測空間知識取引市場であるKTA v2を提案する。 FEMNIST、CIFAR-10、AG Newsの実験では、KTA v2はローカルのみのベースラインと強力なパラメータベースの手法を一貫して上回っている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) enables collaborative training over distributed multimedia data but suffers acutely from statistical heterogeneity and communication constraints, especially when clients deploy large models. Classic parameter-averaging methods such as FedAvg transmit full model weights and can diverge under nonindependent and identically distributed (non-IID) data. We propose KTA v2, a prediction-space knowledge trading market for FL. Each round, clients locally train on their private data, then share only logits on a small public reference set. The server constructs a client-client similarity graph in prediction space, combines it with reference-set accuracy to form per-client teacher ensembles, and sends back personalized soft targets for a second-stage distillation update. This two-stage procedure can be interpreted as approximate block-coordinate descent on a unified objective with prediction-space regularization. Experiments on FEMNIST, CIFAR-10 and AG News show that, under comparable or much lower communication budgets, KTA v2 consistently outperforms a local-only baseline and strong parameter-based methods (FedAvg, FedProx), and substantially improves over a FedMD-style global teacher. On CIFAR-10 with ResNet-18, KTA v2 reaches 57.7% test accuracy using approximately 1/1100 of FedAvg's communication, while on AG News it attains 89.3% accuracy with approximately 1/300 of FedAvg's traffic.
• Abstract（参考訳）: フェデレートラーニング(FL)は、分散マルチメディアデータ上での協調トレーニングを可能にするが、特にクライアントが大規模モデルをデプロイする場合、統計的不均一性や通信の制約に非常に苦しむ。 FedAvgのような古典的なパラメータ検出手法は、完全なモデル重みを送信し、非独立で同一に分散された(非IID)データの下で分散することができる。 FLの予測空間知識取引市場であるKTA v2を提案する。 各ラウンドで、クライアントはプライベートデータをローカルにトレーニングし、小さな公開参照セットでのみログを共有する。 サーバは、予測空間内でクライアント-クライアント間類似性グラフを構築し、参照セット精度と組み合わせて、クライアント毎の教師アンサンブルを形成し、第2段蒸留更新のためにパーソナライズされたソフトターゲットを返送する。 この2段階の手順は、予測空間正則化を伴う統一目的に対する近似ブロック座標降下と解釈できる。 FEMNIST、CIFAR-10、AG Newsの実験では、同等またはより低い通信予算の下で、KTA v2は、ローカルのみのベースラインと強力なパラメータベースのメソッド(FedAvg、FedProx)を一貫して上回り、FedMDスタイルのグローバル教師よりも大幅に改善されている。 CIFAR-10とResNet-18では、KTA v2はFedAvgの通信の約1/1100を使用して57.7%の精度に達し、AG NewsではFedAvgのトラフィックの約1/300で89.3%の精度を達成した。

関連論文リスト

• FedCC: Towards Addressing Label Distribution Skews in Distillation-Based Federated Learning [6.693752118202639]
  Federated Learning (FL)は、分散クライアントが生データを共有せずに、協力的にモデルをトレーニングすることを可能にする。 蒸留ベースのFLでは、各クライアントはそのローカルモデルをラベルなしのパブリックデータセットに適用し、サーバにのみ予測結果を共有する。 本稿では,クライアントの誤分類を緩和する簡易かつ効果的なアルゴリズムであるFedCCを提案する。
  論文  参考訳（メタデータ） (2026-08-24T09:34:26Z)
• Optimized Federated Knowledge Distillation with Distributed Neural Architecture Search [7.461859467262201]
  フェデレートラーニング(FL)は、データを集中せずに協調的なモデルトレーニングを可能にする。 既存のFLアプローチは、集約、パーソナライゼーション、知識蒸留の改善を通じてこれらの課題を軽減する。 この研究は、クライアント側ニューラルアーキテクチャ選択とサーバ協調知識の蒸留を組み合わせた蒸留駆動FLフレームワークであるFedKDNASを紹介する。
  論文  参考訳（メタデータ） (2026-05-20T15:50:49Z)
• FedAttr: Towards Privacy-preserving Client-Level Attribution in Federated LLM Fine-tuning [58.80511162314259]
  我々はフェデレート学習のための新しいクライアントレベルの属性プロトコルであるFedAttrを提案する。 FedAttrは、ペア化されたサブセット差分メカニズムを通じて、ウォーターマークされたデータでトレーニングされたクライアントを特定する。 100%のTPRと0%のFPRを達成し、TPRでは少なくとも44.4%、FPRでは19.1%を上回り、FLトレーニング時間に比べて6.3%のオーバーヘッドしか残っていない。
  論文  参考訳（メタデータ） (2026-05-07T17:21:02Z)
• FedEMA-Distill: Exponential Moving Average Guided Knowledge Distillation for Robust Federated Learning [1.1393603788068776]
  フェデレーテッド・ラーニング(FL)は、クライアントが不均一な非独立性(non-Independent)およびIdentically Distributed(non-IID)データを保持すると、しばしば劣化する。 本稿では,グローバルモデルの指数移動平均(EMA)とクライアント負荷予測ロジットからのアンサンブル知識蒸留を組み合わせたサーバサイドプロシージャであるFedEMA-Distillを提案する。
  論文  参考訳（メタデータ） (2026-02-15T01:40:45Z)
• FedFeat+: A Robust Federated Learning Framework Through Federated Aggregation and Differentially Private Feature-Based Classifier Retraining [26.546920912051522]
  本稿では,特徴抽出と分類を区別するFedFeat+フレームワークを提案する。 差分プライバシー機構を実装することにより,モデルの精度向上と個人のプライバシー保護のバランスを確立する。 CIFAR-10, CIFAR-100, MNIST, FMNISTなど, ベンチマークデータセット上で行った経験的評価により, 本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2025-04-08T13:12:38Z)
• Parametric Feature Transfer: One-shot Federated Learning with Foundation Models [14.97955440815159]
  ワンショットのフェデレーション学習では、クライアントは単一のコミュニケーションでグローバルモデルを協調的にトレーニングする。 本稿では,基礎モデルの転送可能性を利用してワンショットFLの精度と通信効率を向上させる手法であるFedPFTを紹介する。
  論文  参考訳（メタデータ） (2024-02-02T19:34:46Z)
• Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
  Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。 本稿では,FedInsという新しいFLアルゴリズムを提案する。 我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:58:47Z)
• FedCliP: Federated Learning with Client Pruning [3.796320380104124]
  フェデレートラーニング(Federated Learning、FL)は、新たな分散ラーニングパラダイムである。 FLの基本的なボトルネックの1つは、分散クライアントと中央サーバの間の通信オーバーヘッドである。 マクロの観点から,最初の通信効率のよいFLトレーニングフレームワークであるFedCliPを提案する。
  論文  参考訳（メタデータ） (2023-01-17T09:15:37Z)
• FedSkip: Combatting Statistical Heterogeneity with Federated Skip Aggregation [95.85026305874824]
  我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。 我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
  論文  参考訳（メタデータ） (2022-12-14T13:57:01Z)
• FL Games: A Federated Learning Framework for Distribution Shifts [71.98708418753786]
  フェデレートラーニングは、サーバのオーケストレーションの下で、クライアント間で分散されたデータの予測モデルをトレーニングすることを目的としている。 本稿では,クライアント間で不変な因果的特徴を学習するフェデレーション学習のためのゲーム理論フレームワークFL GAMESを提案する。
  論文  参考訳（メタデータ） (2022-10-31T22:59:03Z)
• Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
  フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。 我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。 我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
  論文  参考訳（メタデータ） (2022-03-05T02:31:32Z)
• Unifying Distillation with Personalization in Federated Learning [1.8262547855491458]
  Federated Learning(FL)は、クライアントがデータを共有せずに中央アグリゲータを通じて共同作業モデルを学習する分散プライバシ保護学習技術である。 この設定では、すべてのクライアントが単一の共通予測器(FedAvg)を学習する。 本稿では,2段階のパーソナライズされた学習アルゴリズムPersFLを用いてこの問題に対処する。 第1段階では、PersFLはFLトレーニングフェーズにおいて各クライアントの最適な教師モデルを見つけ、第2段階では、PersFLは有用な知識を抽出する。
  論文  参考訳（メタデータ） (2021-05-31T17:54:29Z)
• Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
  フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。 本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。 Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
  論文  参考訳（メタデータ） (2021-04-27T18:23:54Z)
• CatFedAvg: Optimising Communication-efficiency and Classification Accuracy in Federated Learning [2.2172881631608456]
  そこで我々はCatFedAvgというフェデレート学習アルゴリズムを新たに導入した。 コミュニケーション効率は向上するが、NIST戦略のカテゴリカバレッジを用いて学習の質を向上させる。 実験の結果,FedAvgよりもネットワーク転送率が70%低いMデータセットでは,10%の絶対点精度が向上していることがわかった。
  論文  参考訳（メタデータ） (2020-11-14T06:52:02Z)
• WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
  データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。 本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
  論文  参考訳（メタデータ） (2020-08-13T04:26:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。