論文の概要: Vertical Semi-Federated Learning for Efficient Online Advertising

• arxiv url: http://arxiv.org/abs/2209.15635v2
• Date: Sat, 1 Jul 2023 14:41:25 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-04 15:39:29.219171
• Title: Vertical Semi-Federated Learning for Efficient Online Advertising
• Title（参考訳）: 効果的なオンライン広告のための垂直セミフェデレーション学習
• Authors: Wenjie Li, Qiaolin Xia, Hao Cheng, Kouyin Xue, Shu-Tao Xia
• Abstract要約: VFLの実践的な産業的応用を実現するために,Semi-VFL (Vertical Semi-Federated Learning) を提案する。 サンプル空間全体に適用可能な推論効率のよいシングルパーティ学生モデルを構築した。 新しい表現蒸留法は、重なり合うデータと非重なり合うデータの両方について、パーティ間の特徴相関を抽出するように設計されている。
• 参考スコア（独自算出の注目度）: 50.18284051956359
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The traditional vertical federated learning schema suffers from two main issues: 1) restricted applicable scope to overlapped samples and 2) high system challenge of real-time federated serving, which limits its application to advertising systems. To this end, we advocate a new learning setting Semi-VFL (Vertical Semi-Federated Learning) to tackle these challenge. Semi-VFL is proposed to achieve a practical industry application fashion for VFL, by learning a federation-aware local model which performs better than single-party models and meanwhile maintain the convenience of local-serving. For this purpose, we propose the carefully designed Joint Privileged Learning framework (JPL) to i) alleviate the absence of the passive party's feature and ii) adapt to the whole sample space. Specifically, we build an inference-efficient single-party student model applicable to the whole sample space and meanwhile maintain the advantage of the federated feature extension. New representation distillation methods are designed to extract cross-party feature correlations for both the overlapped and non-overlapped data. We conducted extensive experiments on real-world advertising datasets. The results show that our method achieves the best performance over baseline methods and validate its superiority in the Semi-VFL setting.
• Abstract（参考訳）: 従来の垂直連合型学習スキーマは2つの主な問題に悩まされている。 1)重複試料に対する適用範囲の制限及び 2)リアルタイムフェデレートサービングのハイシステムチャレンジは,広告システムへの適用を制限している。 そこで我々は,これらの課題に取り組むために,新たな学習環境であるSemi-VFL(Vertical Semi-Federated Learning)を提案する。 単一パーティモデルよりも優れたフェデレーション対応ローカルモデルを学習し、一方、ローカルサービスの有用性を維持することで、VFLの実践的な産業的応用を実現するために、セミVFLを提案する。 そこで我々は,JPL(Joint Privileged Learning framework)を慎重に設計した。 一 受動的当事者の特徴の欠如を緩和し、かつ、 二 サンプル空間全体に適応すること。 具体的には、サンプル空間全体に適用可能な推論効率の高いシングルパーティの学生モデルを構築し、その一方で、フェデレーション機能拡張の利点を保ちます。 オーバーラップデータと非オーバーラップデータの両方に対するクロスパーティ特徴相関を抽出するために,新しい表現蒸留法が考案された。 実世界の広告データセットについて広範な実験を行った。 その結果,本手法はベースライン法よりも優れた性能を達成し,セミVFL設定におけるその優位性を検証した。

関連論文リスト

• Towards Active Participant-Centric Vertical Federated Learning: Some Representations May Be All You Need [0.0]
  VFL(Vertical Federated Learning)に新たなシンプルなアプローチを導入する。 Active Participant-Centric VFLは、アクティブな参加者が非協力的な方法で推論を行うことを可能にする。 この方法は、教師なし表現学習と知識蒸留を統合し、従来のVFL法に匹敵する精度を実現する。
  論文  参考訳（メタデータ） (2024-10-23T08:07:00Z)
• De-VertiFL: A Solution for Decentralized Vertical Federated Learning [7.877130417748362]
  この研究は、分散VFL設定でモデルをトレーニングするための新しいソリューションであるDe-VertiFLを紹介している。 De-VertiFLは、新しいネットワークアーキテクチャディストリビューション、革新的な知識交換スキーム、分散フェデレーショントレーニングプロセスを導入することで貢献する。 その結果、De-VertiFLは一般的にF1スコアのパフォーマンスにおいて最先端のメソッドを上回り、分散化とプライバシ保護のフレームワークを維持していることがわかった。
  論文  参考訳（メタデータ） (2024-10-08T15:31:10Z)
• A-FedPD: Aligning Dual-Drift is All Federated Primal-Dual Learning Needs [57.35402286842029]
  本稿では,グローバルクライアントとローカルクライアントの仮想二重配向を構成する新しいアラインドデュアルデュアル(A-FedPD)手法を提案する。 本稿では,A-FedPD方式の非集中型セキュリティコンセンサスに対する効率を包括的に分析する。
  論文  参考訳（メタデータ） (2024-09-27T17:00:32Z)
• Vertical Federated Learning Hybrid Local Pre-training [4.31644387824845]
  垂直フェデレート学習(VFL)のための新しいVFLハイブリッド局所事前学習(VFLHLP)手法を提案する。 VFLHLPはまず、参加者のローカルデータに基づいて、ローカルネットワークを事前訓練する。 そして、これらの事前学習ネットワークを使用して、ラベル付きパーティのサブモデルを調整するか、あるいは、アライメントされたデータ上で下流のフェデレーション学習中に、他のパーティの表現学習を強化する。
  論文  参考訳（メタデータ） (2024-05-20T08:57:39Z)
• Unlocking the Potential of Prompt-Tuning in Bridging Generalized and Personalized Federated Learning [49.72857433721424]
  Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。 本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
  論文  参考訳（メタデータ） (2023-10-27T17:22:09Z)
• Semi-Federated Learning: Convergence Analysis and Optimization of A Hybrid Learning Framework [70.83511997272457]
  本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。 我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
  論文  参考訳（メタデータ） (2023-10-04T03:32:39Z)
• Towards Fairer and More Efficient Federated Learning via Multidimensional Personalized Edge Models [36.84027517814128]
  フェデレートラーニング(FL)は、プライバシーを維持しながら、大規模で地理的に分散したエッジデータをトレーニングする。 複数の次元からFLの不均一性を除去するカスタム・フェデレート・ラーニング(CFL)システムを提案する。 CFLは、オンライントレーニングされたモデル検索ヘルパーと新しい集約アルゴリズムによって、クライアントごとに特別に設計されたグローバルモデルからパーソナライズされたモデルをカスタマイズする。
  論文  参考訳（メタデータ） (2023-02-09T06:55:19Z)
• VFed-SSD: Towards Practical Vertical Federated Advertising [53.08038962443853]
  本稿では,2つの制限を緩和する半教師付き分割蒸留フレームワーク VFed-SSD を提案する。 具体的には,垂直分割された未ラベルデータを利用する自己教師型タスクMatchedPair Detection (MPD) を開発する。 当社のフレームワークは,デプロイコストの最小化と大幅なパフォーマンス向上を図った,リアルタイム表示広告のための効率的なフェデレーション強化ソリューションを提供する。
  論文  参考訳（メタデータ） (2022-05-31T17:45:30Z)
• Fine-tuning Global Model via Data-Free Knowledge Distillation for Non-IID Federated Learning [86.59588262014456]
  フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。 サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。 私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
  論文  参考訳（メタデータ） (2022-03-17T11:18:17Z)
• FedSemi: An Adaptive Federated Semi-Supervised Learning Framework [23.90642104477983]
  フェデレートラーニング(FL)は、データを共有し、プライバシーを漏らすことなく、機械学習モデルをコトレーニングするための効果的なテクニックとして登場した。 既存のFL法の多くは、教師付き設定に重点を置いて、ラベルなしデータの利用を無視している。 本稿では,FedSemiを提案する。FedSemiは,教師-学生モデルを用いてFLに整合性正則化を導入する新しい,適応的で汎用的なフレームワークである。
  論文  参考訳（メタデータ） (2020-12-06T15:46:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。