論文の概要: FedUD: Exploiting Unaligned Data for Cross-Platform Federated Click-Through Rate Prediction

• arxiv url: http://arxiv.org/abs/2407.18472v1
• Date: Fri, 26 Jul 2024 02:48:32 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-29 14:39:47.838855
• Title: FedUD: Exploiting Unaligned Data for Cross-Platform Federated Click-Through Rate Prediction
• Title（参考訳）: FedUD: クロスプラットフォーム・フェデレーションによるクリックスルーレート予測のための非整合データ公開
• Authors: Wentao Ouyang, Rui Dong, Ri Tao, Xiangzheng Liu,
• Abstract要約: クリックスルー率(CTR)予測は、オンライン広告プラットフォームにおいて重要な役割を果たす。 プライバシー上の懸念から、異なるプラットフォームからのデータは、集中型モデルトレーニングのためにサーバにアップロードすることはできない。 我々は、より正確なCTR予測のために、整合性のないデータに加えて、整合性のないデータを利用することができるFedUDを提案する。
• 参考スコア（独自算出の注目度）: 3.221675775415278
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Click-through rate (CTR) prediction plays an important role in online advertising platforms. Most existing methods use data from the advertising platform itself for CTR prediction. As user behaviors also exist on many other platforms, e.g., media platforms, it is beneficial to further exploit such complementary information for better modeling user interest and for improving CTR prediction performance. However, due to privacy concerns, data from different platforms cannot be uploaded to a server for centralized model training. Vertical federated learning (VFL) provides a possible solution which is able to keep the raw data on respective participating parties and learn a collaborative model in a privacy-preserving way. However, traditional VFL methods only utilize aligned data with common keys across parties, which strongly restricts their application scope. In this paper, we propose FedUD, which is able to exploit unaligned data, in addition to aligned data, for more accurate federated CTR prediction. FedUD contains two steps. In the first step, FedUD utilizes aligned data across parties like traditional VFL, but it additionally includes a knowledge distillation module. This module distills useful knowledge from the guest party's high-level representations and guides the learning of a representation transfer network. In the second step, FedUD applies the learned knowledge to enrich the representations of the host party's unaligned data such that both aligned and unaligned data can contribute to federated model training. Experiments on two real-world datasets demonstrate the superior performance of FedUD for federated CTR prediction.
• Abstract（参考訳）: クリックスルー率(CTR)予測は、オンライン広告プラットフォームにおいて重要な役割を果たす。 既存の手法のほとんどは、CTR予測に広告プラットフォーム自体のデータを使用する。 また,他のプラットフォーム,例えばメディアプラットフォームにもユーザ行動が存在するため,ユーザの興味をモデル化し,CTR予測性能を向上させるために,このような補完情報をさらに活用することは有益である。 しかし、プライバシー上の懸念から、異なるプラットフォームからのデータは集中型モデルトレーニングのためにサーバにアップロードすることはできない。 垂直連合学習(VFL)は、各参加者の生データを保存し、プライバシー保護の方法で協調モデルを学ぶことのできる、可能なソリューションを提供する。 しかし、従来のVFLメソッドは、パーティ間で共通のキーで整列したデータしか利用せず、アプリケーションの範囲を厳しく制限している。 本稿では、より正確なCTR予測のために、整合性のないデータに加えて、整合性のないデータを利用することができるFedUDを提案する。 FedUDには2つのステップがある。 最初のステップでは、FedUDは従来のVFLのようなパーティ間で整列データを利用するが、知識蒸留モジュールも含んでいる。 このモジュールは、ゲストパーティのハイレベルな表現から有用な知識を抽出し、表現伝達ネットワークの学習をガイドする。 2番目のステップでは、FedUDは学習知識を適用して、ホストの非整合データの表現を強化し、整合データと整合データの両方がフェデレートされたモデルトレーニングに寄与できるようにします。 2つの実世界のデータセットに対する実験は、フェデレーションCTR予測におけるFedUDの優れた性能を示す。

関連論文リスト

• Self-Comparison for Dataset-Level Membership Inference in Large (Vision-)Language Models [73.94175015918059]
  本稿では,自己比較に基づくデータセットレベルのメンバシップ推定手法を提案する。 本手法では, 同一分布における地中構造データや非構造データへのアクセスは不要である。
  論文  参考訳（メタデータ） (2024-10-16T23:05:59Z)
• Vertical Federated Learning Hybrid Local Pre-training [4.31644387824845]
  垂直フェデレート学習(VFL)のための新しいVFLハイブリッド局所事前学習(VFLHLP)手法を提案する。 VFLHLPはまず、参加者のローカルデータに基づいて、ローカルネットワークを事前訓練する。 そして、これらの事前学習ネットワークを使用して、ラベル付きパーティのサブモデルを調整するか、あるいは、アライメントされたデータ上で下流のフェデレーション学習中に、他のパーティの表現学習を強化する。
  論文  参考訳（メタデータ） (2024-05-20T08:57:39Z)
• Benchmarking FedAvg and FedCurv for Image Classification Tasks [1.376408511310322]
  本稿では,同じフェデレーションネットワークにおけるデータの統計的不均一性の問題に焦点をあてる。 FedAvg、FedProx、Federated Curvature(FedCurv)など、いくつかのフェデレートラーニングアルゴリズムがすでに提案されている。 この研究の副産物として、FLコミュニティからのさらなる比較を容易にするために使用したデータセットの非IIDバージョンをリリースします。
  論文  参考訳（メタデータ） (2023-03-31T10:13:01Z)
• Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
  フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。 FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。 SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。 本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2022-11-20T10:49:22Z)
• FairVFL: A Fair Vertical Federated Learning Framework with Contrastive Adversarial Learning [102.92349569788028]
  本稿では,VFLモデルの公平性を改善するために,FairVFL( Fair vertical federated learning framework)を提案する。 FairVFLの中核となる考え方は、分散化された機能フィールドに基づいたサンプルの統一的で公正な表現を、プライバシ保護の方法で学習することである。 ユーザのプライバシ保護のために,サーバ内の統一表現からプライベート情報を除去する対向学習手法を提案する。
  論文  参考訳（メタデータ） (2022-06-07T11:43:32Z)
• Adversarial Representation Sharing: A Quantitative and Secure Collaborative Learning Framework [3.759936323189418]
  コミュニケーションのオーバーヘッドが低く,タスク依存度が低いため,共同学習において表現学習には独特なアドバンテージがあることがわかった。 ARSは、ユーザがモデルを訓練するためにデータの表現を共有する協調学習フレームワークである。 我々は,本機構がモデル逆攻撃に対して有効であることを実証し,プライバシとユーティリティのバランスを実現する。
  論文  参考訳（メタデータ） (2022-03-27T13:29:15Z)
• Game of Privacy: Towards Better Federated Platform Collaboration under Privacy Restriction [95.12382372267724]
  Vertical Federated Learning (VFL)は、異なるプラットフォームに格納された異なる機能空間を持つクロスサイロデータからモデルをトレーニングすることを目的としている。 フェデレーション学習の固有のプライバシーリスクのため、関連するデータの総量は制限される可能性がある。 我々は、VFLフレームワークのマルチプラットフォーム情報を活用して、各プラットフォームが自身のタスクに役立てることができるような、相互協力を通じて、異なるプラットフォームをインセンティブにすることを提案する。
  論文  参考訳（メタデータ） (2022-02-10T16:45:40Z)
• Federated Doubly Stochastic Kernel Learning for Vertically Partitioned Data [93.76907759950608]
  本稿では,垂直分割データに対する2倍のカーネル学習アルゴリズムを提案する。 本稿では,FDSKLがカーネルを扱う場合,最先端のフェデレーション学習手法よりもはるかに高速であることを示す。
  論文  参考訳（メタデータ） (2020-08-14T05:46:56Z)
• FedOCR: Communication-Efficient Federated Learning for Scene Text Recognition [76.26472513160425]
  本研究では、分散化されたデータセットを用いて、ロバストなシーンテキスト認識器を訓練する方法について研究する。 FedOCRをエンドデバイスにデプロイするのに適したものにするために、軽量モデルとハッシュ技術の使用を含む2つの改善を行った。
  論文  参考訳（メタデータ） (2020-07-22T14:30:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。