論文の概要: Entity Augmentation for Efficient Classification of Vertically Partitioned Data with Limited Overlap

• arxiv url: http://arxiv.org/abs/2406.17899v1
• Date: Tue, 25 Jun 2024 19:20:10 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-27 15:27:11.642963
• Title: Entity Augmentation for Efficient Classification of Vertically Partitioned Data with Limited Overlap
• Title（参考訳）: 有限オーバーラップによる垂直分割データの効率的な分類のためのエンティティ拡張
• Authors: Avi Amalanshu, Viswesh Nagaswamy, G. V. S. S. Prudhvi, Yash Sirvi, Debashish Chakravarty,
• Abstract要約: Vertical Federated Learning(VFL)は、垂直に分割されたデータから学習するための機械学習パラダイムである。 本稿では,カテゴリー的タスクにおける整合性や整合性の必要性を解消する新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 0.3495246564946556
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vertical Federated Learning (VFL) is a machine learning paradigm for learning from vertically partitioned data (i.e. features for each input are distributed across multiple "guest" clients and an aggregating "host" server owns labels) without communicating raw data. Traditionally, VFL involves an "entity resolution" phase where the host identifies and serializes the unique entities known to all guests. This is followed by private set intersection to find common entities, and an "entity alignment" step to ensure all guests are always processing the same entity's data. However, using only data of entities from the intersection means guests discard potentially useful data. Besides, the effect on privacy is dubious and these operations are computationally expensive. We propose a novel approach that eliminates the need for set intersection and entity alignment in categorical tasks. Our Entity Augmentation technique generates meaningful labels for activations sent to the host, regardless of their originating entity, enabling efficient VFL without explicit entity alignment. With limited overlap between training data, this approach performs substantially better (e.g. with 5% overlap, 48.1% vs 69.48% test accuracy on CIFAR-10). In fact, thanks to the regularizing effect, our model performs marginally better even with 100% overlap.
• Abstract（参考訳）: 垂直フェデレートラーニング(英: Vertical Federated Learning、VFL)とは、垂直に分割されたデータから学習するための機械学習パラダイムである。 伝統的に、VFLはホストがすべてのゲストに知られているユニークなエンティティを識別しシリアライズする「エンティ解決」フェーズを伴っている。 これに続いて、共通のエンティティを見つけるためのプライベートセットの交差点と、すべてのゲストが常に同じエンティティのデータを処理することを確実にするための"エンティティアライメント"ステップが続く。 しかし、交差点からのエンティティのデータのみを使用することで、ゲストは潜在的に有用なデータを捨てる。 さらに、プライバシーへの影響は疑わしいものであり、これらの操作は計算に費用がかかる。 本稿では,カテゴリー的タスクにおける整合性や整合性の必要性を解消する新しい手法を提案する。 我々のEntity Augmentation技術は、元のエンティティに関係なく、ホストに送信されるアクティベーションに意味のあるラベルを生成し、明示的なエンティティアライメントなしに効率的なVFLを可能にする。 トレーニングデータ間の重複が限定されているため、このアプローチは大幅に改善されている(例えば、5%オーバーラップ、48.1%対CIFAR-10のテスト精度69.48%)。 実際、正規化効果のおかげで、100%オーバーラップしても、我々のモデルは極端に良くなっています。

関連論文リスト

• Navigating Data Heterogeneity in Federated Learning A Semi-Supervised Federated Object Detection [3.7398615061365206]
  フェデレートラーニング(FL)は、分散データソース間でモデルをトレーニングするための強力なフレームワークとして登場した。 特に自動運転のようなアプリケーションでは、高品質なラベルや、IID以外のクライアントデータに制限がある。 クライアントがラベル付きデータを持っている間、ラベル付きデータがサーバにのみ存在するシナリオ用に設計された、先駆的なSSFODフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-26T01:40:28Z)
• Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
  Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。 本稿では,FedInsという新しいFLアルゴリズムを提案する。 我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:58:47Z)
• Benchmarking FedAvg and FedCurv for Image Classification Tasks [1.376408511310322]
  本稿では,同じフェデレーションネットワークにおけるデータの統計的不均一性の問題に焦点をあてる。 FedAvg、FedProx、Federated Curvature(FedCurv)など、いくつかのフェデレートラーニングアルゴリズムがすでに提案されている。 この研究の副産物として、FLコミュニティからのさらなる比較を容易にするために使用したデータセットの非IIDバージョンをリリースします。
  論文  参考訳（メタデータ） (2023-03-31T10:13:01Z)
• Subspace based Federated Unlearning [75.90552823500633]
  フェデレート・アンラーニング(FL)は、ユーザが忘れられる権利を満たすために、特定のターゲットクライアントのFLへの貢献を取り除くことを目的としている。 既存のフェデレートされた未学習アルゴリズムでは、パラメータの更新履歴をサーバに格納する必要がある。 そこで我々は,SFUと呼ばれる,単純なyet効率のサブスペースに基づくフェデレーションアンラーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-02-24T04:29:44Z)
• Rethinking Data Heterogeneity in Federated Learning: Introducing a New Notion and Standard Benchmarks [65.34113135080105]
  我々は、現在のセットアップにおけるデータ不均一性の問題が必ずしも問題であるだけでなく、FL参加者にとって有益であることを示す。 私たちの観察は直感的である。 私たちのコードはhttps://github.com/MMorafah/FL-SC-NIIDで利用可能です。
  論文  参考訳（メタデータ） (2022-09-30T17:15:19Z)
• Efficient Distribution Similarity Identification in Clustered Federated Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
  クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。 既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。 以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
  論文  参考訳（メタデータ） (2022-09-21T17:37:54Z)
• Mitigating Data Heterogeneity in Federated Learning with Data Augmentation [26.226057709504733]
  Federated Learning(FL)は、集中型モデルのトレーニングを可能にするフレームワークである。 主な障害の1つは、データ不均一性、すなわち、各クライアントが独立に独立に分散した(非IID)データを持っていることである。 最近の証拠は、データ拡張が同等またはそれ以上のパフォーマンスを誘導できることを示している。
  論文  参考訳（メタデータ） (2022-06-20T19:47:43Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)
• Federated Learning with Taskonomy for Non-IID Data [0.0]
  タスクノミーによる連合学習を導入する。 ワンオフプロセスでは、サーバーはクライアントに事前に訓練された(そして微調整可能な)エンコーダを提供し、データを遅延表現に圧縮し、データの署名をサーバーに送信します。 サーバは、マニホールド学習を通じてクライアント間のタスク関連性を学び、フェデレーション平均化の一般化を実行する。
  論文  参考訳（メタデータ） (2021-03-29T20:47:45Z)
• i-Mix: A Domain-Agnostic Strategy for Contrastive Representation Learning [117.63815437385321]
  対照的な表現学習を改善するために, 単純で効果的なドメインに依存しない正規化戦略i-Mixを提案する。 実験では、i-Mixはドメイン間の学習表現の質を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2020-10-17T23:32:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。