論文の概要: Bilateral Differentially Private Vertical Federated Boosted Decision Trees
- arxiv url: http://arxiv.org/abs/2504.21739v1
- Date: Wed, 30 Apr 2025 15:37:44 GMT
- ステータス: 情報取得中
- システム内更新日: 2025-05-02 16:10:55.343847
- Title: Bilateral Differentially Private Vertical Federated Boosted Decision Trees
- Title（参考訳）: 左右差分性垂直有茎性隆起性決定木
- Authors: Bokang Zhang, Zhikun Zhang, Haodong Jiang, Yang Liu, Lihao Zheng, Yuxiao Zhou, Shuaiting Huang, Junfeng Wu,
- Abstract要約: フェデレーション学習(Federated Learning)は、データプライバシを確保しながら、複数のパーティ間で協調的なトレーニングを可能にする、分散機械学習パラダイムである。
本稿では,二元差分プライバシー保証を備えた垂直連合型XGBoostの変種を提案する: MaskedXGBoost。
有効性と効率の両面でのアルゴリズムの優位性を複数のデータセットで検証した。
- 参考スコア（独自算出の注目度）: 10.952674399412405
- License:
- Abstract: Federated learning is a distributed machine learning paradigm that enables collaborative training across multiple parties while ensuring data privacy. Gradient Boosting Decision Trees (GBDT), such as XGBoost, have gained popularity due to their high performance and strong interpretability. Therefore, there has been a growing interest in adapting XGBoost for use in federated settings via cryptographic techniques. However, it should be noted that these approaches may not always provide rigorous theoretical privacy guarantees, and they often come with a high computational cost in terms of time and space requirements. In this paper, we propose a variant of vertical federated XGBoost with bilateral differential privacy guarantee: MaskedXGBoost. We build well-calibrated noise to perturb the intermediate information to protect privacy. The noise is structured with part of its ingredients in the null space of the arithmetical operation for splitting score evaluation in XGBoost, helping us achieve consistently better utility than other perturbation methods and relatively lower overhead than encryption-based techniques. We provide theoretical utility analysis and empirically verify privacy preservation. Compared with other algorithms, our algorithm's superiority in both utility and efficiency has been validated on multiple datasets.
- Abstract（参考訳）: フェデレーション学習(Federated Learning)は、データプライバシを確保しながら、複数のパーティ間で協調的なトレーニングを可能にする、分散機械学習パラダイムである。
XGBoostのようなグラディエントブースティング決定木(GBDT)は高い性能と高い解釈可能性のために人気を集めている。
そのため、暗号技術によるフェデレートされた設定にXGBoostを適用することへの関心が高まっている。
しかし、これらのアプローチは必ずしも厳密な理論上のプライバシー保証を提供するわけではないため、時間と空間の要求の観点からも高い計算コストが伴うことが多いことに注意する必要がある。
本稿では,二元差分プライバシー保証を備えた垂直連合型XGBoostの変種を提案する: MaskedXGBoost。
私たちは、プライバシーを守るために中間情報を乱すために、よく校正されたノイズを構築します。
このノイズは、XGBoostのスコア評価を分割するための算術演算のヌル空間にその一部を組み込んで構成されており、他の摂動法よりも一貫した有効性を実現し、暗号ベースの手法よりも比較的低いオーバーヘッドを実現するのに役立ちます。
理論的ユーティリティ分析を行い、プライバシー保護を実証的に検証する。
他のアルゴリズムと比較して、我々のアルゴリズムの実用性と効率性は複数のデータセットで検証されている。
関連論文リスト
- Secure Federated XGBoost with CUDA-accelerated Homomorphic Encryption via NVIDIA FLARE [6.053716038605071]
フェデレートラーニング(FL)は、分散データセット間の協調モデルトレーニングを可能にする。
NVIDIA FLAREのFederated XGBoostは、人気のあるXGBoostアルゴリズムを、垂直および水平の両方のフェデレーション設定に拡張する。
最初の実施は、中間統計の共有に関する相互信頼を前提としていた。
これらのリスクを軽減するための効率的なソリューションとして,セキュアフェデレーションXGBoostを紹介します。
論文 参考訳（メタデータ） (2025-04-04T20:08:24Z) - Linear-Time User-Level DP-SCO via Robust Statistics [55.350093142673316]
ユーザレベルの差分プライベート凸最適化(DP-SCO)は、マシンラーニングアプリケーションにおけるユーザのプライバシ保護の重要性から、大きな注目を集めている。
微分プライベート勾配勾配(DP-SGD)に基づくような現在の手法は、しばしば高雑音蓄積と準最適利用に苦しむ。
これらの課題を克服するために、ロバストな統計、特に中央値とトリミング平均を利用する新しい線形時間アルゴリズムを導入する。
論文 参考訳（メタデータ） (2025-02-13T02:05:45Z) - Federated Cubic Regularized Newton Learning with Sparsification-amplified Differential Privacy [10.396575601912673]
そこで我々は,DP-FCRN (differially Private Federated Cubic Regularized Newton) というフェデレーション学習アルゴリズムを導入する。
2次手法を活用することにより,本アルゴリズムは1次手法に比べてイテレーションの複雑さを小さくする。
また、プライバシーを確保するために、局所的な計算中にノイズの摂動も取り入れる。
論文 参考訳（メタデータ） (2024-08-08T08:48:54Z) - TernaryVote: Differentially Private, Communication Efficient, and
Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。
提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
論文 参考訳（メタデータ） (2024-02-16T16:41:14Z) - Theoretically Principled Federated Learning for Balancing Privacy and
Utility [61.03993520243198]
モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。
フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
論文 参考訳（メタデータ） (2023-05-24T13:44:02Z) - On Differential Privacy and Adaptive Data Analysis with Bounded Space [76.10334958368618]
差分プライバシーと適応データ分析の2つの関連分野の空間複雑性について検討する。
差分プライバシーで効率的に解くために指数関数的に多くの空間を必要とする問題Pが存在することを示す。
アダプティブデータ分析の研究の行は、アダプティブクエリのシーケンスに応答するのに必要なサンプルの数を理解することに焦点を当てている。
論文 参考訳（メタデータ） (2023-02-11T14:45:31Z) - Federated Boosted Decision Trees with Differential Privacy [24.66980518231163]
本稿では,従来の決定木に対するアプローチをキャプチャし,拡張する汎用フレームワークを提案する。
高いレベルのプライバシを維持しながら、極めて高いユーティリティを実現することが可能であることを、慎重に選択することで示しています。
論文 参考訳（メタデータ） (2022-10-06T13:28:29Z) - Private Boosted Decision Trees via Smooth Re-Weighting [2.099922236065961]
微分プライバシーは、正式なプライバシー保証のための適切な数学的枠組みである。
差分プライバシーを保証する決定木を向上するための実用的なアルゴリズムを提案し,検証する。
論文 参考訳（メタデータ） (2022-01-29T20:08:52Z) - Differentially Private Federated Bayesian Optimization with Distributed
Exploration [48.9049546219643]
我々は、DPを反復アルゴリズムに追加するための一般的なフレームワークを通じて、ディープニューラルネットワークのトレーニングに差分プライバシ(DP)を導入する。
DP-FTS-DEは高い実用性(競争性能)と高いプライバシー保証を実現する。
また,DP-FTS-DEがプライバシとユーティリティのトレードオフを引き起こすことを示すために,実世界の実験も行っている。
論文 参考訳（メタデータ） (2021-10-27T04:11:06Z) - FedXGBoost: Privacy-Preserving XGBoost for Federated Learning [10.304484601250948]
フェデレーション学習(Federated Learning)は、データプライバシを確保しながら、複数のパーティ間で協調的なトレーニングを可能にする、分散機械学習フレームワークである。
本稿では,FedXGBoost-SMMとFedXGBoost-LDPの2種類のフェデレートXGBoostをプライバシ保証として提案する。
論文 参考訳（メタデータ） (2021-06-20T09:17:45Z) - Federated Doubly Stochastic Kernel Learning for Vertically Partitioned
Data [93.76907759950608]
本稿では,垂直分割データに対する2倍のカーネル学習アルゴリズムを提案する。
本稿では,FDSKLがカーネルを扱う場合,最先端のフェデレーション学習手法よりもはるかに高速であることを示す。
論文 参考訳（メタデータ） (2020-08-14T05:46:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。