論文の概要: Horizontal Federated Learning and Secure Distributed Training for
Recommendation System with Intel SGX
- arxiv url: http://arxiv.org/abs/2207.05079v1
- Date: Mon, 11 Jul 2022 14:07:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-13 14:00:55.557302
- Title: Horizontal Federated Learning and Secure Distributed Training for
Recommendation System with Intel SGX
- Title(参考訳): 水平フェデレーション学習とintel sgxによるレコメンデーションシステムのためのセキュアな分散トレーニング
- Authors: Siyuan Hui, Yuqiu Zhang, Albert Hu, Edmund Song
- Abstract要約: 勧告システムは我々の社会に多くの応用がある。
レコメンデーションシステムのモデル構築は、ユーザのデータとは分離できないことが多い。
データセキュリティを確保しつつ、分散レコメンデーションシステムをトレーニングする方法は、緊急に解決すべき問題となっている。
- 参考スコア(独自算出の注目度): 0.688204255655161
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the advent of big data era and the development of artificial
intelligence and other technologies, data security and privacy protection have
become more important. Recommendation systems have many applications in our
society, but the model construction of recommendation systems is often
inseparable from users' data. Especially for deep learning-based recommendation
systems, due to the complexity of the model and the characteristics of deep
learning itself, its training process not only requires long training time and
abundant computational resources but also needs to use a large amount of user
data, which poses a considerable challenge in terms of data security and
privacy protection. How to train a distributed recommendation system while
ensuring data security has become an urgent problem to be solved. In this
paper, we implement two schemes, Horizontal Federated Learning and Secure
Distributed Training, based on Intel SGX(Software Guard Extensions), an
implementation of a trusted execution environment, and TensorFlow framework, to
achieve secure, distributed recommendation system-based learning schemes in
different scenarios. We experiment on the classical Deep Learning
Recommendation Model (DLRM), which is a neural network-based machine learning
model designed for personalization and recommendation, and the results show
that our implementation introduces approximately no loss in model performance.
The training speed is within acceptable limits.
- Abstract(参考訳): ビッグデータ時代の到来と人工知能やその他の技術の発展により、データセキュリティとプライバシ保護がますます重要になっている。
推薦システムは我々の社会に多くの応用があるが、推薦システムのモデル構築はユーザーのデータと区別できないことが多い。
特にディープラーニングベースのレコメンデーションシステムでは、モデルの複雑さとディープラーニング自体の特性のため、トレーニングプロセスは長いトレーニング時間と豊富な計算資源を必要とするだけでなく、大量のユーザデータを使用する必要があるため、データセキュリティとプライバシ保護という面で大きな課題が生じる。
データセキュリティを確保しつつ、分散レコメンデーションシステムをトレーニングする方法は、緊急に解決すべき問題となっている。
本稿では,信頼された実行環境の実装であるIntel SGX(Software Guard Extensions)に基づく水平フェデレーション学習とセキュア分散トレーニングという2つのスキームを実装し,異なるシナリオでセキュアで分散されたシステムベースの学習スキームを実現するためのTensorFlowフレームワークを提案する。
我々は、パーソナライズとレコメンデーションのために設計されたニューラルネットワークベースの機械学習モデルである古典的なDeep Learning Recommendation Model (DLRM) を実験し、モデル性能にほぼ損失がないことを示す。
訓練速度は許容範囲内である。
関連論文リスト
- Ungeneralizable Examples [70.76487163068109]
学習不能なデータを作成するための現在のアプローチには、小さくて特殊なノイズが組み込まれている。
学習不能データの概念を条件付きデータ学習に拡張し、textbfUntextbf Generalizable textbfExamples (UGEs)を導入する。
UGEは認証されたユーザに対して学習性を示しながら、潜在的なハッカーに対する非学習性を維持している。
論文 参考訳(メタデータ) (2024-04-22T09:29:14Z) - Dynamic Sparse Learning: A Novel Paradigm for Efficient Recommendation [20.851925464903804]
本稿では,リコメンデーションモデルに適した新しい学習パラダイムであるDynamic Sparse Learningを紹介する。
DSLは革新的に、スクラッチから軽量スパースモデルをトレーニングし、各ウェイトの重要性を定期的に評価し、動的に調整する。
実験結果は、DSLの有効性を裏付け、トレーニングと推論のコストを大幅に削減し、同等のレコメンデーションパフォーマンスを提供する。
論文 参考訳(メタデータ) (2024-02-05T10:16:20Z) - On Efficient Training of Large-Scale Deep Learning Models: A Literature
Review [90.87691246153612]
ディープラーニングの分野は特にコンピュータビジョン(CV)、自然言語処理(NLP)、音声などにおいて大きな進歩を遂げている。
大量のデータに基づいてトレーニングされた大規模なモデルを使用することは、実用的なアプリケーションにとって大きな可能性を秘めている。
計算能力の需要が増大する中で、ディープラーニングモデルの訓練の加速技術に関する包括的な要約が期待されている。
論文 参考訳(メタデータ) (2023-04-07T11:13:23Z) - Dependable Intrusion Detection System for IoT: A Deep Transfer
Learning-based Approach [0.0]
本論文は,いくつかの既存手法より優れた深層移動学習型信頼型IDSモデルを提案する。
これは、少量のラベル付きデータに対して、通常のシナリオとアタックシナリオを特定するのに最も適している、効果的な属性選択を含んでいる。
また、信頼性の高い深層移動学習ベースのResNetモデルや、実世界のデータを考慮した評価も含んでいる。
論文 参考訳(メタデータ) (2022-04-11T02:46:22Z) - Privacy-Preserving Serverless Edge Learning with Decentralized Small
Data [13.254530176359182]
最近、分散トレーニング戦略は、ディープモデルをトレーニングする際のデータプライバシを保証するための有望なアプローチになっている。
本稿では、従来のサーバレスプラットフォームをサーバレスエッジ学習アーキテクチャで拡張し、ネットワークの観点から効率的な分散トレーニングフレームワークを提供する。
論文 参考訳(メタデータ) (2021-11-29T21:04:49Z) - Incremental Learning for Personalized Recommender Systems [8.020546404087922]
トレーニング効率とモデル品質の両方を提供するために,インクリメンタルな学習ソリューションを提案する。
このソリューションはLinkedInにデプロイされ、産業規模のレコメンデーションシステムに直接適用される。
論文 参考訳(メタデータ) (2021-08-13T04:21:21Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - Chance-Constrained Trajectory Optimization for Safe Exploration and
Learning of Nonlinear Systems [81.7983463275447]
学習に基づく制御アルゴリズムは、訓練のための豊富な監督を伴うデータ収集を必要とする。
本稿では,機会制約付き最適制御と動的学習とフィードバック制御を統合した安全な探索による最適動作計画のための新しいアプローチを提案する。
論文 参考訳(メタデータ) (2020-05-09T05:57:43Z) - A Privacy-Preserving Distributed Architecture for
Deep-Learning-as-a-Service [68.84245063902908]
本稿では,ディープラーニング・アズ・ア・サービスのための分散アーキテクチャを提案する。
クラウドベースのマシンとディープラーニングサービスを提供しながら、ユーザの機密データを保存できる。
論文 参考訳(メタデータ) (2020-03-30T15:12:03Z) - Differentially Private Federated Learning for Resource-Constrained
Internet of Things [24.58409432248375]
フェデレーション学習は、中央にデータをアップロードすることなく、分散されたスマートデバイスから大量のデータを分析できる。
本稿では、IoTのリソース制約されたスマートデバイスにまたがるデータから機械学習モデルを効率的にトレーニングするためのDP-PASGDと呼ばれる新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-03-28T04:32:54Z) - Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G
Networks [84.2155885234293]
まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。
このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-02-22T14:38:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。