論文の概要: HETAL: Efficient Privacy-preserving Transfer Learning with Homomorphic Encryption

• arxiv url: http://arxiv.org/abs/2403.14111v1
• Date: Thu, 21 Mar 2024 03:47:26 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-22 15:36:52.225499
• Title: HETAL: Efficient Privacy-preserving Transfer Learning with Homomorphic Encryption
• Title（参考訳）: HETAL: 同型暗号化を用いた効率的なプライバシ保護トランスファー学習
• Authors: Seewoo Lee, Garam Lee, Jung Woo Kim, Junbum Shin, Mun-Kyu Lee,
• Abstract要約: HETALは、効率的な同型暗号化に基づく転送学習アルゴリズムである。 本稿では,従来の手法よりも1.8～323倍高速な暗号化行列乗算アルゴリズムを提案する。 実験では、合計訓練時間は567-3442秒であり、1時間未満である。
• 参考スコア（独自算出の注目度）: 4.164336621664897
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transfer learning is a de facto standard method for efficiently training machine learning models for data-scarce problems by adding and fine-tuning new classification layers to a model pre-trained on large datasets. Although numerous previous studies proposed to use homomorphic encryption to resolve the data privacy issue in transfer learning in the machine learning as a service setting, most of them only focused on encrypted inference. In this study, we present HETAL, an efficient Homomorphic Encryption based Transfer Learning algorithm, that protects the client's privacy in training tasks by encrypting the client data using the CKKS homomorphic encryption scheme. HETAL is the first practical scheme that strictly provides encrypted training, adopting validation-based early stopping and achieving the accuracy of nonencrypted training. We propose an efficient encrypted matrix multiplication algorithm, which is 1.8 to 323 times faster than prior methods, and a highly precise softmax approximation algorithm with increased coverage. The experimental results for five well-known benchmark datasets show total training times of 567-3442 seconds, which is less than an hour.
• Abstract（参考訳）: 転送学習は、大規模なデータセットで事前トレーニングされたモデルに新しい分類レイヤーを追加し、微調整することで、データスカース問題に対する機械学習モデルを効率的に訓練するデファクトスタンダードな方法である。 機械学習における転送学習におけるデータプライバシの問題をサービス設定として解決するために、多くの先行研究が同型暗号化を使用することを提案したが、そのほとんどは暗号化推論にのみ焦点を絞ったものだった。 本研究では、CKKSの同型暗号化方式を用いてクライアントデータを暗号化することにより、クライアントのトレーニングタスクにおけるプライバシを保護する、効率的な同型暗号化ベースのトランスファーラーニングアルゴリズムHETALを提案する。 HETALは、暗号化トレーニングを厳格に提供し、検証ベースの早期停止を採用し、非暗号化トレーニングの精度を達成する最初の実践的スキームである。 本稿では,従来の手法よりも1.8～323倍高速な効率的な暗号化行列乗算アルゴリズムと,適用範囲を拡大した高精度なソフトマックス近似アルゴリズムを提案する。 5つのよく知られたベンチマークデータセットの実験結果は、1時間未満の567-3442秒のトレーニング時間を示している。

関連論文リスト

• QuanCrypt-FL: Quantized Homomorphic Encryption with Pruning for Secure Federated Learning [0.48342038441006796]
  我々は,攻撃に対する防御を強化するために,低ビット量子化とプルーニング技術を組み合わせた新しいアルゴリズムQuanCrypt-FLを提案する。 我々は、MNIST、CIFAR-10、CIFAR-100データセットに対するアプローチを検証し、最先端手法と比較して優れた性能を示す。 QuanCrypt-FLは、最大9倍高速暗号化、16倍高速復号化、1.5倍高速推論を実現し、トレーニング時間を最大3倍短縮する。
  論文  参考訳（メタデータ） (2024-11-08T01:46:00Z)
• Robust Representation Learning for Privacy-Preserving Machine Learning: A Multi-Objective Autoencoder Approach [0.9831489366502302]
  プライバシー保護機械学習(ppML)のための堅牢な表現学習フレームワークを提案する。 提案手法は,多目的方式でオートエンコーダを訓練することを中心に,符号化部からの潜伏と学習の特徴を符号化形式として結合する。 提案したフレームワークでは、元のフォームを公開せずに、データを共有し、サードパーティツールを使用することができます。
  論文  参考訳（メタデータ） (2023-09-08T16:41:25Z)
• When approximate design for fast homomorphic computation provides differential privacy guarantees [0.08399688944263842]
  差分プライバシー(DP)と暗号プリミティブは、プライバシー攻撃に対する一般的な対策である。 本稿では,argmax演算子に対する確率近似アルゴリズム ShiELD を設計する。 たとえShielDが他のアプリケーションを持つことができたとしても、私たちは1つの設定に集中し、SPEEDコラボレーティブトレーニングフレームワークにシームレスに統合します。
  論文  参考訳（メタデータ） (2023-04-06T09:38:01Z)
• PEOPL: Characterizing Privately Encoded Open Datasets with Public Labels [59.66777287810985]
  プライバシとユーティリティのための情報理論スコアを導入し、不誠実なユーザの平均パフォーマンスを定量化する。 次に、ランダムなディープニューラルネットワークの使用を動機付ける符号化スキームのファミリーを構築する際のプリミティブを理論的に特徴づける。
  論文  参考訳（メタデータ） (2023-03-31T18:03:53Z)
• Pre-trained Encoders in Self-Supervised Learning Improve Secure and Privacy-preserving Supervised Learning [63.45532264721498]
  自己教師付き学習は、ラベルのないデータを使ってエンコーダを事前訓練するための新しいテクニックである。 我々は、事前訓練されたエンコーダがセキュア・プライバシ保護型学習アルゴリズムの限界に対処できるかどうかを理解するための、最初の体系的、原則的な測定研究を行う。
  論文  参考訳（メタデータ） (2022-12-06T21:35:35Z)
• Application of Data Encryption in Chinese Named Entity Recognition [11.084360853065736]
  本稿では,機密データの漏洩や不便な開示といった問題に対処する暗号学習フレームワークを提案する。 名前付きエンティティ認識タスクにおいて、トレーニングデータを初めて暗号化するために、複数の暗号化アルゴリズムを導入する。 実験結果から, 暗号化手法は良好な結果が得られることがわかった。
  論文  参考訳（メタデータ） (2022-08-31T04:20:37Z)
• Efficient Few-Shot Object Detection via Knowledge Inheritance [62.36414544915032]
  Few-shot Object Detection (FSOD) は、未確認のタスクに少ないトレーニングサンプルで適応できるジェネリック検出器を学習することを目的としている。 計算量の増加を伴わない効率的なプレトレイン・トランスファー・フレームワーク(PTF)のベースラインを提案する。 また,予測された新しいウェイトと事前訓練されたベースウェイトとのベクトル長の不整合を軽減するために,適応長再スケーリング(ALR)戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-23T06:24:31Z)
• On Deep Learning with Label Differential Privacy [54.45348348861426]
  ラベルは機密性があり、保護されるべきであるとするマルチクラス分類について検討する。 本稿では,ラベル差分プライバシを用いたディープニューラルネットワークのトレーニングアルゴリズムを提案し,いくつかのデータセットで評価を行う。
  論文  参考訳（メタデータ） (2021-02-11T15:09:06Z)
• Faster Secure Data Mining via Distributed Homomorphic Encryption [108.77460689459247]
  ホモモルフィック暗号化(HE)は、最近、暗号化されたフィールド上で計算を行う能力により、ますます注目を集めている。 本稿では,スケーリング問題の解決に向けて,新しい分散HEベースのデータマイニングフレームワークを提案する。 各種データマイニングアルゴリズムとベンチマークデータセットを用いて,新しいフレームワークの有効性と有効性を検証する。
  論文  参考訳（メタデータ） (2020-06-17T18:14:30Z)
• User-Level Privacy-Preserving Federated Learning: Analysis and Performance Optimization [77.43075255745389]
  フェデレートラーニング(FL)は、データを有用なモデルにトレーニングしながら、モバイル端末(MT)からプライベートデータを保存することができる。 情報理論の観点からは、MTがアップロードした共有モデルから、好奇心の強いサーバがプライベートな情報を推測することが可能である。 サーバにアップロードする前に、共有モデルに人工ノイズを加えることで、ユーザレベルの差分プライバシー(UDP)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-29T10:13:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。