論文の概要: DCT-CryptoNets: Scaling Private Inference in the Frequency Domain

• arxiv url: http://arxiv.org/abs/2408.15231v2
• Date: Wed, 22 Jan 2025 22:44:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-24 15:57:10.946570
• Title: DCT-CryptoNets: Scaling Private Inference in the Frequency Domain
• Title（参考訳）: DCT-CryptoNets: 周波数領域におけるプライベート推論のスケーリング
• Authors: Arjun Roy, Kaushik Roy,
• Abstract要約: DCT-CryptoNetsは,計算コストの高い非線形アクティベーションの負担を軽減するために,周波数領域内で直接動作する新しい手法である。 JPEGエンコーディングで一般的に使用される離散コサイン変換(DCT)は、リモートコンピューティングサービスと本質的に互換性がある。 ImageNetデータセットの推論を2.5時間以内に示す(96スレッドの同等の計算リソースで12.5時間からダウンする)。
• 参考スコア（独自算出の注目度）: 8.084341432899954
• License:
• Abstract: The convergence of fully homomorphic encryption (FHE) and machine learning offers unprecedented opportunities for private inference of sensitive data. FHE enables computation directly on encrypted data, safeguarding the entire machine learning pipeline, including data and model confidentiality. However, existing FHE-based implementations for deep neural networks face significant challenges in computational cost, latency, and scalability, limiting their practical deployment. This paper introduces DCT-CryptoNets, a novel approach that operates directly in the frequency-domain to reduce the burden of computationally expensive non-linear activations and homomorphic bootstrap operations during private inference. It does so by utilizing the discrete cosine transform (DCT), commonly employed in JPEG encoding, which has inherent compatibility with remote computing services where images are generally stored and transmitted in this encoded format. DCT-CryptoNets demonstrates a substantial latency reductions of up to 5.3$\times$ compared to prior work on benchmark image classification tasks. Notably, it demonstrates inference on the ImageNet dataset within 2.5 hours (down from 12.5 hours on equivalent 96-thread compute resources). Furthermore, by learning perceptually salient low-frequency information DCT-CryptoNets improves the reliability of encrypted predictions compared to RGB-based networks by reducing error accumulating homomorphic bootstrap operations. DCT-CryptoNets also demonstrates superior scalability to RGB-based networks by further reducing computational cost as image size increases. This study demonstrates a promising avenue for achieving efficient and practical private inference of deep learning models on high resolution images seen in real-world applications.
• Abstract（参考訳）: 完全同型暗号化(FHE)と機械学習の収束は、機密データの個人推論に前例のない機会を提供する。 FHEは、暗号化されたデータに直接計算を可能にし、データやモデルの機密性を含む、マシンラーニングパイプライン全体を保護する。 しかし、ディープニューラルネットワークのための既存のFHEベースの実装は、計算コスト、レイテンシ、スケーラビリティにおいて重大な課題に直面し、実際のデプロイメントを制限している。 DCT-CryptoNetsは,計算コストのかかる非線形アクティベーションや,プライベート推論時のホモモルフィックブートストラップ操作の負担を軽減するために,周波数領域内で直接動作する新しい手法である。 これはJPEGエンコーディングで一般的に使用される離散コサイン変換(DCT)を利用しており、画像が一般的にこのエンコードされたフォーマットに格納され送信されるリモートコンピューティングサービスと本質的に互換性がある。 DCT-CryptoNetsは、ベンチマーク画像分類タスクの以前の作業と比較して、最大5.3$\times$の大幅な遅延削減を示している。 特に、ImageNetデータセットの推論は2.5時間以内に行われる(96スレッドの同等の計算リソースでは、12.5時間からダウンする)。 さらに、知覚的に有意な低周波情報DCT-CryptoNetsを学習することにより、ホモモルフィックブートストラップ操作の誤りを減らし、RGBベースのネットワークと比較して暗号化予測の信頼性を向上させる。 DCT-CryptoNetsはまた、画像サイズが大きくなるにつれて計算コストをさらに削減し、RGBベースのネットワークに優れたスケーラビリティを示す。 本研究では,実世界のアプリケーションで見られる高解像度画像に対して,ディープラーニングモデルの効率的かつ実用的なプライベート推論を実現するための,有望な方法を示す。

関連論文リスト

• Encrypted Large Model Inference: The Equivariant Encryption Paradigm [18.547945807599543]
  Equivariant Encryption(EE)は,暗号化されたデータに対して,性能上のオーバーヘッドがゼロに近いセキュアな"盲目"推論を可能にするように設計された,新しいパラダイムである。 計算グラフ全体を暗号化する完全同型アプローチとは異なり、EEはニューラルネットワーク層内の重要な内部表現を選択的に難読化する。 EEは高い忠実性とスループットを維持しており、ロバストなデータの機密性と、現代的な大規模モデル推論の厳密な効率要件の間のギャップを効果的に埋めています。
  論文  参考訳（メタデータ） (2025-02-03T03:05:20Z)
• HyPHEN: A Hybrid Packing Method and Optimizations for Homomorphic Encryption-Based Neural Networks [7.642103082787977]
  完全同相暗号(FHE)を用いた畳み込みニューラルネットワーク(CNN)推論は、有望なプライベート推論(PI)ソリューションである。 本稿では、新しい畳み込みアルゴリズムとデータパッキングを組み込んだ深層HCNN構築法であるHyPHENを提案する。 その結果、HyPHENはHCNN CIFAR-10推論のレイテンシを1.4秒(ResNet-20)で実践レベルまで下げ、初めて14.7秒(ResNet-18)でHCNN ImageNet推論を示す。
  論文  参考訳（メタデータ） (2023-02-05T15:36:51Z)
• NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
  本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。 所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。 ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
  論文  参考訳（メタデータ） (2022-09-29T04:06:00Z)
• CryptoGCN: Fast and Scalable Homomorphically Encrypted Graph Convolutional Network Inference [12.03953896181613]
  クラウドベースのグラフ畳み込みネットワーク(GCN)は、多くのプライバシに敏感なアプリケーションで大きな成功と可能性を示している。 クラウド上での推論精度とパフォーマンスは高いが、GCN推論におけるデータのプライバシの維持については、まだ明らかにされていない。 本稿では,この手法を最初に試行し,同型暗号(HE)に基づくGCN推論フレームワークであるtextitCryptoGCN$-を開発する。
  論文  参考訳（メタデータ） (2022-09-24T02:20:54Z)
• Sphynx: ReLU-Efficient Network Design for Private Inference [49.73927340643812]
  そこでは、サービスプロバイダのモデルを使用して、ユーザのデータサンプルに対する推論を実行することを目標としています。 ディープネットワークのための既存のPIメソッドは、機能低下の少ない暗号的にセキュアな推論を可能にする。 本稿では,畳み込みセル設計のためのマイクロサーチ手法に基づくReLU効率の高いネットワーク設計手法であるSphynxを提案する。
  論文  参考訳（メタデータ） (2021-06-17T18:11:10Z)
• Learning Frequency-aware Dynamic Network for Efficient Super-Resolution [56.98668484450857]
  本稿では、離散コサイン変換(dct)領域の係数に応じて入力を複数の部分に分割する新しい周波数認識動的ネットワークについて検討する。 実際、高周波部は高価な操作で処理され、低周波部は計算負荷を軽減するために安価な操作が割り当てられる。 ベンチマークSISRモデルおよびデータセット上での実験は、周波数認識動的ネットワークが様々なSISRニューラルネットワークに使用できることを示している。
  論文  参考訳（メタデータ） (2021-03-15T12:54:26Z)
• Efficient Encrypted Inference on Ensembles of Decision Trees [21.570003967858355]
  データプライバシーに関する懸念は、しばしば機密個人データのクラウドベースの機械学習サービスの使用を妨げます。 複雑な決定木アンサンブルから抽出した知識を浅層ニューラルネットワークに伝達する枠組みを提案する。 当社のシステムは高度にスケーラブルで,バッチ暗号化された(134ビットのセキュリティ)データに対して,ミリ秒のアモートタイムで効率的な推論を行うことができる。
  論文  参考訳（メタデータ） (2021-03-05T01:06:30Z)
• CNNs for JPEGs: A Study in Computational Cost [49.97673761305336]
  畳み込みニューラルネットワーク(CNN)は過去10年間で驚くべき進歩を遂げてきた。 CNNはRGBピクセルから直接データの堅牢な表現を学習することができる。 近年,圧縮領域から直接学習できる深層学習手法が注目されている。
  論文  参考訳（メタデータ） (2020-12-26T15:00:10Z)
• Making Online Sketching Hashing Even Faster [63.16042585506435]
  本稿では,FROSH(FasteR Online Sketching Hashing)アルゴリズムを提案する。 提案したFROSHがより少ない時間を消費し、同等のスケッチ精度を実現することを保証するための理論的正当性を提供する。 また、FROSHの分散実装であるDFROSHを拡張して、FROSHのトレーニング時間コストをさらに削減する。
  論文  参考訳（メタデータ） (2020-10-10T08:50:53Z)
• CryptoSPN: Privacy-preserving Sum-Product Network Inference [84.88362774693914]
  総生産ネットワーク(SPN)のプライバシ保護のためのフレームワークを提案する。 CryptoSPNは、中規模のSPNに対して秒の順序で高効率で正確な推論を行う。
  論文  参考訳（メタデータ） (2020-02-03T14:49:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。