論文の概要: DCT-CryptoNets: Scaling Private Inference in the Frequency Domain

• arxiv url: http://arxiv.org/abs/2408.15231v2
• Date: Wed, 22 Jan 2025 22:44:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-24 15:57:10.946570
• Title: DCT-CryptoNets: Scaling Private Inference in the Frequency Domain
• Title（参考訳）: DCT-CryptoNets: 周波数領域におけるプライベート推論のスケーリング
• Authors: Arjun Roy, Kaushik Roy,
• Abstract要約: DCT-CryptoNetsは,計算コストの高い非線形アクティベーションの負担を軽減するために,周波数領域内で直接動作する新しい手法である。 JPEGエンコーディングで一般的に使用される離散コサイン変換(DCT)は、リモートコンピューティングサービスと本質的に互換性がある。 ImageNetデータセットの推論を2.5時間以内に示す(96スレッドの同等の計算リソースで12.5時間からダウンする)。
• 参考スコア（独自算出の注目度）: 8.084341432899954
• License:
• Abstract: The convergence of fully homomorphic encryption (FHE) and machine learning offers unprecedented opportunities for private inference of sensitive data. FHE enables computation directly on encrypted data, safeguarding the entire machine learning pipeline, including data and model confidentiality. However, existing FHE-based implementations for deep neural networks face significant challenges in computational cost, latency, and scalability, limiting their practical deployment. This paper introduces DCT-CryptoNets, a novel approach that operates directly in the frequency-domain to reduce the burden of computationally expensive non-linear activations and homomorphic bootstrap operations during private inference. It does so by utilizing the discrete cosine transform (DCT), commonly employed in JPEG encoding, which has inherent compatibility with remote computing services where images are generally stored and transmitted in this encoded format. DCT-CryptoNets demonstrates a substantial latency reductions of up to 5.3$\times$ compared to prior work on benchmark image classification tasks. Notably, it demonstrates inference on the ImageNet dataset within 2.5 hours (down from 12.5 hours on equivalent 96-thread compute resources). Furthermore, by learning perceptually salient low-frequency information DCT-CryptoNets improves the reliability of encrypted predictions compared to RGB-based networks by reducing error accumulating homomorphic bootstrap operations. DCT-CryptoNets also demonstrates superior scalability to RGB-based networks by further reducing computational cost as image size increases. This study demonstrates a promising avenue for achieving efficient and practical private inference of deep learning models on high resolution images seen in real-world applications.
• Abstract（参考訳）: 完全同型暗号化(FHE)と機械学習の収束は、機密データの個人推論に前例のない機会を提供する。 FHEは、暗号化されたデータに直接計算を可能にし、データやモデルの機密性を含む、マシンラーニングパイプライン全体を保護する。 しかし、ディープニューラルネットワークのための既存のFHEベースの実装は、計算コスト、レイテンシ、スケーラビリティにおいて重大な課題に直面し、実際のデプロイメントを制限している。 DCT-CryptoNetsは,計算コストのかかる非線形アクティベーションや,プライベート推論時のホモモルフィックブートストラップ操作の負担を軽減するために,周波数領域内で直接動作する新しい手法である。 これはJPEGエンコーディングで一般的に使用される離散コサイン変換(DCT)を利用しており、画像が一般的にこのエンコードされたフォーマットに格納され送信されるリモートコンピューティングサービスと本質的に互換性がある。 DCT-CryptoNetsは、ベンチマーク画像分類タスクの以前の作業と比較して、最大5.3$\times$の大幅な遅延削減を示している。 特に、ImageNetデータセットの推論は2.5時間以内に行われる(96スレッドの同等の計算リソースでは、12.5時間からダウンする)。 さらに、知覚的に有意な低周波情報DCT-CryptoNetsを学習することにより、ホモモルフィックブートストラップ操作の誤りを減らし、RGBベースのネットワークと比較して暗号化予測の信頼性を向上させる。 DCT-CryptoNetsはまた、画像サイズが大きくなるにつれて計算コストをさらに削減し、RGBベースのネットワークに優れたスケーラビリティを示す。 本研究では,実世界のアプリケーションで見られる高解像度画像に対して,ディープラーニングモデルの効率的かつ実用的なプライベート推論を実現するための,有望な方法を示す。

関連論文リスト

• ODDN: Addressing Unpaired Data Challenges in Open-World Deepfake Detection on Online Social Networks [51.03118447290247]
  オープンワールドデータアグリゲーション(ODA)と圧縮・ディスカード勾配補正(CGC)を組み合わせたオープンワールドディープフェイク検出ネットワーク(ODDN)を提案する。 細粒度分析と粗粒度分析の両方により,ODAは圧縮試料と原試料の相関関係を効果的に集約する。 CGCは、オンラインソーシャルネットワーク(OSN)における多種多様な圧縮方法のパフォーマンス向上のために、圧縮・ディスカード勾配補正を組み込んだ。
  論文  参考訳（メタデータ） (2024-10-24T12:32:22Z)
• Enabling Practical and Privacy-Preserving Image Processing [5.526464269029825]
  ホモモルフィック暗号化(FHE)は、暗号化されたデータの計算を可能にし、復号化を必要とせずに機密性を保存する。 従来のFHEメソッドは、ピクセルの代わりにモノリシックなデータブロックで画像を暗号化することが多い。 CKKS方式に基づく画素レベルの同型暗号化手法iCHEETAHを提案し,実装する。
  論文  参考訳（メタデータ） (2024-09-05T14:22:02Z)
• Neural-based Compression Scheme for Solar Image Data [8.374518151411612]
  我々は、NASAのデータ集約画像ミッションで使用されるニューラルネットワークに基づく損失圧縮手法を提案する。 本研究では,画像の局所構造と大域構造の両方を捉えるために,局所的および非局所的アテンションモジュールを備えた逆トレーニングニューラルネットワークを提案する。 このアルゴリズムをSDOデータ解析に使用するための概念実証として、圧縮画像を用いてコロナホール(CH)検出を行った。
  論文  参考訳（メタデータ） (2023-11-06T04:13:58Z)
• CNNs for JPEGs: A Study in Computational Cost [45.74830585715129]
  畳み込みニューラルネットワーク(CNN)は過去10年間で驚くべき進歩を遂げてきた。 CNNはRGBピクセルから直接データの堅牢な表現を学習することができる。 近年,圧縮領域から直接学習できる深層学習手法が注目されている。
  論文  参考訳（メタデータ） (2023-09-20T15:49:38Z)
• PRISTA-Net: Deep Iterative Shrinkage Thresholding Network for Coded Diffraction Patterns Phase Retrieval [6.982256124089]
  位相検索は、計算画像および画像処理における非線型逆問題である。 我々は,1次反復しきい値しきい値アルゴリズム(ISTA)に基づく深層展開ネットワークであるPRISTA-Netを開発した。 非線形変換,しきい値,ステップサイズなど,提案するPRISTA-Netフレームワークのパラメータはすべて,設定されるのではなく,エンドツーエンドで学習される。
  論文  参考訳（メタデータ） (2023-09-08T07:37:15Z)
• NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
  本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。 所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。 ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
  論文  参考訳（メタデータ） (2022-09-29T04:06:00Z)
• Implicit Neural Representations for Image Compression [103.78615661013623]
  Inlicit Neural Representations (INRs) は、様々なデータ型の新規かつ効果的な表現として注目されている。 量子化、量子化を考慮した再学習、エントロピー符号化を含むINRに基づく最初の包括的圧縮パイプラインを提案する。 我々は、INRによるソース圧縮に対する我々のアプローチが、同様の以前の作業よりも大幅に優れていることに気付きました。
  論文  参考訳（メタデータ） (2021-12-08T13:02:53Z)
• Learning Frequency-aware Dynamic Network for Efficient Super-Resolution [56.98668484450857]
  本稿では、離散コサイン変換(dct)領域の係数に応じて入力を複数の部分に分割する新しい周波数認識動的ネットワークについて検討する。 実際、高周波部は高価な操作で処理され、低周波部は計算負荷を軽減するために安価な操作が割り当てられる。 ベンチマークSISRモデルおよびデータセット上での実験は、周波数認識動的ネットワークが様々なSISRニューラルネットワークに使用できることを示している。
  論文  参考訳（メタデータ） (2021-03-15T12:54:26Z)
• CNNs for JPEGs: A Study in Computational Cost [49.97673761305336]
  畳み込みニューラルネットワーク(CNN)は過去10年間で驚くべき進歩を遂げてきた。 CNNはRGBピクセルから直接データの堅牢な表現を学習することができる。 近年,圧縮領域から直接学習できる深層学習手法が注目されている。
  論文  参考訳（メタデータ） (2020-12-26T15:00:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。