論文の概要: OptiPrime: Optimizing Private Inference through Protocol-Hardware Co-design
- arxiv url: http://arxiv.org/abs/2609.16898v1
- Date: Tue, 15 Sep 2026 09:29:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.433206
- Title: OptiPrime: Optimizing Private Inference through Protocol-Hardware Co-design
- Title（参考訳）: OptiPrime:プロトコルハードウェアの共同設計によるプライベート推論の最適化
- Abstract要約: ハイブリッドホモモルフィック暗号化(HE)とマルチパーティ計算(MPC)に基づくプライベートディープニューラルネットワーク(DNN)推論は、正式な保証でユーザデータを保護できるが、HEによる大幅な遅延オーバーヘッドを犠牲にすることができる。
本稿では,効率的なプライベートDNN推論のためのプロトコルとハードウェアの協調最適化フレームワークOptiPrimeを紹介する。
私たちのフレームワークはCPUで5.7倍、アクセラレータで4.2倍の速度でCheetahベースラインを上回ります。
- 参考スコア（独自算出の注目度）: 11.152255710014694
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Private deep neural network (DNN) inference based on hybrid homomorphic encryption (HE) and multi-party computation (MPC) can protect user data with a formal guarantee, but at the cost of significant latency overhead due to HE. Customized HE accelerators have been proposed and have achieved orders-of-magnitude speedup for individual HE operations. However, when directly applying a commercial HE accelerator to state-of-the-art HE-MPC frameworks, we observe only limited end-to-end performance gain. This is because HE-MPC frameworks often require wireless transmission of input and output ciphertexts for each HE operation, leading to a severe network communication bottleneck. To overcome this challenge, we introduce OptiPrime, a protocol-hardware co-optimization framework for efficient private DNN inference. OptiPrime features a novel HE protocol for convolutions that substantially reduces the number of transmitted output ciphertexts and mitigates the network communication bottleneck. Meanwhile, as the new protocol introduces complex computation for fewer output ciphertext, we observe new memory access challenges due to a high volume of weight plaintexts and intermediate ciphertexts. Hence, we further propose a lightweight compression system for the weight plaintexts, reducing memory traffic by 10 times, as well as a specialized dataflow to maximize on-chip data reuse of intermediate ciphertexts. Extensive experiments show that our framework outperforms the Cheetah baseline by at most 5.7 times on CPUs and 4.2 times with an accelerator.
- Abstract（参考訳）: ハイブリッドホモモルフィック暗号化(HE)とマルチパーティ計算(MPC)に基づくプライベートディープニューラルネットワーク(DNN)推論は、正式な保証でユーザデータを保護できるが、HEによる大幅な遅延オーバーヘッドを犠牲にすることができる。
カスタマイズされたHEアクセラレーターが提案され、個々のHE演算のオーダー・オブ・マグニチュード・スピードアップが達成されている。
しかし,商用HEアクセラレータを最先端のHE-MPCフレームワークに直接適用する場合,エンド・ツー・エンドの性能向上は限定的である。
これは、HE-MPCフレームワークがHE操作毎に入力と出力の暗号文を無線送信する必要があることがあり、ネットワーク通信のボトルネックが深刻になるためである。
この課題を克服するために,効率的なプライベートDNN推論のためのプロトコルハードウェア協調最適化フレームワークであるOptiPrimeを紹介した。
OptiPrimeは、送信される暗号文の数を大幅に減らし、ネットワーク通信ボトルネックを緩和する、畳み込みのための新しいHEプロトコルを備えている。
一方、新しいプロトコルでは、少ない出力暗号文に対して複雑な計算を導入するため、重み付き平文と中間暗号文の量が多いため、新たなメモリアクセスの問題が観測される。
そこで本研究では,中間暗号文のオンチップデータ再利用を最大化するために,メモリトラフィックを10倍削減する軽量な平文圧縮システムを提案する。
大規模な実験により、我々のフレームワークはCPUでは最低でも5.7倍、アクセラレータでは4.2倍、チーターベースラインより優れていた。
関連論文リスト
- Accelerated Decoding of Centroid Positional Encoding for Instance Segmentation [49.97373153077311]
本稿では,各画素が遠心波の位置埋め込みを行う場合の,遠心波符号化に伴うデコードオーバーヘッドについて検討する。
当社のソリューションは、デコードオーバーヘッドを大幅に削減し、Endto-Endレイテンシを改善し、CPUベースのアプローチと単純なGPU実装の両方を上回ります。
論文 参考訳（メタデータ） (2026-09-15T09:05:17Z) - Almost-Free Queue Jumping for Prior Inputs in Private Neural Inference [14.074510817815538]
PP-MLは暗号プリミティブを統合することで、セキュアなニューラルネットワーク推論を可能にする。
PrivQJは、インプロセッシングスロットのリサイクルを通じて、入力間の共有計算を利用する。
その結果,最先端のPP-MLシステムと比較して,オーバヘッドのオーダー・オブ・マグニチュード低減効果が示された。
論文 参考訳（メタデータ） (2026-03-13T12:41:36Z) - FedBit: Accelerating Privacy-Preserving Federated Learning via Bit-Interleaved Packing and Cross-Layer Co-Design [2.255961793913651]
完全同型暗号化(FHE)を備えたフェデレートラーニング(FL)は、モデルアグリゲーション中にデータプライバシを効果的に保護する。
FedBit は Brakerski-Fan-Vercauteren (BFV) スキームのためのハードウェア/ソフトウェアの共同設計フレームワークである。
FedBitは、ビットインターリーブデータパッキングを使用して、複数のモデルパラメータを単一の暗号係数に埋め込む。
論文 参考訳（メタデータ） (2025-09-27T03:58:16Z) - ENSI: Efficient Non-Interactive Secure Inference for Large Language Models [10.82684192498215]
大規模言語モデル(LLM)のための新しいセキュア推論フレームワークであるENSIを提案する。
ENSI は CKKS スキームを軽量 LLM 変種 BitNet とシームレスに統合する最適化された符号化方式を採用している。
本稿では,行列乗算の約8倍の高速化と,CPU上でのソフトマックス推論の2.6倍の高速化を実現することを実証する。
論文 参考訳（メタデータ） (2025-09-11T13:04:22Z) - GDNTT: an Area-Efficient Parallel NTT Accelerator Using Glitch-Driven Near-Memory Computing and Reconfigurable 10T SRAM [14.319119105134309]
本稿では、グリッチ駆動ニアメモリコンピューティング(GDNTT)を用いた領域効率の高い高並列NTT加速器を提案する。
この設計はデータストレージ用の10Tを統合し、柔軟な行/列のデータアクセスと合理化回路マッピング戦略を可能にする。
評価の結果,提案したNTTアクセラレーターは,最先端技術と比較して1.528*のスループット向上を実現していることがわかった。
論文 参考訳（メタデータ） (2025-05-13T01:53:07Z) - Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference [54.53508601749513]
本稿では,マルチモーダル理解のためのタスク指向特徴圧縮(TOFC)手法を提案する。
圧縮効率を向上させるために、視覚特徴の特性に基づいて複数のエントロピーモデルを適応的に選択する。
その結果,TOFCはデータ転送オーバーヘッドを最大52%削減し,システム遅延を最大63%削減できることがわかった。
論文 参考訳（メタデータ） (2025-03-17T08:37:22Z) - Accelerating Private Large Transformers Inference through Fine-grained Collaborative Computation [8.859237832459876]
FASTLMPIは、微粒な最適化により、プライベートなTBM推論を高速化する新しい手法である。
具体的には、ホモモルフィック暗号化と秘密共有の詳細な共設計により、FASTLMPIは行列乗算、SoftMax、LayerNorm、GeLULUの効率的なプロトコルを実現する。
FASTLMPIは、実行時の54%から64%の大幅な減少と、通信コストの72.2%の大幅な削減を示している。
論文 参考訳（メタデータ） (2024-12-21T08:33:12Z) - Accelerating Error Correction Code Transformers [56.75773430667148]
本稿では,トランスを用いたデコーダの高速化手法を提案する。
最新のハードウェアでは、90%の圧縮比を実現し、算術演算エネルギー消費を少なくとも224倍削減する。
論文 参考訳（メタデータ） (2024-10-08T11:07:55Z) - Practical Conformer: Optimizing size, speed and flops of Conformer for
on-Device and cloud ASR [67.63332492134332]
我々は、デバイス上の制約を満たすのに十分小さく、TPUを高速に推論できる最適化されたコンバータを設計する。
提案するエンコーダは、デバイス上では強力なスタンドアロンエンコーダとして、また高性能なASRパイプラインの第1部として利用することができる。
論文 参考訳（メタデータ） (2023-03-31T23:30:48Z) - RRNet: Towards ReLU-Reduced Neural Network for Two-party Computation
Based Private Inference [17.299835585861747]
本稿では,MPC比較プロトコルのオーバーヘッドを減らし,ハードウェアアクセラレーションによる計算を高速化するフレームワークRRNetを紹介する。
提案手法は,暗号ビルディングブロックのハードウェア遅延をDNN損失関数に統合し,エネルギー効率,精度,セキュリティ保証を改善する。
論文 参考訳（メタデータ） (2023-02-05T04:02:13Z) - An Adaptive Device-Edge Co-Inference Framework Based on Soft
Actor-Critic [72.35307086274912]
高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。
本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。
レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
論文 参考訳（メタデータ） (2022-01-09T09:31:50Z) - EdgeBERT: Sentence-Level Energy Optimizations for Latency-Aware
Multi-Task NLP Inference [82.1584439276834]
BERTのようなトランスフォーマーベースの言語モデルでは、自然言語処理(NLP)タスクの精度が大幅に向上する。
We present EdgeBERT, a in-deepth algorithm- hardware co-design for latency-aware energy optimization for multi-task NLP。
論文 参考訳（メタデータ） (2020-11-28T19:21:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。