論文の概要: TENNOR: Trustworthy Execution for Neural Networks through Obliviousness and Retrievals
- arxiv url: http://arxiv.org/abs/2605.07160v1
- Date: Fri, 08 May 2026 02:46:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.760497
- Title: TENNOR: Trustworthy Execution for Neural Networks through Obliviousness and Retrievals
- Title(参考訳): TENNOR:obliviousnessとretrievalsによるニューラルネットワークの信頼できる実行
- Authors: Zifan Qu, Vasileios P. Kemerlis, Giuseppe Ateniese, Evgenios M. Kornaropoulos,
- Abstract要約: 信頼できないクラウド環境で機密データをニューラルネットワークでトレーニングするには、計算効率と厳格なプライバシー保証を同時に達成する必要がある。
本稿では,この緊張を解消するシステムTENNORについて述べる。
TENNORは、スパークスニューロンの活性化を局所性感受性ハッシュ(LSH)検索問題として再放送し、LSHデータ構造上の二重閉塞アクセスに対するセキュアなスパーシフィケーションを低減させる。
- 参考スコア(独自算出の注目度): 11.751398157718013
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training wide neural networks on sensitive data in untrusted cloud environments requires simultaneously achieving computational efficiency and rigorous privacy guarantees. Sparsification techniques, essential for scalable training of wide layers, expose input-dependent memory-access patterns (i.e., leakage) that are visible and can be exploited by a host OS/hypervisor, even when computation is protected by a Trusted Execution Environment. We present TENNOR, a system that resolves this tension by co-designing the neural network training pipeline with doubly oblivious primitives, eliminating access-pattern leakage while also utilizing adaptive sparsification. TENNOR recasts sparse neuron activation as a locality-sensitive hashing (LSH) retrieval problem, reducing secure sparsification to doubly oblivious accesses over an LSH data structure. To eliminate the prohibitive storage cost of ``multi-table'' LSH, we introduce Multi-Probe Winner-Take-All (MP-WTA): the first multi-probe scheme for rank-based LSH, achieving a 50x reduction in (hash table) memory while preserving model accuracy. We evaluate TENNOR on extreme multi-label classification benchmarks with output layers of up to 325K neurons inside an Intel TDX Trusted Domain, achieving speedups of 13x--470x over a Path ORAM baseline and reducing a 208-hour run to about 26 minutes.
- Abstract(参考訳): 信頼できないクラウド環境で機密データに広範なニューラルネットワークをトレーニングするには、計算効率と厳格なプライバシー保証を同時に達成する必要がある。
広いレイヤのスケーラブルなトレーニングに不可欠なスパシフィケーション技術は、入力依存メモリアクセスパターン(すなわち、リーク)を公開し、ホストOS/ハイパーバイザによって悪用される。
TENNORは,ニューラルネットワークトレーニングパイプラインを2つの不要なプリミティブで設計し,アクセスパターンのリークを排除し,適応的なスペーシングを活用することで,この緊張を解消するシステムである。
TENNORは、スパークスニューロンの活性化を局所性感受性ハッシュ(LSH)検索問題として再放送し、LSHデータ構造上の二重閉塞アクセスに対するセキュアなスパーシフィケーションを低減させる。
モデル精度を保ちながら50倍のメモリ削減(ハッシュテーブル)を実現したランクベースのLSHの最初のマルチプローブ方式であるMulti-Probe Winner-Take-All (MP-WTA)を導入する。
TENNORをIntel TDX Trusted Domain内で最大325Kの出力層を持つ極端なマルチラベル分類ベンチマークで評価し、Path ORAMベースライン上で13x--470xの高速化を実現し、208時間実行を約26分に短縮した。
関連論文リスト
- HALO: Semantic-Aware Distributed LLM Inference in Lossy Edge Network [50.33808558714122]
エッジでの大規模言語モデル(LLM)推論は、ユーザのプライバシを保護すると同時に、サービスの応答性を促進する。
損失エッジネットワークにおける分散LLM推論を向上する新しいフレームワークであるHALOを提案する。
Raspberry Piクラスタによる実験の結果、HALOは信頼性の低いネットワーク条件下でLLaMAシリーズLLMの3.41倍のエンドツーエンドのスピードアップを達成した。
論文 参考訳(メタデータ) (2026-01-16T07:37:23Z) - Efficient Memristive Spiking Neural Networks Architecture with Supervised In-Situ STDP Method [0.0]
時間的スパイクエンコーディングを備えたメムリスタベースのスパイキングニューラルネットワーク(SNN)は、超低エネルギー計算を可能にする。
本稿では,新しい教師付きin-situ学習アルゴリズムを用いて学習した回路レベルのメムリシブスパイクニューラルネットワーク(SNN)アーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-07-28T17:09:48Z) - Provably-Safe Neural Network Training Using Hybrid Zonotope Reachability Analysis [2.1198879079315573]
安全クリティカルな制御アプリケーションにおいて、ニューラルネットワークの制約を強制することは困難である。
本稿では,線形整列線形ユニット(ReLU)非線形性を持つニューラルネットワークに対して,非ハイブリッド入力セットの正確な画像化を促進する手法を提案する。
論文 参考訳(メタデータ) (2025-01-22T17:13:48Z) - A 65 nm Bayesian Neural Network Accelerator with 360 fJ/Sample In-Word GRNG for AI Uncertainty Estimation [4.828223001507891]
メモリワードに直接360 fJ/Sample Gaussian RNGを統合するASICを提案する。
この統合により、RNGオーバーヘッドを低減し、BNNの完全な並列計算インメモリ操作を可能にする。
プロトタイプチップは5.12GSa/sのRNGスループットと102GOp/sのニューラルネットワークスループットを実現し、0.45mm2を占有する。
論文 参考訳(メタデータ) (2025-01-08T15:47:04Z) - Optimal Gradient Checkpointing for Sparse and Recurrent Architectures using Off-Chip Memory [0.8321953606016751]
本稿では,スパースRNNとスパイキングニューラルネットワークの一般クラスに適したメモリ効率の高い勾配チェックポイント戦略を提案する。
再計算のオーバーヘッドを最小限に抑えながら、ローカルメモリリソースの使用を最適化し、Double Checkpointingが最も効果的な方法であることが判明した。
論文 参考訳(メタデータ) (2024-12-16T14:23:31Z) - CorrectNet: Robustness Enhancement of Analog In-Memory Computing for
Neural Networks by Error Suppression and Compensation [4.570841222958966]
本稿では,ニューラルネットワークの変動と雑音下での堅牢性を高める枠組みを提案する。
ニューラルネットワークの予測精度は、変動とノイズの下で1.69%以下から回復可能であることを示す。
論文 参考訳(メタデータ) (2022-11-27T19:13:33Z) - Robust Training and Verification of Implicit Neural Networks: A
Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。
組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。
MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文 参考訳(メタデータ) (2022-08-08T03:13:24Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - Rapid Structural Pruning of Neural Networks with Set-based Task-Adaptive
Meta-Pruning [83.59005356327103]
既存のプルーニング技術に共通する制限は、プルーニングの前に少なくとも1回はネットワークの事前トレーニングが必要であることである。
本稿では,ターゲットデータセットの関数としてプルーニングマスクを生成することにより,大規模な参照データセット上で事前訓練されたネットワークをタスク適応的にプルークするSTAMPを提案する。
ベンチマークデータセット上での最近の先進的なプルーニング手法に対するSTAMPの有効性を検証する。
論文 参考訳(メタデータ) (2020-06-22T10:57:43Z) - Neural Networks and Value at Risk [59.85784504799224]
リスクしきい値推定における資産価値のモンテカルロシミュレーションを行う。
株式市場と長期債を試験資産として利用し、ニューラルネットワークについて検討する。
はるかに少ないデータでフィードされたネットワークは、大幅にパフォーマンスが悪くなっています。
論文 参考訳(メタデータ) (2020-05-04T17:41:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。