論文の概要: SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant
- arxiv url: http://arxiv.org/abs/2608.05127v1
- Date: Wed, 05 Aug 2026 17:51:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:44.069332
- Title: SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant
- Title(参考訳): SSTQ:サブサンプリング型確率的ターボ量子化による職業保存ベクトル量子化
- Authors: Adel Javanmard, David P. Woodruff, Vahab Mirrokni,
- Abstract要約: Subsampled TurboQuant (SSTQ) は、オーバーコンプリートな等幅のタイトフレーム、座標サブサンプリング、プライバシ対応量子化を組み合わせたフレームワークである。
SSTQは、平均2乗誤差スケーリングを実現し、クライアントあたり$lceil log N il + b$しか使用せず、$N = (d)$はフレームサイズである。
また、コードブックに依存したMSEスケーリングを$O(4b)$から$O(2b)$に削減する、プライバシを意識したコードブックの目的も導出します。
- 参考スコア(独自算出の注目度): 79.24089819400126
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Achieving local differential privacy in distributed optimization while maintaining low communication cost remains challenging. Existing vector quantization methods, such as vqSGD, use high-dimensional geometric constructions but incur unfavorable dimension-dependent variance. In this work, we propose Subsampled Stochastic TurboQuant (SSTQ), a framework that combines overcomplete equal-norm tight frames, coordinate subsampling, and privacy-aware one-dimensional quantization. SSTQ includes two variants: a Flat Randomized Response version and a Metric-Aware Laplace version, the latter being better suited to higher codebook bit-width regimes. We show that SSTQ achieves optimal mean squared error scaling while using only $\lceil \log_2 N \rceil + b$ bits per client, where $N = Θ(d)$ is the frame size. We also derive a surrogate privacy-aware codebook objective that reduces the codebook-dependent MSE scaling from $O(4^b)$ to $O(2^b)$. Finally, we empirically evaluate SSTQ against established baselines on federated learning tasks using CIFAR-10 and Fashion-MNIST, demonstrating favorable utility and communication efficiency.
- Abstract(参考訳): 低通信コストを維持しながら、分散最適化におけるローカルな差分プライバシーを実現することは、依然として困難である。
既存のベクトル量子化法、例えば vqSGD は、高次元の幾何学的構成を用いるが、望ましくない次元依存分散を用いる。
本研究では, オーバーコンプリートな等ノルムなフレーム, 座標サブサンプリング, プライバシを意識した1次元量子化を組み合わせたフレームワークであるSubsampled Stochastic TurboQuant (SSTQ)を提案する。
SSTQにはFlat Randomized ResponseバージョンとMetric-Aware Laplaceバージョンという2つのバリエーションがある。
SSTQは,クライアントあたり$\lceil \log_2 N \rceil + b$ bitsしか使用せずに,最適な平均2乗誤差スケーリングを実現する。
また、コードブックに依存したMSEスケーリングを$O(4^b)$から$O(2^b)$に削減する、プライバシーを意識したコードブックの目的も導出します。
最後に,CIFAR-10 と Fashion-MNIST を用いて,既存の学習課題のベースラインに対して,SSTQ を実証的に評価した。
関連論文リスト
- Stochastic Dimension-Free Zeroth-Order Estimator for High-Dimensional and High-Order PINNs [5.601252185916962]
本稿では,空間とメモリの両方において次元に依存しない複雑性を実現する統一的なフレームワークを提案する。
textbfSDZEは、単一のNVIDIA A100 GPU上で1000万次元PINNのトレーニングを可能にし、最先端のベースラインよりもメモリ効率が大幅に向上した。
論文 参考訳(メタデータ) (2026-03-25T07:02:34Z) - Tensor Network Generator-Enhanced Optimization for Traveling Salesman Problem [12.04919729571293]
本稿では、旅行セールスマン問題(TSP)に対するテンソルネットワークジェネレータ強化最適化(TN-GEO)フレームワークの適用について述べる。
提案手法では,自動微分可能な行列積状態(MPS)を生成モデルとして,テンソルネットワークのBornマシンを用いる。
局所的な相関に注目する$k$-site variantsは、フルMPSの場合よりもよい結果を示す。
論文 参考訳(メタデータ) (2026-02-12T21:18:19Z) - Multiple-play Stochastic Bandits with Prioritized Arm Capacity Sharing [52.124267908936396]
このモデルは、$M$armと$K$playで構成されている。
各アームには複数の能力があり、各ユニットの能力は報酬関数に関連付けられている。
複数のプレーがアームキャパシティを競う場合、アームキャパシティは第1の優先重みで割り当てられる。
論文 参考訳(メタデータ) (2025-12-25T11:19:09Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic
Shortest Path [80.60592344361073]
線形混合遷移カーネルを用いた最短経路(SSP)問題について検討する。
エージェントは繰り返し環境と対話し、累積コストを最小化しながら特定の目標状態に到達する。
既存の作業は、イテレーションコスト関数の厳密な下限や、最適ポリシーに対する期待長の上限を仮定することが多い。
論文 参考訳(メタデータ) (2024-02-14T07:52:00Z) - Learning Low-Rank Representations for Model Compression [6.721845345130468]
本稿では,従来のVQアルゴリズムを様々なタスクやアーキテクチャで上回る低ランク表現ベクトル量子化(textLR2textVQ$)手法を提案する。
本手法では,圧縮率を直接$m$で制御することができ,最終的な精度は$tilded$で決定される。
適切な$tilded$で、ImageNet分類データセット上でResNet-18/ResNet-50で$textLR2textVQ$を評価します。
論文 参考訳(メタデータ) (2022-11-21T12:15:28Z) - Multi-block-Single-probe Variance Reduced Estimator for Coupled
Compositional Optimization [49.58290066287418]
構成問題の複雑さを軽減するために,MSVR (Multi-block-probe Variance Reduced) という新しい手法を提案する。
本研究の結果は, 試料の複雑さの順序や強靭性への依存など, 様々な面で先行して改善された。
論文 参考訳(メタデータ) (2022-07-18T12:03:26Z) - Statistical Inference of Constrained Stochastic Optimization via Sketched Sequential Quadratic Programming [53.63469275932989]
制約付き非線形最適化問題のオンライン統計的推測を考察する。
これらの問題を解決するために、逐次二次計画法(StoSQP)を適用する。
論文 参考訳(メタデータ) (2022-05-27T00:34:03Z) - Hashing embeddings of optimal dimension, with applications to linear
least squares [1.2891210250935143]
スケッチの射影次元$m$で最適である$sgeq 1$のスケッチ行列に対して、サブスペース埋め込み特性を提示する。
これらの結果をLinear Least Squares (LLS) の特殊なケースに適用し,これらの問題に対する汎用ソフトウェアパッケージであるSki-LLSを開発する。
論文 参考訳(メタデータ) (2021-05-25T10:35:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。