論文の概要: SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant

• arxiv url: http://arxiv.org/abs/2608.05127v2
• Date: Fri, 07 Aug 2026 01:49:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 14:11:31.067664
• Title: SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant
• Title（参考訳）: SSTQ:サブサンプリング型確率的ターボ量子化による職業保存ベクトル量子化
• Abstract要約: Subsampled TurboQuant (SSTQ) は、オーバーコンプリートな等幅のタイトフレーム、座標サブサンプリング、プライバシ対応量子化を組み合わせたフレームワークである。 SSTQは平均2乗誤差スケーリングを実現し、クライアントあたり$lceil log N il + b$ bitsを使用する。 また、コードブックに依存したMSEスケーリングを$O(4b)$から$O(2b)$に削減する、プライバシを意識したコードブックの目的も導出します。
• 参考スコア（独自算出の注目度）: 79.24089819400126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Achieving local differential privacy in distributed optimization while maintaining low communication cost remains challenging. Existing vector quantization methods, such as vqSGD, use high-dimensional geometric constructions but incur unfavorable dimension-dependent variance. In this work, we propose Subsampled Stochastic TurboQuant (SSTQ), a framework that combines overcomplete equal-norm tight frames, coordinate subsampling, and privacy-aware one-dimensional quantization. SSTQ includes two variants: a Flat Randomized Response version and a Metric-Aware Laplace version, the latter being better suited to higher codebook bit-width regimes. We show that SSTQ achieves optimal mean squared error scaling while using only $\lceil \log_2 N \rceil + b$ bits per client, where $N = Θ(d)$ is the frame size. We also derive a surrogate privacy-aware codebook objective that reduces the codebook-dependent MSE scaling from $O(4^b)$ to $O(2^b)$. Finally, we empirically evaluate SSTQ against established baselines on federated learning tasks using CIFAR-10 and Fashion-MNIST, demonstrating favorable utility and communication efficiency. Some of the analytical derivations were first obtained using a fully automated Gemini-based agentic system developed internally at Google. The authors have verified those derivations and edited them for clarity of presentation.
• Abstract（参考訳）: 低通信コストを維持しながら、分散最適化におけるローカルな差分プライバシーを実現することは、依然として困難である。 既存のベクトル量子化法、例えば vqSGD は、高次元の幾何学的構成を用いるが、望ましくない次元依存分散を用いる。 本研究では, オーバーコンプリートな等ノルムなフレーム, 座標サブサンプリング, プライバシを意識した1次元量子化を組み合わせたフレームワークであるSubsampled Stochastic TurboQuant (SSTQ)を提案する。 SSTQにはFlat Randomized ResponseバージョンとMetric-Aware Laplaceバージョンという2つのバリエーションがある。 SSTQは,クライアントあたり$\lceil \log_2 N \rceil + b$ bitsしか使用せずに,最適な平均2乗誤差スケーリングを実現する。 また、コードブックに依存したMSEスケーリングを$O(4^b)$から$O(2^b)$に削減する、プライバシーを意識したコードブックの目的も導出します。 最後に,CIFAR-10 と Fashion-MNIST を用いて,既存の学習課題のベースラインに対して,SSTQ を実証的に評価した。 分析的導出のいくつかは、Googleの内部で開発された完全に自動化されたジェミニベースのエージェントシステムを用いて最初に得られた。 著者らはこれらの導出を検証し、提示の明確さのためにそれらを編集した。

関連論文リスト

• Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
  分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。 我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
  論文  参考訳（メタデータ） (2026-08-06T19:49:48Z)
• Order-Optimal Sequential 1-Bit Mean Estimation in General Tail Regimes [32.65125292684608]
  ランダム化しきい値クエリのみに基づく適応型平均推定器を提案する。 我々の推定器のサンプル複雑性は、余分な乗法的な$O(log(/))$ペナルティを持つ。 しきい値クエリとより一般的な間隔クエリの両方において、任意の非適応推定器のサンプル複雑性は線形にスケールしなければならない。
  論文  参考訳（メタデータ） (2026-04-09T04:49:21Z)
• Stochastic Dimension-Free Zeroth-Order Estimator for High-Dimensional and High-Order PINNs [5.601252185916962]
  本稿では,空間とメモリの両方において次元に依存しない複雑性を実現する統一的なフレームワークを提案する。 textbfSDZEは、単一のNVIDIA A100 GPU上で1000万次元PINNのトレーニングを可能にし、最先端のベースラインよりもメモリ効率が大幅に向上した。
  論文  参考訳（メタデータ） (2026-03-25T07:02:34Z)
• Adaptation to Intrinsic Dependence in Diffusion Language Models [5.185131234265025]
  拡散言語モデル(DLM)は自己回帰(AR)アプローチに代わる有望な代替手段として登場した。 対象データ分布の(未知の)依存構造に適応するDLMの分布に依存しないアンマスキングスケジュールを提案する。 この結果は, 先行収束理論を著しく改善し, 低複雑さ分布に対する相当なサンプリング加速を得た。
  論文  参考訳（メタデータ） (2026-02-23T18:41:34Z)
• Tensor Network Generator-Enhanced Optimization for Traveling Salesman Problem [12.04919729571293]
  本稿では、旅行セールスマン問題(TSP)に対するテンソルネットワークジェネレータ強化最適化(TN-GEO)フレームワークの適用について述べる。 提案手法では,自動微分可能な行列積状態(MPS)を生成モデルとして,テンソルネットワークのBornマシンを用いる。 局所的な相関に注目する$k$-site variantsは、フルMPSの場合よりもよい結果を示す。
  論文  参考訳（メタデータ） (2026-02-12T21:18:19Z)
• Multiple-play Stochastic Bandits with Prioritized Arm Capacity Sharing [52.124267908936396]
  このモデルは、$M$armと$K$playで構成されている。 各アームには複数の能力があり、各ユニットの能力は報酬関数に関連付けられている。 複数のプレーがアームキャパシティを競う場合、アームキャパシティは第1の優先重みで割り当てられる。
  論文  参考訳（メタデータ） (2025-12-25T11:19:09Z)
• FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
  Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。 Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
  論文  参考訳（メタデータ） (2025-05-19T07:32:56Z)
• Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
  近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。 本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
  論文  参考訳（メタデータ） (2024-04-29T15:04:07Z)
• Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
  単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。 我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
  論文  参考訳（メタデータ） (2024-03-08T18:50:19Z)
• Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic Shortest Path [80.60592344361073]
  線形混合遷移カーネルを用いた最短経路(SSP)問題について検討する。 エージェントは繰り返し環境と対話し、累積コストを最小化しながら特定の目標状態に到達する。 既存の作業は、イテレーションコスト関数の厳密な下限や、最適ポリシーに対する期待長の上限を仮定することが多い。
  論文  参考訳（メタデータ） (2024-02-14T07:52:00Z)
• Learning Low-Rank Representations for Model Compression [6.721845345130468]
  本稿では,従来のVQアルゴリズムを様々なタスクやアーキテクチャで上回る低ランク表現ベクトル量子化(textLR2textVQ$)手法を提案する。 本手法では,圧縮率を直接$m$で制御することができ,最終的な精度は$tilded$で決定される。 適切な$tilded$で、ImageNet分類データセット上でResNet-18/ResNet-50で$textLR2textVQ$を評価します。
  論文  参考訳（メタデータ） (2022-11-21T12:15:28Z)
• Multi-block-Single-probe Variance Reduced Estimator for Coupled Compositional Optimization [49.58290066287418]
  構成問題の複雑さを軽減するために,MSVR (Multi-block-probe Variance Reduced) という新しい手法を提案する。 本研究の結果は, 試料の複雑さの順序や強靭性への依存など, 様々な面で先行して改善された。
  論文  参考訳（メタデータ） (2022-07-18T12:03:26Z)
• Optimal SQ Lower Bounds for Robustly Learning Discrete Product Distributions and Ising Models [45.14286976373306]
  我々は、離散的な高次元分布の特定の族をしっかりと学習するために、最適な統計的クエリー(SQ)の下位境界を確立する。 我々のSQローバウンドは、これらの問題に対する既知のアルゴリズムのエラー保証と一致し、これらのタスクの現在の上限が最善であることを示す。
  論文  参考訳（メタデータ） (2022-06-09T16:10:23Z)
• Statistical Inference of Constrained Stochastic Optimization via Sketched Sequential Quadratic Programming [53.63469275932989]
  制約付き非線形最適化問題のオンライン統計的推測を考察する。 これらの問題を解決するために、逐次二次計画法(StoSQP)を適用する。
  論文  参考訳（メタデータ） (2022-05-27T00:34:03Z)
• Breaking the Sample Complexity Barrier to Regret-Optimal Model-Free Reinforcement Learning [52.76230802067506]
  漸進的強化学習における後悔を最小限に抑えるために,新しいモデルフリーアルゴリズムを提案する。 提案アルゴリズムは、2つのQ-ラーニングシーケンスの助けを借りて、初期設定された参照更新ルールを用いる。 初期の分散還元法の設計原理は、他のRL設定とは独立した関心を持つかもしれない。
  論文  参考訳（メタデータ） (2021-10-09T21:13:48Z)
• Hashing embeddings of optimal dimension, with applications to linear least squares [1.2891210250935143]
  スケッチの射影次元$m$で最適である$sgeq 1$のスケッチ行列に対して、サブスペース埋め込み特性を提示する。 これらの結果をLinear Least Squares (LLS) の特殊なケースに適用し,これらの問題に対する汎用ソフトウェアパッケージであるSki-LLSを開発する。
  論文  参考訳（メタデータ） (2021-05-25T10:35:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。