論文の概要: Minimum Distortion Quantization with Specified Output Distribution
- arxiv url: http://arxiv.org/abs/2606.10458v1
- Date: Tue, 09 Jun 2026 06:06:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.345383
- Title: Minimum Distortion Quantization with Specified Output Distribution
- Title(参考訳): 出力分布の特定による最小歪み量子化
- Authors: Aolin Xu,
- Abstract要約: 最適な量化器は$X=big(F_-1(X)-1(F_W(W))big)$である。
P_W$ が区間上で一様であるとき、または$P_X$ が 1,ldots,k$ 上の一様であるとき、量子化器は単純な形式を $X=F_X-1(F_W(W))$ とする。
- 参考スコア(独自算出の注目度): 1.218340575383456
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We derive the optimal quantizer of a real-valued random variable $W$ with distribution $P_W$ such that 1) the distribution of the quantization output $X$ that can take $k$ values follows any specified distribution $P_X$ over $\{1,\ldots,k\}$, and 2) the minimum mean squared error (MMSE) of estimating $W$ from $X$ is minimized. It is shown that the optimal quantizer takes the form $X=σ\big(F_{σ^{-1}(X)}^{-1}(F_W(W))\big)$, where $σ$ is the optimal permutation of $\{1,\ldots,k\}$ among all permutations to minimize the MMSE, and $F$ is the cumulative distribution function. When $P_W$ is uniform over an interval or $P_X$ is uniform over $\{1,\ldots,k\}$, the quantizer takes a simple form $X=F_{X}^{-1}(F_W(W))$. The concept of majorization plays a key role in the optimality proof. Specifying the output distribution is useful for designing quantizers with explicitly controlled output entropy, maximized mutual information between input and output, tailored output distribution to match channel input requirements for communication, and data anonymization.
- Abstract(参考訳): 分布が$P_W$である実数値確率変数$W$の最適量子化器を導出する。
1) 量子化出力$X$の分布は、$k$の値を取ることができ、任意の特定の分布$P_X$ over $\{1,\ldots,k\}$に従う。
2)$X$から$W$を推定する最小平均二乗誤差(MMSE)を最小化する。
最適量子化器は$X=σ\big(F_{σ^{-1}(X)}^{-1}(F_W(W))\big)$、$σ$は$\{1,\ldots,k\}$の最適置換であり、$F$は累積分布関数である。
P_W$ が区間上で一様であるとき、または$P_X$ が$\{1,\ldots,k\}$ に対して一様であるとき、量子化器は単純な形式 $X=F_{X}^{-1}(F_W(W))$ を取る。
偏化の概念は最適性証明において重要な役割を果たす。
出力分布の特定は、明示的に制御された出力エントロピー、入力と出力の間の相互情報の最大化、通信のチャネル入力要求に合うように調整された出力分布、およびデータ匿名化を備えた量子化器の設計に有用である。
関連論文リスト
- Optimal Scalar Quantization for Matrix Multiplication: Closed-Form Density and Phase Transition [50.36362492608702]
乗算前の2つの行列のエントリーワイズスカラー量子化について検討した。
我々は、閉形式の最適点密度 [ star(u) propto exp!left(-fracu26right)bigl( (1-2)+2u22bigr), qquad u=fracx_X を求め、相関駆動相転移を証明した。
論文 参考訳(メタデータ) (2026-03-20T01:53:44Z) - Proving the Limited Scalability of Centralized Distributed Optimization via a New Lower Bound Construction [57.93371273485736]
我々は、すべての労働者が同一の分布にアクセスする均質な(すなわちd.d.)場合であっても、すべての労働者が非バイアス付き境界 LDeltaepsilon2,$$$$$ のポリ対数的により良いポリ対数を求める集中型分散学習環境を考える。
論文 参考訳(メタデータ) (2025-06-30T13:27:39Z) - Stochastic Approximation Approaches to Group Distributionally Robust Optimization and Beyond [89.72693227960274]
本稿では,グループ分散ロバスト最適化 (GDRO) を,$m$以上の異なる分布をうまく処理するモデルを学習する目的で検討する。
各ラウンドのサンプル数を$m$から1に抑えるため、GDROを2人でプレイするゲームとして、一方のプレイヤーが実行し、他方のプレイヤーが非公開のマルチアームバンディットのオンラインアルゴリズムを実行する。
第2のシナリオでは、最大リスクではなく、平均的最上位k$リスクを最適化し、分散の影響を軽減することを提案する。
論文 参考訳(メタデータ) (2023-02-18T09:24:15Z) - The Sparse Hausdorff Moment Problem, with Application to Topic Models [5.151973524974052]
我々は$m=2k$iid二進確率変数のサンプルを用いて$k$-mixtureを同定するアルゴリズムを提案する。
加法精度$w_mincdotzetaO(k)$のモーメントを知るだけで十分である。
論文 参考訳(メタデータ) (2020-07-16T04:23:57Z) - Sample Amplification: Increasing Dataset Size even when Learning is Impossible [15.864702679819544]
未知のディストリビューションから引き出されたデータである$D$が、このデータセットを増幅し、さらに大きなサンプルセットを$D$から抽出したように見えるように出力することは、どの程度まで可能か?
この問題は次のように定式化する: $left(n, n + Theta(fracnsqrtk)right)$アンプが存在するが、小さな定数全変動距離への分布を学習するには$Theta(d)$サンプルが必要である。
論文 参考訳(メタデータ) (2019-04-26T21:42:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。