論文の概要: The Mutual Information In The Vicinity of Capacity-Achieving Input
Distributions
- arxiv url: http://arxiv.org/abs/2304.14219v3
- Date: Wed, 14 Jun 2023 05:59:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-19 17:14:34.446841
- Title: The Mutual Information In The Vicinity of Capacity-Achieving Input
Distributions
- Title(参考訳): 容量獲得型入力分布における相互情報
- Authors: Bar{\i}\c{s} Nakibo\u{g}lu and Hao-Chung Cheng
- Abstract要約: ピンスカーの不等式ではなくテイラー級数近似を用いて、入力分布のキャパシティへの距離による相互情報の最も遅い減少の正確な特徴づけを決定する。
結果は、出力密度演算子が分離可能なヒルベルト空間上で定義される古典量子チャネルに対して確立される。
- 参考スコア(独自算出の注目度): 7.487718119544157
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: On small neighborhoods of the capacity-achieving input distributions, the
decrease of the mutual information with the distance to the capacity-achieving
input distributions is bounded below by a linear function of the square of the
distance to the capacity-achieving input distributions for all channels with
(possibly multiple) linear constraints and finite input sets using an identity
due to Tops{\o}e and Pinsker's inequality. Counter examples demonstrating
non-existence of such a quadratic bound are provided for the case of infinite
many linear constraints and the case of infinite input sets. Using a Taylor
series approximation, rather than Pinsker's inequality, the exact
characterization of the slowest decrease of the mutual information with the
distance to the capacity-achieving input distributions is determined on small
neighborhoods of the capacity-achieving input distributions. Analogous results
are established for classical-quantum channels whose output density operators
are defined on a separable Hilbert spaces. Implications of these observations
for the channel coding problem and applications of the proof technique to
related problems are discussed.
- Abstract(参考訳): 容量獲得入力分布の小さな近傍では、容量獲得入力分布との距離との相互情報の減少は、tops{\o}eとpinskerの不等式による同一性を用いた(多倍の)線形制約を持つすべてのチャネルの容量達成入力分布と有限入力集合との間の距離の2乗の線形関数によって下限される。
そのような二次境界の非存在を示すカウンター例は、無限個の線形制約と無限個の入力集合の場合に与えられる。
ピンスカーの不等式ではなくテイラー級数近似を用いて、容量獲得入力分布の小さい近傍において、容量獲得入力分布までの距離における相互情報の最も遅い減少の正確な特性を決定する。
出力密度作用素が分離可能なヒルベルト空間上で定義される古典量子チャネルに対して、アナログ結果が確立される。
チャネル符号化問題に対するこれらの観測の意義と関連する問題への証明手法の適用について論じる。
関連論文リスト
- Approximation of optimization problems with constraints through kernel
Sum-Of-Squares [77.27820145069515]
我々は、点的不等式が非負の kSoS 関数のクラス内で等式となることを示す。
また, 等式制約に焦点をあてることで, 散乱不等式を用いることで, 制約のサンプリングにおける次元性の呪いを軽減することができることを示す。
論文 参考訳(メタデータ) (2023-01-16T10:30:04Z) - A Law of Robustness beyond Isoperimetry [84.33752026418045]
我々は、任意の分布上でニューラルネットワークパラメータを補間する頑健性の低い$Omega(sqrtn/p)$を証明した。
次に、$n=mathrmpoly(d)$のとき、スムーズなデータに対する過度なパラメータ化の利点を示す。
我々は、$n=exp(omega(d))$ のとき、$O(1)$-Lipschitz の頑健な補間関数の存在を否定する。
論文 参考訳(メタデータ) (2022-02-23T16:10:23Z) - A lower bound on the space overhead of fault-tolerant quantum computation [51.723084600243716]
しきい値定理は、フォールトトレラント量子計算の理論における基本的な結果である。
振幅雑音を伴う耐故障性量子計算の最大長に対する指数的上限を証明した。
論文 参考訳(メタデータ) (2022-01-31T22:19:49Z) - Perturbational Complexity by Distribution Mismatch: A Systematic
Analysis of Reinforcement Learning in Reproducing Kernel Hilbert Space [0.76146285961466]
一般再生カーネルヒルベルト空間(RKHS)における強化学習の解析
我々は、報酬関数がRKHSの単位球に含まれるマルコフ決定過程の族 $mathcalM$ を考える。
報酬関数が高次元のRKHSにあるとき、遷移確率が知られ、作用空間が有限であるとしても、RL問題を次元性の呪いに苦しむことは可能であることを示す。
論文 参考訳(メタデータ) (2021-11-05T12:46:04Z) - Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable
Approach for Continuous Markov Random Fields [53.31927549039624]
断片的な離散化は既存の離散化問題と矛盾しないことを示す。
この理論を2つの画像のマッチング問題に適用する。
論文 参考訳(メタデータ) (2021-07-13T12:31:06Z) - Nonparametric approximation of conditional expectation operators [0.3655021726150368]
最小の仮定の下で、$[Pf](x) := mathbbE[f(Y) mid X = x ]$ で定義される$L2$-operatorの近似について検討する。
我々は、再生されたカーネル空間上で作用するヒルベルト・シュミット作用素により、作用素ノルムにおいて$P$が任意に適切に近似できることを証明した。
論文 参考訳(メタデータ) (2020-12-23T19:06:12Z) - Approximation of BV functions by neural networks: A regularity theory
approach [0.0]
我々は、単位円上にReLU活性化関数を持つ単一の隠れ層ニューラルネットワークによる関数の近似を懸念する。
まず,ペナリゼーションを伴うコスト関数に関連する勾配流の平衡への収束について検討した。
ペナリゼーションが有界な重みをバイアスするので、有界な重みを持つネットワークが有界な変動の与えられた関数をいかによく近似できるかを研究できる。
論文 参考訳(メタデータ) (2020-12-15T13:58:44Z) - Scattering data and bound states of a squeezed double-layer structure [77.34726150561087]
2つの平行な均質層からなる構造は、その幅が$l_j$と$l_j$であり、それらの間の距離が$r$を同時に0に縮めるように、極限において研究される。
非自明な有界状態の存在は、ディラックのデルタ関数の微分の形で圧縮ポテンシャルの特別な例を含む、スクイーズ極限で証明される。
有限系の有限個の有界状態から、一個の有界状態が圧縮された系で生き残るシナリオを詳述する。
論文 参考訳(メタデータ) (2020-11-23T14:40:27Z) - Linear Optimal Transport Embedding: Provable Wasserstein classification
for certain rigid transformations and perturbations [79.23797234241471]
分布の区別は多くの科学分野において重要な問題である。
線形最適輸送(LOT)は分布の空間を$L2$-スペースに埋め込む。
複数の分布分類問題に対するLOTの利点を実証する。
論文 参考訳(メタデータ) (2020-08-20T19:09:33Z) - Inexact and Stochastic Generalized Conditional Gradient with Augmented
Lagrangian and Proximal Step [2.0196229393131726]
我々は著者の以前の論文で開発されたCGALPアルゴリズムの不正確さとバージョンを分析した。
これにより、いくつかの勾配、項、および/または線形最小化オラクルを不正確な方法で計算することができる。
ラグランジアンのアフィン制約の最適性と実現可能性への収束を示す。
論文 参考訳(メタデータ) (2020-05-11T14:52:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。