論文の概要: The Mutual Information In The Vicinity of Capacity-Achieving Input Distributions
- arxiv url: http://arxiv.org/abs/2304.14219v4
- Date: Fri, 6 Sep 2024 12:29:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-09 21:18:57.309959
- Title: The Mutual Information In The Vicinity of Capacity-Achieving Input Distributions
- Title（参考訳）: 入力分布のキャパシティを生かした相互情報
- Authors: Barış Nakiboğlu, Hao-Chung Cheng,
- Abstract要約: 距離が$Pi_mathcalA$までの相互情報の最も遅い減少の正確な特徴は、$Pi_mathcalA$の小さな地区で決定される。
古典量子チャネルの結果は、二次境界に対して分離出力ヒルベルト空間仮定と、正確な特徴づけのために有限次元出力ヒルベルト空間仮定の下で確立される。
- 参考スコア（独自算出の注目度）: 6.675805308519987
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The mutual information is bounded from above by a decreasing affine function of the square of the distance between the input distribution and the set of all capacity-achieving input distributions $\Pi_{\mathcal{A}}$, on small enough neighborhoods of $\Pi_{\mathcal{A}}$, using an identity due to Tops{\o}e and the Pinsker's inequality, assuming that the input set of the channel is finite and the constraint set $\mathcal{A}$ is polyhedral, i.e., can be described by (possibly multiple but) finitely many linear constraints. Counterexamples demonstrating nonexistence of such a quadratic bound are provided for the case of infinitely many linear constraints and the case of infinite input sets. Using Taylor's theorem with the remainder term, rather than the Pinsker's inequality and invoking Moreau's decomposition theorem the exact characterization of the slowest decrease of the mutual information with the distance to $\Pi_{\mathcal{A}}$ is determined on small neighborhoods of $\Pi_{\mathcal{A}}$. Corresponding results for classical-quantum channels are established under separable output Hilbert space assumption for the quadratic bound and under finite-dimensional output Hilbert space assumption for the exact characterization. Implications of these observations for the channel coding problem and applications of the proof techniques to related problems are discussed.
- Abstract（参考訳）: 相互情報は、入力分布と全てのキャパシティ完備な入力分布の集合である距離の正方形のアフィン関数$\Pi_{\mathcal{A}}$、Tops{\o}e と Pinskerの不等式による同一性を使い、チャネルの入力集合が有限であり、制約集合 $\mathcal{A}$ が多面体であること、すなわち、有限個の線形制約によって記述できる。
そのような二次境界の非存在を示す反例は、無限に多くの線形制約と無限の入力集合の場合に与えられる。
ピンスカーの不等式よりもテイラーの定理を使い、モローの分解定理を呼び起こし、距離$\Pi_{\mathcal{A}}$までの相互情報の最も遅い減少の正確な特徴づけは、$\Pi_{\mathcal{A}}$の小さな近傍で決定される。
古典量子チャネルの対応する結果は、2次有界のヒルベルト空間仮定と、その正確な特徴づけに対する有限次元のヒルベルト空間仮定とで分離可能な出力ヒルベルト空間仮定の下で確立される。
チャネル符号化問題に対するこれらの観測の影響と関連する問題への証明手法の適用について論じる。
関連論文リスト
- Approximation of optimization problems with constraints through kernel
Sum-Of-Squares [77.27820145069515]
我々は、点的不等式が非負の kSoS 関数のクラス内で等式となることを示す。
また, 等式制約に焦点をあてることで, 散乱不等式を用いることで, 制約のサンプリングにおける次元性の呪いを軽減することができることを示す。
論文 参考訳（メタデータ） (2023-01-16T10:30:04Z) - A Law of Robustness beyond Isoperimetry [84.33752026418045]
我々は、任意の分布上でニューラルネットワークパラメータを補間する頑健性の低い$Omega(sqrtn/p)$を証明した。
次に、$n=mathrmpoly(d)$のとき、スムーズなデータに対する過度なパラメータ化の利点を示す。
我々は、$n=exp(omega(d))$ のとき、$O(1)$-Lipschitz の頑健な補間関数の存在を否定する。
論文 参考訳（メタデータ） (2022-02-23T16:10:23Z) - A lower bound on the space overhead of fault-tolerant quantum computation [51.723084600243716]
しきい値定理は、フォールトトレラント量子計算の理論における基本的な結果である。
振幅雑音を伴う耐故障性量子計算の最大長に対する指数的上限を証明した。
論文 参考訳（メタデータ） (2022-01-31T22:19:49Z) - Perturbational Complexity by Distribution Mismatch: A Systematic
Analysis of Reinforcement Learning in Reproducing Kernel Hilbert Space [0.76146285961466]
一般再生カーネルヒルベルト空間(RKHS)における強化学習の解析
我々は、報酬関数がRKHSの単位球に含まれるマルコフ決定過程の族 $mathcalM$ を考える。
報酬関数が高次元のRKHSにあるとき、遷移確率が知られ、作用空間が有限であるとしても、RL問題を次元性の呪いに苦しむことは可能であることを示す。
論文 参考訳（メタデータ） (2021-11-05T12:46:04Z) - Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable
Approach for Continuous Markov Random Fields [53.31927549039624]
断片的な離散化は既存の離散化問題と矛盾しないことを示す。
この理論を2つの画像のマッチング問題に適用する。
論文 参考訳（メタデータ） (2021-07-13T12:31:06Z) - Nonparametric approximation of conditional expectation operators [0.3655021726150368]
最小の仮定の下で、$[Pf](x) := mathbbE[f(Y) mid X = x ]$ で定義される$L2$-operatorの近似について検討する。
我々は、再生されたカーネル空間上で作用するヒルベルト・シュミット作用素により、作用素ノルムにおいて$P$が任意に適切に近似できることを証明した。
論文 参考訳（メタデータ） (2020-12-23T19:06:12Z) - Approximation of BV functions by neural networks: A regularity theory
approach [0.0]
我々は、単位円上にReLU活性化関数を持つ単一の隠れ層ニューラルネットワークによる関数の近似を懸念する。
まず,ペナリゼーションを伴うコスト関数に関連する勾配流の平衡への収束について検討した。
ペナリゼーションが有界な重みをバイアスするので、有界な重みを持つネットワークが有界な変動の与えられた関数をいかによく近似できるかを研究できる。
論文 参考訳（メタデータ） (2020-12-15T13:58:44Z) - Scattering data and bound states of a squeezed double-layer structure [77.34726150561087]
2つの平行な均質層からなる構造は、その幅が$l_j$と$l_j$であり、それらの間の距離が$r$を同時に0に縮めるように、極限において研究される。
非自明な有界状態の存在は、ディラックのデルタ関数の微分の形で圧縮ポテンシャルの特別な例を含む、スクイーズ極限で証明される。
有限系の有限個の有界状態から、一個の有界状態が圧縮された系で生き残るシナリオを詳述する。
論文 参考訳（メタデータ） (2020-11-23T14:40:27Z) - Linear Optimal Transport Embedding: Provable Wasserstein classification
for certain rigid transformations and perturbations [79.23797234241471]
分布の区別は多くの科学分野において重要な問題である。
線形最適輸送(LOT)は分布の空間を$L2$-スペースに埋め込む。
複数の分布分類問題に対するLOTの利点を実証する。
論文 参考訳（メタデータ） (2020-08-20T19:09:33Z) - Inexact and Stochastic Generalized Conditional Gradient with Augmented
Lagrangian and Proximal Step [2.0196229393131726]
我々は著者の以前の論文で開発されたCGALPアルゴリズムの不正確さとバージョンを分析した。
これにより、いくつかの勾配、項、および/または線形最小化オラクルを不正確な方法で計算することができる。
ラグランジアンのアフィン制約の最適性と実現可能性への収束を示す。
論文 参考訳（メタデータ） (2020-05-11T14:52:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。