論文の概要: A coherence parameter characterizing generative compressed sensing with
Fourier measurements
- arxiv url: http://arxiv.org/abs/2207.09340v1
- Date: Tue, 19 Jul 2022 15:49:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 13:37:32.899694
- Title: A coherence parameter characterizing generative compressed sensing with
Fourier measurements
- Title(参考訳): フーリエ測定による生成的圧縮センシングを特徴付けるコヒーレンスパラメータ
- Authors: Aaron Berk, Simone Brugiapaglia, Babhru Joshi, Yaniv Plan, Matthew
Scott, \"Ozg\"ur Yilmaz
- Abstract要約: サブサンプルアイソメトリーを用いた生成的圧縮センシングのための,最初の制限されたアイソメトリーの保証を証明した。
回復効率は、ネットワークの範囲と測定行列の間の相互作用を測定する新しいパラメータであるコヒーレンスによって特徴づけられる。
- 参考スコア(独自算出の注目度): 8.106641866299379
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In Bora et al. (2017), a mathematical framework was developed for compressed
sensing guarantees in the setting where the measurement matrix is Gaussian and
the signal structure is the range of a generative neural network (GNN). The
problem of compressed sensing with GNNs has since been extensively analyzed
when the measurement matrix and/or network weights follow a subgaussian
distribution. We move beyond the subgaussian assumption, to measurement
matrices that are derived by sampling uniformly at random rows of a unitary
matrix (including subsampled Fourier measurements as a special case).
Specifically, we prove the first known restricted isometry guarantee for
generative compressed sensing with subsampled isometries, and provide recovery
bounds with nearly order-optimal sample complexity, addressing an open problem
of Scarlett et al. (2022, p. 10). Recovery efficacy is characterized by the
coherence, a new parameter, which measures the interplay between the range of
the network and the measurement matrix. Our approach relies on subspace
counting arguments and ideas central to high-dimensional probability.
Furthermore, we propose a regularization strategy for training GNNs to have
favourable coherence with the measurement operator. We provide compelling
numerical simulations that support this regularized training strategy: our
strategy yields low coherence networks that require fewer measurements for
signal recovery. This, together with our theoretical results, supports
coherence as a natural quantity for characterizing generative compressed
sensing with subsampled isometries.
- Abstract(参考訳): bora et al. (2017) では、測定行列がガウス的かつ信号構造が生成ニューラルネットワーク(gnn)の範囲である設定において、圧縮センシングの保証のために数学的枠組みが開発された。
GNNを用いた圧縮センシングの問題は、測定行列および/またはネットワーク重みがガウス分布に従えば広く解析される。
我々は、ユニタリ行列のランダムな行で一様にサンプリングして得られる測定行列(特別な場合としてサブサンプリングされたフーリエ測度を含む)へ、サブガウジアン仮定を超越する。
具体的には,スカーレット等 (2022, p. 10) のオープン問題に対処し, サブサンプリングアイソメトリを用いた生成的圧縮センシングに対する最初の制限的アイソメトリを証明し, ほぼ最適に近いサンプル複雑性を持つ回復限界を与える。
回復効率は、ネットワークの範囲と測定行列の間の相互作用を測定する新しいパラメータであるコヒーレンスによって特徴づけられる。
我々のアプローチは、高次元確率の中心となる部分空間カウント引数とアイデアに依存する。
さらに,測定演算子との整合性を確保するために,GNNをトレーニングするための正規化戦略を提案する。
我々は、この正規化トレーニング戦略をサポートする魅力的な数値シミュレーションを提供し、この戦略は、信号回復のための測定の少ない低いコヒーレンスネットワークを生成する。
このことは、我々の理論的結果とともに、サブサンプル等距離による生成的圧縮センシングを特徴付ける自然量としてのコヒーレンスを支持する。
関連論文リスト
- Weighted Riesz Particles [0.0]
対象分布を、パラメータの無限次元空間が多くの決定論的部分多様体からなる写像と考える。
我々は、Rieszと呼ばれる点の性質を研究し、それをシーケンシャルMCMCに埋め込む。
低い評価で高い受け入れ率が得られることが分かりました。
論文 参考訳(メタデータ) (2023-12-01T14:36:46Z) - Multi-Irreducible Spectral Synchronization for Robust Rotation Averaging [1.2289361708127877]
雑音の測定値として、SO$における未知の向きの集合を$R_1, ..., R_Nで推定する方法を示す。
その結果, 正確な推定を実現するために, エフェクトが保証される計測ネットワークを考案する方法が示唆された。
論文 参考訳(メタデータ) (2023-11-28T06:25:26Z) - Adaptive Log-Euclidean Metrics for SPD Matrix Learning [73.12655932115881]
広く使われているログユークリッド計量(LEM)を拡張した適応ログユークリッド計量(ALEM)を提案する。
実験および理論的結果から,SPDニューラルネットワークの性能向上における提案手法の有効性が示された。
論文 参考訳(メタデータ) (2023-03-26T18:31:52Z) - Scalable Stochastic Gradient Riemannian Langevin Dynamics in Non-Diagonal Metrics [3.8811062755861956]
本稿では,2つの非対角的指標について述べる。
完全接続型ニューラルネットワーク(NN)と疎結合型プリエントと、相関したプリエントを持つ畳み込みNNでは、これらのメトリクスを用いることで改善が期待できることを示す。
論文 参考訳(メタデータ) (2023-03-09T08:20:28Z) - On the Effective Number of Linear Regions in Shallow Univariate ReLU
Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。
我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
論文 参考訳(メタデータ) (2022-05-18T16:57:10Z) - Entanglement estimation in tensor network states via sampling [0.688204255655161]
一般次元におけるテンソルネットワーク状態の有意義な絡み合いを抽出する手法を提案する。
チェッカーボード形状の1次元臨界XX連鎖と2次元トーリック符号について,本手法を検証した。
論文 参考訳(メタデータ) (2022-02-08T19:00:03Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Learning a Compressive Sensing Matrix with Structural Constraints via
Maximum Mean Discrepancy Optimization [17.104994036477308]
本稿では,圧縮センシング関連回復問題に対する測定行列を得るための学習に基づくアルゴリズムを提案する。
ニューラルネットワーク関連のトピックにおけるこのようなメトリクスの最近の成功は、機械学習に基づく問題の解決策を動機付けている。
論文 参考訳(メタデータ) (2021-10-14T08:35:54Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Robust Compressed Sensing using Generative Models [98.64228459705859]
本稿では,Median-of-Means (MOM) にヒントを得たアルゴリズムを提案する。
我々のアルゴリズムは、外れ値が存在する場合でも、重み付きデータの回復を保証する。
論文 参考訳(メタデータ) (2020-06-16T19:07:41Z) - Sample Complexity Bounds for 1-bit Compressive Sensing and Binary Stable
Embeddings with Generative Priors [52.06292503723978]
生成モデルを用いた圧縮センシングの進歩により, 生成モデルを用いた1ビット圧縮センシングの問題点を考察した。
まずノイズのない1ビット測定を考察し, ガウス測度に基づく近似回復のためのサンプル複雑性境界を提供する。
また,リプシッツ連続生成モデルを用いた1ビット圧縮センシングにも有効であることを示すため,評価誤差と雑音に対する再構成の堅牢性を示すBinary $epsilon$-Stable Embedding特性を実証した。
論文 参考訳(メタデータ) (2020-02-05T09:44:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。