論文の概要: Towards Designing Optimal Sensing Matrices for Generalized Linear
Inverse Problems
- arxiv url: http://arxiv.org/abs/2111.03237v3
- Date: Sun, 20 Aug 2023 02:02:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-23 03:25:00.292608
- Title: Towards Designing Optimal Sensing Matrices for Generalized Linear
Inverse Problems
- Title（参考訳）: 一般化線形逆問題に対する最適センシング行列の設計に向けて
- Authors: Junjie Ma, Ji Xu, Arian Maleki
- Abstract要約: 逆問題 $mathbfy= f(mathbfAx)$ を考える。
スパイカースペクトルが回復性能を損なうか助かるかは、$f$に依存する。
- 参考スコア（独自算出の注目度）: 26.251298081065304
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider an inverse problem $\mathbf{y}= f(\mathbf{Ax})$, where
$\mathbf{x}\in\mathbb{R}^n$ is the signal of interest, $\mathbf{A}$ is the
sensing matrix, $f$ is a nonlinear function and $\mathbf{y} \in \mathbb{R}^m$
is the measurement vector. In many applications, we have some level of freedom
to design the sensing matrix $\mathbf{A}$, and in such circumstances we could
optimize $\mathbf{A}$ to achieve better reconstruction performance. As a first
step towards optimal design, it is important to understand the impact of the
sensing matrix on the difficulty of recovering $\mathbf{x}$ from $\mathbf{y}$.
In this paper, we study the performance of one of the most successful
recovery methods, i.e., the expectation propagation (EP) algorithm. We define a
notion of spikiness for the spectrum of $\bmmathbfA}$ and show the importance
of this measure for the performance of EP. We show that whether a spikier
spectrum can hurt or help the recovery performance depends on $f$. Based on our
framework, we are able to show that, in phase-retrieval problems, matrices with
spikier spectrums are better for EP, while in 1-bit compressed sensing
problems, less spiky spectrums lead to better performance. Our results unify
and substantially generalize existing results that compare Gaussian and
orthogonal matrices, and provide a platform towards designing optimal sensing
systems.
- Abstract（参考訳）: 逆問題 $\mathbf{y}= f(\mathbf{ax})$ を考えると、ここでは$\mathbf{x}\in\mathbb{r}^n$ が興味の信号、$\mathbf{a}$ がセンシング行列、$f$ が非線形関数、$\mathbf{y} \in \mathbb{r}^m$ が測定ベクトルである。
多くのアプリケーションでは、センシングマトリックス $\mathbf{a}$ を設計する自由度がある程度あり、そのような状況では、より優れた復元性能を達成するために$\mathbf{a}$を最適化することができる。
最適設計への第一歩として、センシング行列が$\mathbf{x}$を$\mathbf{y}$から回収する困難さに与える影響を理解することが重要である。
本稿では,最も成功したリカバリ手法,すなわち期待伝播(ep)アルゴリズムの性能について検討する。
我々は、$\bmmathbfA}$のスペクトルに対するスパイキネスの概念を定義し、EPのパフォーマンスに対するこの尺度の重要性を示す。
spikierのスペクトルが傷つくか、リカバリのパフォーマンスを助けるかは、$f$にかかっている。
筆者らの枠組みから, 位相検索問題では, スパイカースペクトルの行列はEPの方がよいが, 1ビット圧縮センシング問題ではスパイカースペクトルの少ない方が性能がよいことを示すことができる。
本結果はガウス行列と直交行列を比較した既存の結果を統一し,実質的に一般化し,最適センシングシステムの設計のためのプラットフォームを提供する。
関連論文リスト
- Provable Acceleration of Nesterov's Accelerated Gradient for Rectangular Matrix Factorization and Linear Neural Networks [46.04785603483612]
我々はネステロフの加速勾配が複雑性$O(kappalogfrac1epsilon)$に達することを証明している。
特に,NAGが線形収束速度を加速できることを示す。
論文 参考訳（メタデータ） (2024-10-12T20:33:37Z) - Optimal Sketching for Residual Error Estimation for Matrix and Vector Norms [50.15964512954274]
線形スケッチを用いた行列とベクトルノルムの残差誤差推定問題について検討する。
これは、前作とほぼ同じスケッチサイズと精度で、経験的にかなり有利であることを示す。
また、スパースリカバリ問題に対して$Omega(k2/pn1-2/p)$低いバウンダリを示し、これは$mathrmpoly(log n)$ factorまで厳密である。
論文 参考訳（メタデータ） (2024-08-16T02:33:07Z) - Efficient Matrix Factorization Via Householder Reflections [2.3326951882644553]
我々は$mathbfH$と$mathbfX$を$mathbfY$から正確に回収することが、$mathbfY$の$Omega$列で保証されていることを示す。
この研究のテクニックが、辞書学習のための代替アルゴリズムの開発に役立つことを願っている。
論文 参考訳（メタデータ） (2024-05-13T11:13:49Z) - Provably learning a multi-head attention layer [55.2904547651831]
マルチヘッドアテンション層は、従来のフィードフォワードモデルとは分離したトランスフォーマーアーキテクチャの重要な構成要素の1つである。
本研究では,ランダムな例から多面的注意層を実証的に学習する研究を開始する。
最悪の場合、$m$に対する指数的依存は避けられないことを示す。
論文 参考訳（メタデータ） (2024-02-06T15:39:09Z) - Structured Semidefinite Programming for Recovering Structured
Preconditioners [41.28701750733703]
正定値$mathbfK を mathbbRd times d$ と $mathrmnnz(mathbfK)$ の 0 でないエントリで与えられるアルゴリズムは、時間内に$epsilon$-optimal diagonal preconditioner を計算する。
我々は、行列辞書近似SDPと呼ばれる半定値プログラムのクラスに対して、新しいアルゴリズムを用いて結果を得る。
論文 参考訳（メタデータ） (2023-10-27T16:54:29Z) - A General Algorithm for Solving Rank-one Matrix Sensing [15.543065204102714]
マトリックスセンシングの目標は、一連の測定に基づいて、mathbbRn×n$の行列$A_starを復元することである。
本稿では、このランク-$kの仮定を緩和し、より一般的な行列センシング問題を解く。
論文 参考訳（メタデータ） (2023-03-22T04:07:26Z) - Learning a Single Neuron with Adversarial Label Noise via Gradient
Descent [50.659479930171585]
モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。
学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
論文 参考訳（メタデータ） (2022-06-17T17:55:43Z) - Global Convergence of Gradient Descent for Asymmetric Low-Rank Matrix
Factorization [49.090785356633695]
非対称な低ランク分解問題: [mathbbRm min d , mathbfU$ および MathV$ について検討する。
論文 参考訳（メタデータ） (2021-06-27T17:25:24Z) - Bayesian Optimistic Optimisation with Exponentially Decaying Regret [58.02542541410322]
現在の実用的なBOアルゴリズムは、$mathcalO(fraclogNsqrtN)$から$mathcalO(e-sqrtN)$まで、$N$は評価の数である。
本稿では,boと木に基づく楽観的楽観化の概念を絡み合うことにより,無音環境における後悔を改善できる可能性について検討する。
次数$mathcal O(N-sqrt)で指数的再帰を達成できる最初の実践的手法であるBOOアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-05-10T13:07:44Z) - Nonparametric Learning of Two-Layer ReLU Residual Units [22.870658194212744]
本稿では,線形整列ユニット(ReLU)を活性化した2層残基を学習するアルゴリズムについて述べる。
解析最小化器はそのパラメータと非線形性の観点から、正確な地上構造ネットワークを表現できる機能として層ワイドな目的を設計する。
我々は,アルゴリズムの統計的強い一貫性を証明し,実験によるアルゴリズムの堅牢性とサンプル効率を実証する。
論文 参考訳（メタデータ） (2020-08-17T22:11:26Z) - Maximizing Determinants under Matroid Constraints [69.25768526213689]
我々は、$det(sum_i in Sv_i v_i v_itop)$が最大になるような基底を$S$$$$M$とする問題を研究する。
この問題は、実験的なデザイン、商品の公平な割り当て、ネットワーク設計、機械学習など、さまざまな分野に現れている。
論文 参考訳（メタデータ） (2020-04-16T19:16:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。