論文の概要: Full-Model Optimality for Tunable Linear Generative Priors in Compressed Sensing
- arxiv url: http://arxiv.org/abs/2609.02790v1
- Date: Wed, 02 Sep 2026 16:22:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.469773
- Title: Full-Model Optimality for Tunable Linear Generative Priors in Compressed Sensing
- Title(参考訳): 圧縮センシングにおけるTunable Linear Generative Priorの完全モデル最適性
- Abstract要約: 線形生成前駆体のチューナブル族の設定において圧縮センシングの理論を確立する。
ノイズのない圧縮センシングでは、全次元線形事前推定誤差が最小となることを示す。
この結果から, ニューラルネットワークを用いた圧縮センシングにおけるチューナビリティの実験的利点は, 生成モデルにおける非線形性に起因することが示唆された。
- 参考スコア(独自算出の注目度): 2.0737159978603925
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative models have been studied experimentally and theoretically as priors for inverse problems such as compressed sensing. Recent work by Gunn et al. studied the use of generative priors with tunable complexity, where a family of generative priors with varying complexity is maintained and a specific complexity can be selected at inversion time. They demonstrated that lower reconstruction errors can be experimentally attained for a variety of inverse problems by appropriately tuning the complexity of the generative prior. In the present paper, we establish theory for compressed sensing in the setting of a tunable family of linear generative priors naturally related through their singular value decompositions. We prove that in noiseless Gaussian compressed sensing, the full-dimensional linear prior attains the minimum expected reconstruction error over the entire family of linear priors. Thus, in this idealized linear noiseless setting, tuning to a lower-complexity prior does not improve the expected reconstruction error. This result is in contract to the behavior of denoising, where lower complexity priors attain lower reconstruction errors due to a standard bias-variance tradeoff. This result indicates that the experimental benefits of tunability in compressed sensing with neural network priors arises due to nonlinearities in the generative models.
- Abstract(参考訳): 生成モデルは、圧縮センシングなどの逆問題の前駆体として実験的、理論的に研究されている。
ガンらによる最近の研究は、調節可能な複雑性を持つ生成前駆体の使用を研究しており、そこでは、様々な複雑さを持つ生成前駆体のファミリーが維持され、特定の複雑さを反転時間に選択することができる。
彼らは、生成前の複雑さを適切に調整することにより、様々な逆問題に対して低い再構成誤差を実験的に達成できることを実証した。
本稿では,その特異値分解によって自然に関連づけられた線形生成前駆体のチューナブル族の設定において,圧縮センシングの理論を確立する。
雑音のないガウス圧縮センシングにおいて、全次元線形先行値が線形先行値の族全体の最小再構成誤差を達成することを証明した。
したがって、この理想化された線形ノイズレス設定では、より低い複雑さへのチューニングは、期待される再構成誤差を改善しない。
この結果は、より低い複雑さが標準バイアス分散トレードオフによる再構成エラーを小さくするデノナイズ(denoising)の動作に制約される。
この結果から, ニューラルネットワークを用いた圧縮センシングにおけるチューナビリティの実験的利点は, 生成モデルにおける非線形性に起因することが示唆された。
関連論文リスト
- Latent Generative Models with Tunable Complexity for Compressed Sensing and other Inverse Problems [7.111209122554222]
逆問題の解法として, チューナブル・コンプレクティティ・プレッシャを開発する。
可変プリミティブは固定複雑さベースラインよりも低い再構成誤差を連続的に達成できることを実証的に示す。
この研究は、チューナブル・複雑な生成先行の可能性を実証し、支持理論の発展と幅広い逆問題への応用の両方を動機付けている。
論文 参考訳(メタデータ) (2026-03-07T21:41:46Z) - The Hidden Cost of Approximation in Online Mirror Descent [56.99972253009168]
オンラインミラー降下(OMD)は、最適化、機械学習、シーケンシャルな意思決定において多くのアルゴリズムの基盤となる基本的なアルゴリズムパラダイムである。
本研究では,不正確なOMDに関する系統的研究を開始し,正規化器の滑らかさと近似誤差に対する頑健さとの複雑な関係を明らかにする。
論文 参考訳(メタデータ) (2025-11-27T10:09:07Z) - Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。
提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
論文 参考訳(メタデータ) (2024-10-22T10:19:27Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - The Inductive Bias of Flatness Regularization for Deep Matrix
Factorization [58.851514333119255]
この研究は、ディープ線形ネットワークにおけるヘッセン解の最小トレースの帰納バイアスを理解するための第一歩となる。
測定値の標準等尺性(RIP)が1より大きいすべての深さについて、ヘッセンのトレースを最小化することは、対応する終端行列パラメータのシャッテン 1-ノルムを最小化するのとほぼ同値であることを示す。
論文 参考訳(メタデータ) (2023-06-22T23:14:57Z) - The Predictive Normalized Maximum Likelihood for Over-parameterized
Linear Regression with Norm Constraint: Regret and Double Descent [12.929639356256928]
現代の機械学習モデルは、予測規則の複雑さとその一般化能力の間のトレードオフに従わないことを示す。
最近提案された予測正規化最大値 (pNML) は、個々のデータに対するmin-max後悔解である。
我々は,pNML後悔を合成データ上でのポイントワイド学習可能性尺度として使用し,二重発生現象の予測に成功していることを示す。
論文 参考訳(メタデータ) (2021-02-14T15:49:04Z) - CASTLE: Regularization via Auxiliary Causal Graph Discovery [89.74800176981842]
因果構造学習(CASTLE)の正規化を導入し,変数間の因果関係を共同学習することでニューラルネットワークの正規化を提案する。
CASTLEは因果的隣り合いを持つ因果的DAGの特徴のみを効率的に再構成する一方、再構成ベース正規化器は全ての入力特徴を過度に再構成する。
論文 参考訳(メタデータ) (2020-09-28T09:49:38Z) - Compressive Phase Retrieval: Optimal Sample Complexity with Deep
Generative Priors [12.989855325491163]
提案手法は, 抽出可能なアルゴリズムにより, 難解な逆問題において, 最適なサンプルの複雑性を許容することで, 基本的進歩につながることを示す。
これらの結果は、様々な状況下での信号回復のための新しいパラダイムとして、生成前処理のサポートを提供する。
論文 参考訳(メタデータ) (2020-08-24T17:40:04Z) - Sample Complexity Bounds for 1-bit Compressive Sensing and Binary Stable
Embeddings with Generative Priors [52.06292503723978]
生成モデルを用いた圧縮センシングの進歩により, 生成モデルを用いた1ビット圧縮センシングの問題点を考察した。
まずノイズのない1ビット測定を考察し, ガウス測度に基づく近似回復のためのサンプル複雑性境界を提供する。
また,リプシッツ連続生成モデルを用いた1ビット圧縮センシングにも有効であることを示すため,評価誤差と雑音に対する再構成の堅牢性を示すBinary $epsilon$-Stable Embedding特性を実証した。
論文 参考訳(メタデータ) (2020-02-05T09:44:10Z) - Invertible generative models for inverse problems: mitigating representation error and dataset bias [6.07645721775351]
訓練された生成モデルは、撮像における逆問題の前兆として顕著な性能を示した。
設計による表現誤差がゼロな非可逆ニューラルネットワークは、逆問題における効果的な自然信号先行処理であることを示す。
論文 参考訳(メタデータ) (2019-05-28T08:27:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。