論文の概要: Quantized Compressed Sensing with Score-Based Generative Models
- arxiv url: http://arxiv.org/abs/2211.13006v1
- Date: Wed, 2 Nov 2022 15:19:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-27 13:35:03.312361
- Title: Quantized Compressed Sensing with Score-Based Generative Models
- Title(参考訳): スコアベース生成モデルを用いた量子圧縮センシング
- Authors: Xiangming Meng and Yoshiyuki Kabashima
- Abstract要約: 我々は、SGM(QCS-SGM)を用いた量子化圧縮センシングと呼ばれる教師なしのデータ駆動方式を提案する。
提案したQCS-SGMは、分布内および分布外の両方において、既存の最先端アルゴリズムよりも大幅に優れている。
後部サンプリング法として、QCS-SGMは、再構成結果の信頼区間や不確実性推定を得るために容易に使用できる。
- 参考スコア(独自算出の注目度): 6.066320781596792
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the general problem of recovering a high-dimensional signal from
noisy quantized measurements. Quantization, especially coarse quantization such
as one-bit sign measurements, leads to severe information loss and thus a good
prior knowledge of the unknown signal is helpful for accurate recovery.
Motivated by the power of score-based generative models (SGM, also known as
diffusion models) in capturing the rich structure of natural signals beyond
simple sparsity, we propose an unsupervised data-driven approach called
quantized compressed sensing with SGM (QCS-SGM), where the prior distribution
is modeled by a pre-trained SGM. To perform posterior sampling, an annealed
pseudo-likelihood score called noise perturbed pseudo-likelihood score is
introduced and combined with the prior score of SGM. The proposed QCS-SGM
applies to arbitrary number of quantization bits. Experiments on a variety of
baseline datasets demonstrate that the proposed QCS-SGM significantly
outperforms existing state-of-the-art algorithms by a large margin for both
in-distribution and out-of-distribution samples. Moreover, as a posterior
sampling method, QCS-SGM can be easily used to obtain confidence intervals or
uncertainty estimates of the reconstructed results. The code for the
experiments will be open-sourced at https://github.com/mengxiangming/QCS-SGM
upon future publication.
- Abstract(参考訳): ノイズ量子化測定から高次元信号を復元する一般的な問題を考える。
量子化、特に1ビット符号測定のような粗い量子化は、重大な情報損失をもたらし、未知の信号の事前知識が正確な回復に有用である。
単純なスパース性を超えた自然信号の豊かな構造を捉えるためのスコアベース生成モデル(sgm、拡散モデルとも呼ばれる)の力に動機づけられ、sgm(qcs-sgm)を用いた量子化圧縮センシングと呼ばれる教師なしデータ駆動アプローチを提案し、事前学習したsgmによって事前分布をモデル化する。
後部サンプリングを行うには、ノイズ摂動擬似様相スコアと呼ばれる焼鈍擬似様相スコアを導入し、SGMの先行スコアと組み合わせる。
提案したQCS-SGMは任意の数の量子化ビットに適用できる。
様々なベースラインデータセットの実験により、提案されたQCS-SGMは、分布内および分布外の両方のサンプルに対して、既存の最先端アルゴリズムよりも大幅に優れていることが示された。
さらに、後部サンプリング法として、QCS-SGMを用いて、再構成結果の信頼区間や不確実性推定を得ることができる。
実験のコードはhttps://github.com/mengxiangming/QCS-SGMで公開される。
関連論文リスト
- A Good Score Does not Lead to A Good Generative Model [14.752242187781107]
スコアベース生成モデル(SGM)は、生成モデリングにおける主要な手法の一つである。
基礎となるスコア関数が十分に学習された場合,SGMは基底構造に近い分布からサンプルを生成することができることを示す。
論文 参考訳(メタデータ) (2024-01-10T00:17:36Z) - Simulation-Based Inference with Quantile Regression [0.0]
条件付き量子化回帰に基づく新しいシミュレーションベース推論(SBI)手法であるニューラル量子化推定(NQE)を提案する。
NQEは、各後次元の個々の1次元量子を自己回帰的に学習し、データとそれ以前の後次元に条件付けする。
我々はNQEが様々なベンチマーク問題に対して最先端の性能を達成することを実証する。
論文 参考訳(メタデータ) (2024-01-04T18:53:50Z) - Preconditioned Score-based Generative Models [49.88840603798831]
直感的な加速度法はサンプリングの繰り返しを減らし、しかしながら重大な性能劣化を引き起こす。
本稿では,行列プレコンディショニングを利用したモデル非依存型bfem事前条件拡散サンプリング(PDS)手法を提案する。
PDSは、バニラSGMのサンプリングプロセスを限界余剰計算コストで変更し、モデルの再訓練を行わない。
論文 参考訳(メタデータ) (2023-02-13T16:30:53Z) - QCM-SGM+: Improved Quantized Compressed Sensing With Score-Based
Generative Models [17.49551570305112]
実際に圧縮センシング(CS)において、得られた測定値は通常、伝送または記憶に先立って限られたビット数に量子化を必要とする。
一般行列を効果的に扱えるQCS-SGMの先進版であるQCS-SGM+を導入する。
論文 参考訳(メタデータ) (2023-02-02T07:36:58Z) - Qimera: Data-free Quantization with Synthetic Boundary Supporting
Samples [8.975667614727652]
人工境界支持試料を生成するために重ね合わせの潜伏埋め込みを用いたQimeraを提案する。
実験結果から,Qimeraはデータフリー量子化における各種設定に対して,最先端の性能を実現することが示された。
論文 参考訳(メタデータ) (2021-11-04T04:52:50Z) - Robust Compressed Sensing MRI with Deep Generative Priors [84.69062247243953]
臨床MRIデータに対するCSGMフレームワークの初成功例を示す。
我々は、高速MRIデータセットから脳スキャンに先立って生成をトレーニングし、Langevin dynamicsによる後部サンプリングが高品質な再構成を実現することを示す。
論文 参考訳(メタデータ) (2021-08-03T08:52:06Z) - Score-based Generative Modeling in Latent Space [93.8985523558869]
スコアベース生成モデル(SGM)は,最近,サンプル品質と分布範囲の両面で顕著な結果を示した。
本稿では,Latent Score-based Generative Model (LSGM)を提案する。
データから潜在空間への移動により、より表現力のある生成モデルをトレーニングし、非連続データにSGMを適用し、よりスムーズなSGMをより小さな空間で学習することができる。
論文 参考訳(メタデータ) (2021-06-10T17:26:35Z) - Continual Learning with Fully Probabilistic Models [70.3497683558609]
機械学習の完全確率的(または生成的)モデルに基づく継続的学習のアプローチを提案する。
生成器と分類器の両方に対してガウス混合モデル(GMM)インスタンスを用いた擬似リハーサル手法を提案する。
我々は,GMRが,クラス増分学習問題に対して,非常に競合的な時間とメモリの複雑さで,最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2021-04-19T12:26:26Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z) - Targeted stochastic gradient Markov chain Monte Carlo for hidden Markov models with rare latent states [48.705095800341944]
隠れマルコフモデルのためのマルコフ連鎖モンテカルロ (MCMC) アルゴリズムは、しばしば前向きのサンプリング器に依存する。
これにより、時系列の長さが増加するにつれて計算が遅くなり、サブサンプリングベースのアプローチの開発が動機となる。
本稿では,パラメータの勾配を計算する際に,希少な潜伏状態に対応するオーバーサンプリング観測を対象とするサブサンプリング手法を提案する。
論文 参考訳(メタデータ) (2018-10-31T17:44:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。