論文の概要: Perfect reconstruction of sparse signals using nonconvexity control and one-step RSB message passing
- arxiv url: http://arxiv.org/abs/2512.17426v1
- Date: Fri, 19 Dec 2025 10:23:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-22 19:25:54.342592
- Title: Perfect reconstruction of sparse signals using nonconvexity control and one-step RSB message passing
- Title(参考訳): 非凸性制御とワンステップRSBメッセージパッシングを用いたスパース信号の完全再構成
- Authors: Xiaosi Gu, Ayaka Sakata, Tomoyuki Obuchi,
- Abstract要約: 円滑に切断された絶対偏差(SCAD)ペナルティの最小化によるスパース信号再構成の検討を行った。
我々は,1RSB-AMPと呼ばれる1段階のメッセージパッシング(AMP)拡張を開発する。
1RSB-AMPと1RSB-SEはマクロレベルでは極めてよく一致している。
- 参考スコア(独自算出の注目度): 2.6727085907454398
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider sparse signal reconstruction via minimization of the smoothly clipped absolute deviation (SCAD) penalty, and develop one-step replica-symmetry-breaking (1RSB) extensions of approximate message passing (AMP), termed 1RSB-AMP. Starting from the 1RSB formulation of belief propagation, we derive explicit update rules of 1RSB-AMP together with the corresponding state evolution (1RSB-SE) equations. A detailed comparison shows that 1RSB-AMP and 1RSB-SE agree remarkably well at the macroscopic level, even in parameter regions where replica-symmetric (RS) AMP, termed RS-AMP, diverges and where the 1RSB description itself is not expected to be thermodynamically exact. Fixed-point analysis of 1RSB-SE reveals a phase diagram consisting of success, failure, and diverging phases, as in the RS case. However, the diverging-region boundary now depends on the Parisi parameter due to the 1RSB ansatz, and we propose a new criterion -- minimizing the size of the diverging region -- rather than the conventional zero-complexity condition, to determine its value. Combining this criterion with the nonconvexity-control (NCC) protocol proposed in a previous RS study improves the algorithmic limit of perfect reconstruction compared with RS-AMP. Numerical solutions of 1RSB-SE and experiments with 1RSB-AMP confirm that this improved limit is achieved in practice, though the gain is modest and remains slightly inferior to the Bayes-optimal threshold. We also report the behavior of thermodynamic quantities -- overlaps, free entropy, complexity, and the non-self-averaging susceptibility -- that characterize the 1RSB phase in this problem.
- Abstract(参考訳): 本研究では,スムーズクリッピングされた絶対偏差(SCAD)ペナルティの最小化によるスパース信号の再構成を検討した。
信念伝播の1RSB定式化から、対応する状態進化(1RSB-SE)方程式とともに、1RSB-AMPの明示的な更新規則を導出する。
詳細な比較では、1RSB-AMPと1RSB-SEは、RS-AMPと呼ばれるレプリカ対称(RS)AMPが分岐し、1RSB記述自体が熱力学的に正確なものではないパラメータ領域においても、マクロレベルで著しく一致している。
1RSB-SEの固定点解析では、RSの場合のように、成功、失敗、変化相からなる位相図が示される。
しかし, 1RSB アンサッツによるパリのパラメータに依存するため, 従来のゼロ複素性条件ではなく, 発散領域のサイズを最小化するための新しい基準を提案する。
この基準と、前回のRS研究で提案された非凸性制御(NCC)プロトコルを組み合わせることで、RS-AMPと比較して完全な再構成のアルゴリズム的限界が向上する。
1RSB-SEの数値解と1RSB-AMPの実験により、この改善された限界は実際には達成されているが、利得は穏やかであり、ベイズ最適しきい値よりもわずかに劣っていることを確認した。
また, この問題の1RSB相を特徴づける熱力学的量, 重複, 自由エントロピー, 複雑性, 非自己受容可能性の挙動を報告する。
関連論文リスト
- Closing the Approximation Gap of Partial AUC Optimization: A Tale of Two Formulations [121.39938773554523]
ROC曲線の下の領域(AUC)は、クラス不均衡と決定制約の両方を持つ実世界のシナリオにおける重要な評価指標である。
PAUC最適化の近似ギャップを埋めるために,2つの簡単なインスタンス単位のミニマックス修正を提案する。
得られたアルゴリズムは、サンプルサイズと典型的な一方方向と双方向のPAUCに対して$O(-2/3)$の収束率の線形パーイテレーション計算複雑性を享受する。
論文 参考訳(メタデータ) (2025-12-01T02:52:33Z) - Inductive Domain Transfer In Misspecified Simulation-Based Inference [29.26298096319145]
キャリブレーションと分散アライメントを1つのエンドツーエンドのトレーニング可能なモデルに統合する,完全な帰納的・償却型SBIフレームワークを提案する。
我々のアプローチは、他の標準SBIおよび非SBI推定器と同様に、RoPEの性能と一致または上回っている。
論文 参考訳(メタデータ) (2025-08-21T14:06:42Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - On the Training Instability of Shuffling SGD with Batch Normalization [44.28777474091466]
単一シャッフル(SS)とランダムリシャッフル(RR)は、バッチ正規化の存在下で驚くほど異なる相互作用をする。
SSは回帰と分類のばらつきを生じるが,RRは歪みとばらつきの両方を避けている。
論文 参考訳(メタデータ) (2023-02-24T04:10:54Z) - Query-Efficient Adversarial Attack Based on Latin Hypercube Sampling [6.141497251925968]
本稿では,ラテンハイパーキューブサンプリングに基づく境界攻撃(LHS-BA)を提案する。
提案手法は, クエリ効率の観点から, 最先端のBA法よりもLHS-BAの方が優れていることを示す実験結果を得た。
論文 参考訳(メタデータ) (2022-07-05T12:04:44Z) - Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and
Beyond [63.59034509960994]
シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。
ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。
我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
論文 参考訳(メタデータ) (2021-10-20T02:25:25Z) - Local convexity of the TAP free energy and AMP convergence for
Z2-synchronization [17.940267599218082]
本稿では,Z2同期化のためのTAP手法を用いて平均場変動ベイズ推定について検討する。
任意の信号強度$lambda > 1$に対して、ベイズ法則の平均付近で機能するTAP自由エネルギーのユニークな局所最小化が存在することを示す。
論文 参考訳(メタデータ) (2021-06-21T22:08:17Z) - Sample Complexity Bounds for 1-bit Compressive Sensing and Binary Stable
Embeddings with Generative Priors [52.06292503723978]
生成モデルを用いた圧縮センシングの進歩により, 生成モデルを用いた1ビット圧縮センシングの問題点を考察した。
まずノイズのない1ビット測定を考察し, ガウス測度に基づく近似回復のためのサンプル複雑性境界を提供する。
また,リプシッツ連続生成モデルを用いた1ビット圧縮センシングにも有効であることを示すため,評価誤差と雑音に対する再構成の堅牢性を示すBinary $epsilon$-Stable Embedding特性を実証した。
論文 参考訳(メタデータ) (2020-02-05T09:44:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。