論文の概要: Effective Sparsity: A Unified Framework via Normalized Entropy and the Effective Number of Nonzeros
- arxiv url: http://arxiv.org/abs/2603.13826v1
- Date: Sat, 14 Mar 2026 08:20:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-17 16:19:35.428641
- Title: Effective Sparsity: A Unified Framework via Normalized Entropy and the Effective Number of Nonzeros
- Title(参考訳): Effective Sparsity: 正規化エントロピーと非ゼロの有効数による統一フレームワーク
- Authors: Haoyu He, Hao Wang, Jiashan Wang, Hao Zeng,
- Abstract要約: 我々は、正規化エントロピーベース正規化器の統一クラスである非ゼロ有効数(ENZ)を導入する。
ENZは、無視できない摂動に敏感な有効空間の安定かつ連続的な尺度を提供することを示す。
数値実験により、この効果的な疎水性フレームワークは、ロバスト性および精度において従来の濃度に基づく手法よりも優れていることが示された。
- 参考スコア(独自算出の注目度): 9.482569120464843
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Classical sparsity promoting methods rely on the l0 norm, which treats all nonzero components as equally significant. In practical inverse problems, however, solutions often exhibit many small amplitude components that have little effect on reconstruction but lead to an overestimation of signal complexity. We address this limitation by shifting the paradigm from discrete cardinality to effective sparsity. Our approach introduces the effective number of nonzeros (ENZ), a unified class of normalized entropy-based regularizers, including Shannon and Renyi forms, that quantifies the concentration of significant coefficients. We show that, unlike the classical l0 norm, the ENZ provides a stable and continuous measure of effective sparsity that is insensitive to negligible perturbations. For noisy linear inverse problems, we establish theoretical guarantees under the Restricted Isometry Property (RIP), proving that ENZ based recovery is unique and stable. We also derive a decomposition showing that the ENZ equals the support cardinality times a distributional efficiency term, thereby linking entropy with l0 regularization. Numerical experiments show that this effective sparsity framework outperforms traditional cardinality based methods in robustness and accuracy.
- Abstract(参考訳): 古典的な疎性促進法は、すべての非ゼロ成分を等しく重要なものとして扱うl0ノルムに依存している。
しかし、現実的な逆問題では、解はしばしば多くの小さな振幅成分を示し、再構成にはほとんど影響しないが、信号の複雑さを過大評価する。
この制限に対処するため、パラダイムを離散的基数から効果的な疎度にシフトする。
提案手法では, 正則化エントロピー型正規化正規化器(Shannon および Renyi 形式を含む)の有効数の非ゼロ (ENZ) を導入し, 有意な係数の濃度を定量化する。
古典的な l0 ノルムとは異なり、ENZ は無視できない摂動に敏感な有効空間の安定かつ連続的な測度を提供する。
雑音のある線形逆問題に対しては、制限等尺性(Restricted Isometry Property, RIP)の下で理論的な保証を確立し、ENZベースのリカバリが一意かつ安定であることを証明する。
また、ENZ が分布効率項の支持基数に等しいことを示し、エントロピーと l0 正規化をリンクする分解を導出する。
数値実験により、この効果的な疎水性フレームワークは、ロバスト性および精度において従来の濃度に基づく手法よりも優れていることが示された。
関連論文リスト
- Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Optimal Effective Hamiltonian for Quantum Computing and Simulation [1.0359978670015826]
実効モデルの基本原理としてLast Action Unitary Transformationを確立します。
この枠組みを超伝導量子プロセッサの実験データに対して検証する。
この研究は、高精度なシステム学習とハミルトン工学のための体系的で実験的に検証されたルートを提供する。
論文 参考訳(メタデータ) (2026-02-03T15:09:29Z) - An Accelerated Alternating Partial Bregman Algorithm for ReLU-based Matrix Decomposition [0.0]
本稿では,非負行列上に補正されたスパース低ランク特性について検討する。
本稿では,クラスタリングと圧縮タスクに有用な構造を取り入れた新しい正規化項を提案する。
我々は、任意の$Lge 1$に対して常に持つ$L$-smoothプロパティを維持しながら、対応する閉形式解を導出する。
論文 参考訳(メタデータ) (2025-03-04T08:20:34Z) - Non-Hermitian entanglement dip from scaling-induced exceptional criticality [4.611701889151609]
我々は, エントロピースケーリングにおいて, 劇的なばらつきを示す非エルミート臨界遷移のクラスを報告した。
スケーリングによって誘導される例外臨界(SIEC)は、例外的境界状態や非エルミート皮膚効果(NHSE)によるギャップ閉鎖のような既存の非エルミート的メカニズムを超越する。
論文 参考訳(メタデータ) (2024-08-05T18:00:06Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳(メタデータ) (2022-10-08T08:26:22Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Fast Policy Extragradient Methods for Competitive Games with Entropy
Regularization [40.21627891283402]
本稿では,競争ゲームの均衡の計算問題について考察する。
エントロピー正則化のアルゴリズム的役割に動機付けられ、我々は証明可能な効率の良い指数関数法を開発した。
論文 参考訳(メタデータ) (2021-05-31T17:51:15Z) - Deconfounding Scores: Feature Representations for Causal Effect
Estimation with Weak Overlap [140.98628848491146]
推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。
分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。
特に,この手法が標準正規化の魅力的な代替となることを示す。
論文 参考訳(メタデータ) (2021-04-12T18:50:11Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。