論文の概要: Effective Sparsity: A Unified Framework via Normalized Entropy and the Effective Number of Nonzeros

• arxiv url: http://arxiv.org/abs/2603.13826v1
• Date: Sat, 14 Mar 2026 08:20:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-17 16:19:35.428641
• Title: Effective Sparsity: A Unified Framework via Normalized Entropy and the Effective Number of Nonzeros
• Title（参考訳）: Effective Sparsity: 正規化エントロピーと非ゼロの有効数による統一フレームワーク
• Abstract要約: 我々は、正規化エントロピーベース正規化器の統一クラスである非ゼロ有効数(ENZ)を導入する。 ENZは、無視できない摂動に敏感な有効空間の安定かつ連続的な尺度を提供することを示す。 数値実験により、この効果的な疎水性フレームワークは、ロバスト性および精度において従来の濃度に基づく手法よりも優れていることが示された。
• 参考スコア（独自算出の注目度）: 9.482569120464843
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Classical sparsity promoting methods rely on the l0 norm, which treats all nonzero components as equally significant. In practical inverse problems, however, solutions often exhibit many small amplitude components that have little effect on reconstruction but lead to an overestimation of signal complexity. We address this limitation by shifting the paradigm from discrete cardinality to effective sparsity. Our approach introduces the effective number of nonzeros (ENZ), a unified class of normalized entropy-based regularizers, including Shannon and Renyi forms, that quantifies the concentration of significant coefficients. We show that, unlike the classical l0 norm, the ENZ provides a stable and continuous measure of effective sparsity that is insensitive to negligible perturbations. For noisy linear inverse problems, we establish theoretical guarantees under the Restricted Isometry Property (RIP), proving that ENZ based recovery is unique and stable. We also derive a decomposition showing that the ENZ equals the support cardinality times a distributional efficiency term, thereby linking entropy with l0 regularization. Numerical experiments show that this effective sparsity framework outperforms traditional cardinality based methods in robustness and accuracy.
• Abstract（参考訳）: 古典的な疎性促進法は、すべての非ゼロ成分を等しく重要なものとして扱うl0ノルムに依存している。 しかし、現実的な逆問題では、解はしばしば多くの小さな振幅成分を示し、再構成にはほとんど影響しないが、信号の複雑さを過大評価する。 この制限に対処するため、パラダイムを離散的基数から効果的な疎度にシフトする。 提案手法では, 正則化エントロピー型正規化正規化器(Shannon および Renyi 形式を含む)の有効数の非ゼロ (ENZ) を導入し, 有意な係数の濃度を定量化する。 古典的な l0 ノルムとは異なり、ENZ は無視できない摂動に敏感な有効空間の安定かつ連続的な測度を提供する。 雑音のある線形逆問題に対しては、制限等尺性(Restricted Isometry Property, RIP)の下で理論的な保証を確立し、ENZベースのリカバリが一意かつ安定であることを証明する。 また、ENZ が分布効率項の支持基数に等しいことを示し、エントロピーと l0 正規化をリンクする分解を導出する。 数値実験により、この効果的な疎水性フレームワークは、ロバスト性および精度において従来の濃度に基づく手法よりも優れていることが示された。

関連論文リスト

• Non-Convex Sparse Reinforcement Learning via Non-Monotone Inclusions [7.408148824204063]
  この研究は、強化学習(RL)における効率的な特徴選択と、非単調包摂理論への2つの重要な貢献を提供する。
  論文  参考訳（メタデータ） (2026-07-06T12:25:47Z)
• Entropy-Based Characterisation of the Polarised Regime in Latent Variable Models [5.199765487172328]
  変分オートエンコーダ(VAE)はしばしば、潜伏変数がアクティブ、パッシブ、混合サブセットに分離される偏極状態を示す。 平均表現のエントロピーに基づく偏極状態の簡易な情報理論的分類を提案する。
  論文  参考訳（メタデータ） (2026-05-15T13:55:55Z)
• Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
  構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。 グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。 特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
  論文  参考訳（メタデータ） (2026-04-20T16:43:28Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Optimal Effective Hamiltonian for Quantum Computing and Simulation [1.0359978670015826]
  実効モデルの基本原理としてLast Action Unitary Transformationを確立します。 この枠組みを超伝導量子プロセッサの実験データに対して検証する。 この研究は、高精度なシステム学習とハミルトン工学のための体系的で実験的に検証されたルートを提供する。
  論文  参考訳（メタデータ） (2026-02-03T15:09:29Z)
• Stochastic Optimization with Optimal Importance Sampling [49.484190237840714]
  本稿では,両者の時間的分離を必要とせずに,意思決定とIS分布を共同で更新する反復型アルゴリズムを提案する。 本手法は,IS分布系に対する目的的,軽度な仮定の凸性の下で,最小の変数分散を達成し,大域収束を保証する。
  論文  参考訳（メタデータ） (2025-04-04T16:10:18Z)
• An Accelerated Alternating Partial Bregman Algorithm for ReLU-based Matrix Decomposition [0.0]
  本稿では,非負行列上に補正されたスパース低ランク特性について検討する。 本稿では,クラスタリングと圧縮タスクに有用な構造を取り入れた新しい正規化項を提案する。 我々は、任意の$Lge 1$に対して常に持つ$L$-smoothプロパティを維持しながら、対応する閉形式解を導出する。
  論文  参考訳（メタデータ） (2025-03-04T08:20:34Z)
• Non-Hermitian entanglement dip from scaling-induced exceptional criticality [4.611701889151609]
  我々は, エントロピースケーリングにおいて, 劇的なばらつきを示す非エルミート臨界遷移のクラスを報告した。 スケーリングによって誘導される例外臨界(SIEC)は、例外的境界状態や非エルミート皮膚効果(NHSE)によるギャップ閉鎖のような既存の非エルミート的メカニズムを超越する。
  論文  参考訳（メタデータ） (2024-08-05T18:00:06Z)
• Asymptotically Unbiased Instance-wise Regularized Partial AUC Optimization: Theory and Algorithm [101.44676036551537]
  One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。 既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。 本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
  論文  参考訳（メタデータ） (2022-10-08T08:26:22Z)
• On the Convergence of Stochastic Extragradient for Bilinear Games with Restarted Iteration Averaging [96.13485146617322]
  本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。 平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
  論文  参考訳（メタデータ） (2021-06-30T17:51:36Z)
• Fast Policy Extragradient Methods for Competitive Games with Entropy Regularization [40.21627891283402]
  本稿では,競争ゲームの均衡の計算問題について考察する。 エントロピー正則化のアルゴリズム的役割に動機付けられ、我々は証明可能な効率の良い指数関数法を開発した。
  論文  参考訳（メタデータ） (2021-05-31T17:51:15Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。