論文の概要: Learning Doubly Sparse Explicitly Conditioned Transforms

• arxiv url: http://arxiv.org/abs/2606.10975v1
• Date: Tue, 09 Jun 2026 15:13:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.577086
• Title: Learning Doubly Sparse Explicitly Conditioned Transforms
• Title（参考訳）: 明示的な条件付き変換を2倍のスパースで学習する
• Authors: Tudor Pistol,
• Abstract要約: 固定正準行列とデータ適応スパース成分の積として定式化された構造化された条件付き変換を導入する。 このアプローチは、データに制御可能な適応性を導入しながら、高速で安定した解析変換の利点を維持することを目指している。 実験結果から,2倍のスパース変換学習問題と,その高密度な変種による同等の性能について,最先端の結果が示された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Finding convenient spaces in which certain hypotheses regarding an assumed sparse structure of natural signals hold true has become a desirable result in recent research, its implications being reflected in areas such as data compression, noise reduction and feature extraction. While the extensively used analytical transforms, such as DFT or DCT, already provide efficient algorithms and robust sparse representations, they assume a fixed prior about the data, failing to accurately capture the specific structure of more restrictive classes of signals. To address this, the concept of a data-adaptive, learnt transform has been introduced in the literature, allowing for the reduction of a residual term in the transform domain. More recent studies have shown that the condition number serves as a good metric in this context, where the desired outcome alternates between a generalizing tendency and one that achieves minimal approximation error. Motivated by these considerations, we introduce the learning of a structured, explicitly conditioned transform formulated as the product of a fixed canonical matrix and a refining data-adaptive sparse component. This approach seeks to preserve the advantages of fast and stable analytical transforms, while introducing controllable adaptivity to the data. No references that concern this specific formulation have been identified so far, indicating its novelty. The proposed algorithm is motivated within the framework of inexact proximal methods, leveraging a newly derived closed-form projection operator. Empirical observations demonstrate state-of-the-art results on the doubly sparse transform learning problem and comparable performance with its dense variant at significantly lower computational costs and sometimes faster convergence and better avoidance of bad local minima.
• Abstract（参考訳）: 近年の研究では,自然信号のスパース構造が真であると仮定する仮説が望ましい結果となり,データ圧縮やノイズ低減,特徴抽出といった領域に反映されていることが示唆されている。 DFTやDCTのような広く使われている分析変換は、既に効率的なアルゴリズムと堅牢なスパース表現を提供しているが、彼らはデータについて固定された事前を仮定し、より制限のある信号の特定の構造を正確に捉えることができない。 これを解決するために、データ適応学習変換の概念が文献に導入され、変換領域における残留項の削減が可能となった。 より最近の研究では、条件数はこの文脈において良い計量として機能し、そこでは、所望の結果が一般化傾向と最小近似誤差を達成するものの間で交互に変化することが示されている。 これらの考察により、固定正準行列と精製データ適応スパース成分の積として定式化された構造化された条件付き変換の学習を導入する。 このアプローチは、データに制御可能な適応性を導入しながら、高速で安定した解析変換の利点を維持することを目指している。 この具体的な定式化に関する文献は確認されていないが、その新規性を示している。 提案アルゴリズムは,新たに導出した閉形式射影演算子を利用して,不正確な近似法の枠組み内で動機付けを行う。 実験的な観察は、計算コストが大幅に低く、時には収束が速く、悪質な局所最小値の回避がより優れた場合において、二重スパース変換学習問題と同等の性能に関する最先端の結果を示す。

関連論文リスト

• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• From Invariant Representations to Invariant Data: Provable Robustness to Spurious Correlations via Noisy Counterfactual Matching [14.679039741833305]
  トレーニングデータから急激な相関関係を学習するモデルは、新しい環境にデプロイすると失敗することが多い。 我々は、不変表現の学習から不変データペアの活用へと焦点を移す、データ中心の代替案を提案する。 ノイズの反事実マッチングは、少数の反事実ペアでさえも活用することで、堅牢性を向上させる。
  論文  参考訳（メタデータ） (2025-05-30T17:42:32Z)
• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。 本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• Enabling Tensor Decomposition for Time-Series Classification via A Simple Pseudo-Laplacian Contrast [26.28414569796961]
  本稿では, Pseudo Laplacian Contrast (PLC) テンソル分解フレームワークを提案する。 データ拡張とラプラシアンのクロスビューを統合し、クラス認識表現の抽出を可能にする。 様々なデータセットの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2024-09-23T16:48:13Z)
• Learning Explicitly Conditioned Sparsifying Transforms [7.335712499936904]
  本研究では,データ表現の質と学習した変換の条件数を明確に制御するスペーサー変換モデルを提案する。 我々は,本モデルが最先端技術よりも優れた数値挙動を示すことを示す数値実験を通して確認する。
  論文  参考訳（メタデータ） (2024-03-05T18:03:51Z)
• Uncovering mesa-optimization algorithms in Transformers [61.06055590704677]
  いくつかの自己回帰モデルは、入力シーケンスが処理されたときに学習でき、パラメータの変更を受けずに、それを行うように明示的に訓練されていない。 我々は,新しい入力が明らかになったときにモデルを調整するための補助学習アルゴリズムが,標準の次トーケン予測誤差最小化によって生まれることを示す。 本研究は、自己回帰損失最小化の産物としてコンテキスト内学習を説明し、新しい最適化ベースのトランスフォーマー層の設計を通知する。
  論文  参考訳（メタデータ） (2023-09-11T22:42:50Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Which Invariance Should We Transfer? A Causal Minimax Learning Approach [18.71316951734806]
  本稿では、因果的観点からの包括的ミニマックス分析について述べる。 最小の最悪のリスクを持つサブセットを探索する効率的なアルゴリズムを提案する。 本手法の有効性と有効性は, 合成データとアルツハイマー病の診断で実証された。
  論文  参考訳（メタデータ） (2021-07-05T09:07:29Z)
• Recursive Inference for Variational Autoencoders [34.552283758419506]
  従来の変分オートエンコーダ(VAE)の推論ネットワークは典型的に償却される。 この欠点に対処するために、最近の半修正アプローチが提案されている。 精度の高い償却推論アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-11-17T10:22:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。