論文の概要: Proximal Projection for Doubly Sparse Regularized Models
- arxiv url: http://arxiv.org/abs/2605.05093v1
- Date: Wed, 06 May 2026 16:31:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.932607
- Title: Proximal Projection for Doubly Sparse Regularized Models
- Title(参考訳): 二重スパース正規化モデルの近射影
- Abstract要約: 予測グラフの構造は正規化時に利用することができる。
正規化は、係数ベクトルを直接ではなく、潜在変数上で実行される。
以上の結果から,本手法はグラフィカル・レグレッション・モデルに比較して安定な性能を示すことが示唆された。
- 参考スコア(独自算出の注目度): 1.843072866673446
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Regularization is often used in high-dimensional regression settings to generate a sparse model, which can save tremendous computing resources and identify predictors that are most strongly associated with the response. When the predictors can be represented by a Gaussian graphical model, the structure of the predictor graph can be exploited during regularization. Our proposed model exploits this underlying predictor graph structure by decomposing the estimated coefficient vector into a sum of latent variables that correspond to the sum of each node contribution to the coefficient vector. Regularization is then performed on the latent variables rather than on the coefficient vector directly. We use a penalty function that permits a clear user-defined trade-off between the L1 and L2 penalties and propose a novel proximal projection during optimization. Further, our implementation computes the projection operator for the intersection of selected groups, which conserves more computing resources compared to predictor duplication methods, especially for high-dimensional data. Through simulation, we evaluate the performance of our approach under different graph structures and node counts, and present results on real-world data. Results suggest that our method exhibits stable performance relative to other singly or doubly sparse graphical regression models.
- Abstract(参考訳): 正規化は、しばしば高次元回帰設定でスパースモデルを生成するために使われ、これは膨大な計算資源を節約し、応答に最も強く結びついている予測器を識別することができる。
予測グラフがガウス図形モデルで表現できる場合、正規化時に予測グラフの構造を利用することができる。
提案モデルは,推定係数ベクトルを係数ベクトルへの各ノード寄与の和に対応する潜在変数の和に分解することにより,この基礎となる予測グラフ構造を利用する。
正規化は、係数ベクトルを直接ではなく、潜在変数上で実行される。
我々は,L1 と L2 のペナルティ間の明確なユーザ定義のトレードオフを可能にするペナルティ関数を用い,最適化中に新しい近近射影を提案する。
さらに,提案手法は,特に高次元データにおいて,予測重複法よりも多くの計算資源を保存できるような,選択した群の交点に対する投影演算子を演算する。
シミュレーションにより,異なるグラフ構造とノード数の下でのアプローチの性能を評価し,実世界のデータに対する結果を示す。
以上の結果から,本手法はグラフィカル・レグレッション・モデルに比較して安定な性能を示すことが示唆された。
関連論文リスト
- Neural Optimal Transport Meets Multivariate Conformal Prediction [58.43397908730771]
条件付きベクトル回帰(CVQR)のためのフレームワークを提案する。
CVQRは、ニューラルネットワークの最適輸送と量子化された最適化を組み合わせて、予測に適用する。
論文 参考訳(メタデータ) (2025-09-29T19:50:19Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - Probabilistic Reduced-Dimensional Vector Autoregressive Modeling with
Oblique Projections [0.7614628596146602]
雑音データから低次元ダイナミクスを抽出する低次元ベクトル自己回帰モデルを提案する。
最適斜め分解は、予測誤差の共分散に関する最良の予測可能性のために導出される。
合成ロレンツシステムとイーストマンケミカルの工業プロセスのデータセットを用いて,提案手法の優れた性能と効率を実証した。
論文 参考訳(メタデータ) (2024-01-14T05:38:10Z) - Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。
この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
論文 参考訳(メタデータ) (2023-07-06T15:19:53Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳(メタデータ) (2021-12-02T14:45:16Z) - A Nonconvex Framework for Structured Dynamic Covariance Recovery [24.471814126358556]
時間変化のある2次統計量を持つ高次元データに対するフレキシブルで解釈可能なモデルを提案する。
文献によって動機付けられ,因子化とスムーズな時間データの定量化を行う。
私たちのアプローチは,既存のベースラインよりも優れています。
論文 参考訳(メタデータ) (2020-11-11T07:09:44Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z) - Hierarchical regularization networks for sparsification based learning
on noisy datasets [0.0]
階層は、連続的により微細なスケールで特定される近似空間から従う。
各スケールでのモデル一般化を促進するため,複数次元にわたる新規な射影型ペナルティ演算子も導入する。
その結果、合成データセットと実データセットの両方において、データ削減およびモデリング戦略としてのアプローチの性能が示された。
論文 参考訳(メタデータ) (2020-06-09T18:32:24Z) - High-dimensional macroeconomic forecasting using message passing
algorithms [0.0]
この仕様における推論は、係数の高次元ベクトルを縮小するベイジアン階層的先行法を用いて進行する。
一般化近似メッセージパッシング(GAMP)アルゴリズムはアルゴリズムの複雑さが低く、簡単に並列化可能である。
論文 参考訳(メタデータ) (2020-04-23T23:10:04Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。