論文の概要: Robust Subspace-Constrained Quadratic Models for Low-Dimensional Structure Learning
- arxiv url: http://arxiv.org/abs/2605.20300v1
- Date: Tue, 19 May 2026 12:35:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.28269
- Title: Robust Subspace-Constrained Quadratic Models for Low-Dimensional Structure Learning
- Title(参考訳): 低次元構造学習のためのロバスト部分空間制約付き二次モデル
- Authors: Zheng Zhai, Xiaohui Li,
- Abstract要約: 高次元データから低制約ラジアル構造を学習するための頑健な部分空間制約二次モデル(SCQM)を開発した。
提案手法は,ロバスト性と精度の観点から既存手法より一貫して優れていることを示す。
- 参考スコア(独自算出の注目度): 6.624243167811649
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we propose a robust subspace-constrained quadratic model (SCQM) for learning low-dimensional structure from high-dimensional data. Building upon the subspace-constrained quadratic matrix factorization (SQMF) framework, the proposed model accommodates a broad class of noise distributions, including generalized Gaussian and radial Laplace models. This generalization enables reliable performance under both heavy-tailed and light-tailed noise, thereby substantially enhancing robustness across diverse data regimes. To efficiently address the resulting nonconvex optimization problem, we develop a gradient-based algorithm equipped with a backtracking line-search strategy that ensures stable and efficient convergence. In addition, we present a sensitivity analysis of the $\ell_p^p$ and $\ell_2$ loss functions, elucidating their distinct behaviors under varying noise characteristics. Extensive numerical experiments corroborate the theoretical analysis and demonstrate that the proposed approach consistently outperforms existing methods in terms of robustness and reconstruction accuracy.
- Abstract(参考訳): 本稿では、高次元データから低次元構造を学習するための頑健な部分空間制約二次モデル(SCQM)を提案する。
SQMF(subspace-constrained quadratic matrix factorization)フレームワークに基づいて、提案モデルは一般化されたガウスモデルやラプラスモデルを含む幅広いノイズ分布に対応する。
この一般化により、重み付きノイズと軽み付きノイズの両方で信頼性の高い性能が実現され、多様なデータレギュレータ間の堅牢性が大幅に向上する。
結果の非凸最適化問題を効率的に解くために,バックトラックライン探索戦略を備えた勾配に基づくアルゴリズムを開発し,安定かつ効率的な収束を保証する。
さらに, ノイズ特性の異なる場合, $\ell_p^p$ と $\ell_2$ の損失関数の感度解析を行い, それぞれの挙動を解明する。
大規模数値実験は理論解析と相関し、提案手法が頑健さと復元精度の点で既存の手法を一貫して上回っていることを示す。
関連論文リスト
- Robust Learning of Heterogeneous Dynamic Systems [3.5271214584237427]
ヘテロジニアスODEシステムのモデリングのための分散ロバストな新しい学習手法を提案する。
得られた推定器は2次最適化により重み付けされた平均表現が得られていることを示す。
提案手法の厳密な理論的保証として,安定化重みの整合性,ロバストな軌跡推定のための誤差境界,ポイントワイド信頼区間のロバスト性検証などがある。
論文 参考訳(メタデータ) (2026-04-07T00:40:55Z) - A joint optimization approach to identifying sparse dynamics using least squares kernel collocation [70.13783231186183]
本研究では,通常の微分方程式(ODE)の学習システムを,状態の不足,部分的,ノイズの多い観測から学習するためのオール・アット・オンス・モデリング・フレームワークを開発する。
提案手法は,関数ライブラリ上でのODEのスパースリカバリ戦略とカーネルヒルベルト空間(RKHS)理論による状態推定とODEの離散化の手法を組み合わせたものである。
論文 参考訳(メタデータ) (2025-11-23T18:04:15Z) - Probabilistic Reduced-Dimensional Vector Autoregressive Modeling with
Oblique Projections [0.7614628596146602]
雑音データから低次元ダイナミクスを抽出する低次元ベクトル自己回帰モデルを提案する。
最適斜め分解は、予測誤差の共分散に関する最良の予測可能性のために導出される。
合成ロレンツシステムとイーストマンケミカルの工業プロセスのデータセットを用いて,提案手法の優れた性能と効率を実証した。
論文 参考訳(メタデータ) (2024-01-14T05:38:10Z) - Distributionally Robust Model-based Reinforcement Learning with Large
State Spaces [55.14361269378122]
強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。
広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。
本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
論文 参考訳(メタデータ) (2023-09-05T13:42:11Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Structured Optimal Variational Inference for Dynamic Latent Space Models [16.531262817315696]
動的ネットワークの潜在空間モデルについて検討し、その目的は、ペアの内積と潜在位置のインターセプトを推定することである。
後部推論と計算スケーラビリティのバランスをとるために、構造的平均場変動推論フレームワークを検討する。
論文 参考訳(メタデータ) (2022-09-29T22:10:42Z) - A Priori Denoising Strategies for Sparse Identification of Nonlinear
Dynamical Systems: A Comparative Study [68.8204255655161]
本研究では, 局所的およびグローバルな平滑化手法の性能と, 状態測定値の偏差について検討・比較する。
一般に,測度データセット全体を用いたグローバルな手法は,局所点の周辺に隣接するデータサブセットを用いる局所的手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-01-29T23:31:25Z) - Optimizing Information-theoretical Generalization Bounds via Anisotropic
Noise in SGLD [73.55632827932101]
SGLDにおけるノイズ構造を操作することにより,情報理論の一般化を最適化する。
低経験的リスクを保証するために制約を課すことで、最適なノイズ共分散が期待される勾配共分散の平方根であることを証明する。
論文 参考訳(メタデータ) (2021-10-26T15:02:27Z) - A Forward Backward Greedy approach for Sparse Multiscale Learning [0.0]
本稿では,カーネルが重み付きマルチスケール構造を持つRKHS(Reproduction Kernel Hilbert space)を提案する。
この空間における近似を生成するために、多スケール構造を持つ基底関数の集合をゆるやかに構成できる実用的なフォワードバックワードアルゴリズムを提供する。
我々は,様々なシミュレーションと実データ集合を用いて,アプローチの性能を解析する。
論文 参考訳(メタデータ) (2021-02-14T04:22:52Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。