論文の概要: Structured Matrix Learning under Arbitrary Entrywise Dependence and Estimation of Markov Transition Kernel

• arxiv url: http://arxiv.org/abs/2401.02520v1
• Date: Thu, 4 Jan 2024 20:13:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-08 16:54:05.151707
• Title: Structured Matrix Learning under Arbitrary Entrywise Dependence and Estimation of Markov Transition Kernel
• Title（参考訳）: 任意順依存型構造化行列学習とマルコフ遷移カーネルの推定
• Authors: Jinhang Chai, Jianqing Fan
• Abstract要約: 本稿では、ノイズの多い低ランク+スパース行列回復の一般的な枠組みについて考察する。 本稿では,不整合制約最小二乗推定器を提案し,その厳密性を決定論的下界とミニマックスリスクの整合性の両方で証明する。 次に、我々のフレームワークのいくつかの重要な統計機械学習問題への適用について紹介する。
• 参考スコア（独自算出の注目度）: 4.360281374698232
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The problem of structured matrix estimation has been studied mostly under strong noise dependence assumptions. This paper considers a general framework of noisy low-rank-plus-sparse matrix recovery, where the noise matrix may come from any joint distribution with arbitrary dependence across entries. We propose an incoherent-constrained least-square estimator and prove its tightness both in the sense of deterministic lower bound and matching minimax risks under various noise distributions. To attain this, we establish a novel result asserting that the difference between two arbitrary low-rank incoherent matrices must spread energy out across its entries, in other words cannot be too sparse, which sheds light on the structure of incoherent low-rank matrices and may be of independent interest. We then showcase the applications of our framework to several important statistical machine learning problems. In the problem of estimating a structured Markov transition kernel, the proposed method achieves the minimax optimality and the result can be extended to estimating the conditional mean operator, a crucial component in reinforcement learning. The applications to multitask regression and structured covariance estimation are also presented. We propose an alternating minimization algorithm to approximately solve the potentially hard optimization problem. Numerical results corroborate the effectiveness of our method which typically converges in a few steps.
• Abstract（参考訳）: 構造行列推定の問題は、主に強い雑音依存の仮定の下で研究されている。 本稿では,ノイズマトリクスが任意の成分に任意の依存性を持つ任意のジョイント分布から生じる場合,雑音低ランクプラススパースマトリクスリカバリの一般的な枠組みについて考察する。 本稿では,不整合制約最小二乗推定器を提案し,その厳密さを,様々な雑音分布下での決定論的下界とミニマックスリスクの一致の両面から証明する。 この結果を達成するために, 任意の低次非コヒーレント行列の差は, 成分全体にエネルギーを分散させなければならない, 言い換えればスパースしすぎず, 非コヒーレントな低次行列の構造に光を当て, 独立した興味を持つかもしれない, という新たな結果が得られた。 次に、我々のフレームワークのいくつかの重要な統計機械学習問題への適用を紹介します。 構造的マルコフ遷移カーネルを推定する問題において,提案手法は最小限の最適性を達成し,拡張学習において重要な要素である条件付き平均演算子を推定できる。 マルチタスク回帰と構造化共分散推定への応用についても述べる。 本稿では,潜在的にハードな最適化問題を大まかに解くために,交代最小化アルゴリズムを提案する。 数値計算の結果は,通常数ステップで収束する手法の有効性を裏付けるものである。

関連論文リスト

• A general error analysis for randomized low-rank approximation with application to data assimilation [42.57210316104905]
  中心行列および非標準行列に対するフロベニウスノルムにおける低ランク近似誤差の解析のための枠組みを提案する。 最小限の仮定の下では、期待と確率の正確な境界を導出する。 私たちの境界には、プロパティを導出し、実践的な選択を動機付けるための明確な解釈があります。
  論文  参考訳（メタデータ） (2024-05-08T04:51:56Z)
• Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement Learning [53.445068584013896]
  低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。 低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。 簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
  論文  参考訳（メタデータ） (2023-10-10T17:06:41Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
  本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。 ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。 ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
  論文  参考訳（メタデータ） (2022-06-14T12:30:11Z)
• Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
  可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。 演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
  論文  参考訳（メタデータ） (2022-01-21T02:46:57Z)
• Probabilistic Simplex Component Analysis [66.30587591100566]
  PRISMは、データ循環記述のシンプルさの頂点をデータから識別する確率論的シンプルコンポーネント分析手法である。 この問題には多様な応用があり、最も注目すべきはリモートセンシングにおけるハイパースペクトルアンミックスと機械学習における非負行列分解である。
  論文  参考訳（メタデータ） (2021-03-18T05:39:00Z)
• Learning Mixtures of Low-Rank Models [89.39877968115833]
  低ランクモデルの計算混合を学習する問題について検討する。 ほぼ最適サンプルを用いて未知の行列を復元することが保証されるアルゴリズムを開発する。 さらに,提案アルゴリズムはランダムノイズに対して確実に安定である。
  論文  参考訳（メタデータ） (2020-09-23T17:53:48Z)
• Low-Rank Factorization for Rank Minimization with Nonconvex Regularizers [0.0]
  核ノルムへの凸緩和を最小化することは、推奨システムと堅牢な主成分分析に重要である。 本研究では, ブイロとルクシロによる核プログラムのランク因数分解のための効率的なアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-06-13T19:04:37Z)
• Robust Matrix Completion with Mixed Data Types [0.0]
  我々は,データ型が混在する部分的なエントリを持つ構造的低ランク行列を復元する問題を考察する。 ほとんどのアプローチは、基礎となる分布は1つしかないと仮定し、低階の制約は、行列 Satten Norm によって正則化される。 本稿では, 並列化に適したアルゴリズムフレームワークとともに, 高い回復保証を有する計算可能な統計手法を提案し, 混合データ型に対する部分的に観測されたエントリを持つ低階行列を1ステップで復元する。
  論文  参考訳（メタデータ） (2020-05-25T21:35:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。