論文の概要: Structured Matrix Learning under Arbitrary Entrywise Dependence and Estimation of Markov Transition Kernel

• arxiv url: http://arxiv.org/abs/2401.02520v1
• Date: Thu, 4 Jan 2024 20:13:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-08 16:54:05.151707
• Title: Structured Matrix Learning under Arbitrary Entrywise Dependence and Estimation of Markov Transition Kernel
• Title（参考訳）: 任意順依存型構造化行列学習とマルコフ遷移カーネルの推定
• Authors: Jinhang Chai, Jianqing Fan
• Abstract要約: 本稿では、ノイズの多い低ランク+スパース行列回復の一般的な枠組みについて考察する。 本稿では,不整合制約最小二乗推定器を提案し,その厳密性を決定論的下界とミニマックスリスクの整合性の両方で証明する。 次に、我々のフレームワークのいくつかの重要な統計機械学習問題への適用について紹介する。
• 参考スコア（独自算出の注目度）: 4.360281374698232
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The problem of structured matrix estimation has been studied mostly under strong noise dependence assumptions. This paper considers a general framework of noisy low-rank-plus-sparse matrix recovery, where the noise matrix may come from any joint distribution with arbitrary dependence across entries. We propose an incoherent-constrained least-square estimator and prove its tightness both in the sense of deterministic lower bound and matching minimax risks under various noise distributions. To attain this, we establish a novel result asserting that the difference between two arbitrary low-rank incoherent matrices must spread energy out across its entries, in other words cannot be too sparse, which sheds light on the structure of incoherent low-rank matrices and may be of independent interest. We then showcase the applications of our framework to several important statistical machine learning problems. In the problem of estimating a structured Markov transition kernel, the proposed method achieves the minimax optimality and the result can be extended to estimating the conditional mean operator, a crucial component in reinforcement learning. The applications to multitask regression and structured covariance estimation are also presented. We propose an alternating minimization algorithm to approximately solve the potentially hard optimization problem. Numerical results corroborate the effectiveness of our method which typically converges in a few steps.
• Abstract（参考訳）: 構造行列推定の問題は、主に強い雑音依存の仮定の下で研究されている。 本稿では,ノイズマトリクスが任意の成分に任意の依存性を持つ任意のジョイント分布から生じる場合,雑音低ランクプラススパースマトリクスリカバリの一般的な枠組みについて考察する。 本稿では,不整合制約最小二乗推定器を提案し,その厳密さを,様々な雑音分布下での決定論的下界とミニマックスリスクの一致の両面から証明する。 この結果を達成するために, 任意の低次非コヒーレント行列の差は, 成分全体にエネルギーを分散させなければならない, 言い換えればスパースしすぎず, 非コヒーレントな低次行列の構造に光を当て, 独立した興味を持つかもしれない, という新たな結果が得られた。 次に、我々のフレームワークのいくつかの重要な統計機械学習問題への適用を紹介します。 構造的マルコフ遷移カーネルを推定する問題において,提案手法は最小限の最適性を達成し,拡張学習において重要な要素である条件付き平均演算子を推定できる。 マルチタスク回帰と構造化共分散推定への応用についても述べる。 本稿では,潜在的にハードな最適化問題を大まかに解くために,交代最小化アルゴリズムを提案する。 数値計算の結果は,通常数ステップで収束する手法の有効性を裏付けるものである。

関連論文リスト

• Optimal Estimation of Shared Singular Subspaces across Multiple Noisy Matrices [3.3373545585860596]
  本研究は,低ランク行列デノジングフレームワークにおいて,複数の行列にまたがる共有(左)特異部分空間を推定することに焦点を当てる。 信号行列の真の特異部分空間が同一である場合、Stack-SVDは最小の最大速度最適化を実現する。 部分的共有の様々なケースにおいて、Stack-SVDが有効であり続ける条件を厳格に特徴付け、最小限の最適性を達成したり、一貫した見積もりを達成できなかったりする。
  論文  参考訳（メタデータ） (2024-11-26T02:49:30Z)
• Tailed Low-Rank Matrix Factorization for Similarity Matrix Completion [14.542166904874147]
  similarity Completion Matrixは多くの機械学習タスクの中核にある基本的なツールとして機能する。 この問題に対処するために、類似行列理論(SMC)法が提案されているが、それらは複雑である。 提案手法は,PSD特性を解析して推定プロセスを導出し,低ランク解を保証するために非低ランク正規化器を組み込む2つの新しい,スケーラブルで効果的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T04:27:23Z)
• A general error analysis for randomized low-rank approximation with application to data assimilation [42.57210316104905]
  中心行列および非標準行列に対するフロベニウスノルムにおける低ランク近似誤差の解析のための枠組みを提案する。 最小限の仮定の下では、期待と確率の正確な境界を導出する。 私たちの境界には、プロパティを導出し、実践的な選択を動機付けるための明確な解釈があります。
  論文  参考訳（メタデータ） (2024-05-08T04:51:56Z)
• Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement Learning [53.445068584013896]
  低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。 低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。 簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
  論文  参考訳（メタデータ） (2023-10-10T17:06:41Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
  本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。 ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。 ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
  論文  参考訳（メタデータ） (2022-06-14T12:30:11Z)
• Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
  可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。 演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
  論文  参考訳（メタデータ） (2022-01-21T02:46:57Z)
• Probabilistic Simplex Component Analysis [66.30587591100566]
  PRISMは、データ循環記述のシンプルさの頂点をデータから識別する確率論的シンプルコンポーネント分析手法である。 この問題には多様な応用があり、最も注目すべきはリモートセンシングにおけるハイパースペクトルアンミックスと機械学習における非負行列分解である。
  論文  参考訳（メタデータ） (2021-03-18T05:39:00Z)
• Learning Mixtures of Low-Rank Models [89.39877968115833]
  低ランクモデルの計算混合を学習する問題について検討する。 ほぼ最適サンプルを用いて未知の行列を復元することが保証されるアルゴリズムを開発する。 さらに,提案アルゴリズムはランダムノイズに対して確実に安定である。
  論文  参考訳（メタデータ） (2020-09-23T17:53:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。