論文の概要: Online nonnegative CP-dictionary learning for Markovian data

• arxiv url: http://arxiv.org/abs/2009.07612v4
• Date: Sun, 3 Apr 2022 00:07:43 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-17 23:37:37.370511
• Title: Online nonnegative CP-dictionary learning for Markovian data
• Title（参考訳）: マルコフデータのオンライン非負CP辞書学習
• Authors: Hanbaek Lyu and Christopher Strohmeier and Deanna Needell
• Abstract要約: CANDECOMP/PARAFACベースを一般的な制約下でテンソル値データの所定のストリームから学習する新しいアルゴリズムを提案する。 提案アルゴリズムは,データテンソルの列が基礎となるマルコフ連鎖によって生成されるという仮説の下で,目的関数の定常点の集合にほぼ確実に収束することを示す。
• 参考スコア（独自算出の注目度）: 8.490619842547739
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Online Tensor Factorization (OTF) is a fundamental tool in learning low-dimensional interpretable features from streaming multi-modal data. While various algorithmic and theoretical aspects of OTF have been investigated recently, a general convergence guarantee to stationary points of the objective function without any incoherence or sparsity assumptions is still lacking even for the i.i.d. case. In this work, we introduce a novel algorithm that learns a CANDECOMP/PARAFAC (CP) basis from a given stream of tensor-valued data under general constraints, including nonnegativity constraints that induce interpretability of the learned CP basis. We prove that our algorithm converges almost surely to the set of stationary points of the objective function under the hypothesis that the sequence of data tensors is generated by an underlying Markov chain. Our setting covers the classical i.i.d. case as well as a wide range of application contexts including data streams generated by independent or MCMC sampling. Our result closes a gap between OTF and Online Matrix Factorization in global convergence analysis \commHL{for CP-decompositions}. Experimentally, we show that our algorithm converges much faster than standard algorithms for nonnegative tensor factorization tasks on both synthetic and real-world data. Also, we demonstrate the utility of our algorithm on a diverse set of examples from image, video, and time-series data, illustrating how one may learn qualitatively different CP-dictionaries from the same tensor data by exploiting the tensor structure in multiple ways.
• Abstract（参考訳）: Online Tensor Factorization (OTF)は、マルチモーダルデータのストリーミングから低次元の解釈可能な特徴を学習するための基本的なツールである。 OTFの様々なアルゴリズム的・理論的側面が近年研究されているが、目的関数の定常点に対する一般収束保証は、i.d.の場合においても、不整合や疎結合の仮定を伴わない。 本研究では,一般制約下でのテンソル値データのストリームからCANDECOMP/PARAFAC(CP)ベースを学習するアルゴリズムを提案する。 このアルゴリズムは、データテンソルの列がマルコフ連鎖によって生成されるという仮説の下で、目的関数の定常点の集合にほぼ確実に収束することを証明する。 我々の設定は、古典的なi.d.ケースと、独立またはMCMCサンプリングによって生成されたデータストリームを含む幅広いアプリケーションコンテキストをカバーする。 この結果は,大域収束解析におけるOTFとオンライン行列分解のギャップを埋める。 実験により,本アルゴリズムは合成データと実世界のデータの両方において,非負のテンソル分解タスクの標準アルゴリズムよりもはるかに高速に収束することを示す。 また, 画像, 映像, 時系列データを用いて, テンソル構造を利用して同一テンソルデータから定性的に異なるcpディクショナリを学習する方法を示す。

関連論文リスト

• Multi-View Clustering via Semi-non-negative Tensor Factorization [120.87318230985653]
  半負のテンソル因子分解(Semi-NTF)に基づく新しいマルチビュークラスタリングを開発する。 本モデルは、ビュー間の関係を直接考慮し、ビュー間の補完情報を利用する。 さらに,提案手法の最適化アルゴリズムを提案し,そのアルゴリズムが常に定常KKT点に収束することを数学的に証明する。
  論文  参考訳（メタデータ） (2023-03-29T14:54:19Z)
• Faster Adaptive Federated Learning [84.38913517122619]
  フェデレートラーニングは分散データの出現に伴って注目を集めている。 本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T05:07:50Z)
• Fast and Provable Tensor Robust Principal Component Analysis via Scaled Gradient Descent [30.299284742925852]
  本稿では、テンソルロバスト主成分分析(RPCA)に取り組む。 希少な腐敗によって汚染された観測から低ランクのテンソルを回収することを目的としている。 提案アルゴリズムは, 最先端行列やテンソルRPCAアルゴリズムよりも, より優れた, よりスケーラブルな性能を実現する。
  論文  参考訳（メタデータ） (2022-06-18T04:01:32Z)
• Truncated tensor Schatten p-norm based approach for spatiotemporal traffic data imputation with complicated missing patterns [77.34726150561087]
  本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。 本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
  論文  参考訳（メタデータ） (2022-05-19T08:37:56Z)
• A Fast Parallel Tensor Decomposition with Optimal Stochastic Gradient Descent: an Application in Structural Damage Identification [1.536989504296526]
  本稿では, CANDECOMP/PARAFAC (CP) 分解を mathbbR I_1 times dots times I_N $ で並列化する新しいアルゴリズム FP-CPD を提案する。
  論文  参考訳（メタデータ） (2021-11-04T05:17:07Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)
• Fractal Structure and Generalization Properties of Stochastic Optimization Algorithms [71.62575565990502]
  最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。 さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
  論文  参考訳（メタデータ） (2021-06-09T08:05:36Z)
• Provable Online CP/PARAFAC Decomposition of a Structured Tensor via Dictionary Learning [18.464203215845373]
  構造化3変量テンソルをその構成的ポリアディック(CP)因子に分解する問題を考察する。 我々は、構造化テンソル因子分解のための証明可能なアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-06-30T00:31:06Z)
• Consistency of Anchor-based Spectral Clustering [0.0]
  アンカーベースの手法は、スペクトルクラスタリングアルゴリズムの計算複雑性を低減する。 厳密な分析が可能であり,実践に有効であることを示す。 我々はChenとCaiの最先端のLCC法と競合することが判明した。
  論文  参考訳（メタデータ） (2020-06-24T18:34:41Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)
• A Unified Framework for Coupled Tensor Completion [42.19293115131073]
  結合テンソル分解は、潜在結合因子に由来する事前知識を組み込むことで、結合データ構造を明らかにする。 TRは強力な表現能力を持ち、いくつかの多次元データ処理アプリケーションで成功している。 提案手法は, 合成データに関する数値実験で検証され, 実世界のデータに対する実験結果は, 回収精度の観点から, 最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-01-09T02:15:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。