論文の概要: A Fast Parallel Tensor Decomposition with Optimal Stochastic Gradient
Descent: an Application in Structural Damage Identification
- arxiv url: http://arxiv.org/abs/2111.02632v1
- Date: Thu, 4 Nov 2021 05:17:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-05 15:29:31.114106
- Title: A Fast Parallel Tensor Decomposition with Optimal Stochastic Gradient
Descent: an Application in Structural Damage Identification
- Title（参考訳）: 最適確率勾配を有する高速並列テンソル分解法 -構造的損傷同定への応用-
- Authors: Ali Anaissi, Basem Suleiman and Seid Miad Zandavi
- Abstract要約: 本稿では, CANDECOMP/PARAFAC (CP) 分解を mathbbR I_1 times dots times I_N $ で並列化する新しいアルゴリズム FP-CPD を提案する。
- 参考スコア（独自算出の注目度）: 1.536989504296526
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Structural Health Monitoring (SHM) provides an economic approach which aims
to enhance understanding the behavior of structures by continuously collects
data through multiple networked sensors attached to the structure. This data is
then utilized to gain insight into the health of a structure and make timely
and economic decisions about its maintenance. The generated SHM sensing data is
non-stationary and exists in a correlated multi-way form which makes the
batch/off-line learning and standard two-way matrix analysis unable to capture
all of these correlations and relationships. In this sense, the online tensor
data analysis has become an essential tool for capturing underlying structures
in higher-order datasets stored in a tensor $\mathcal{X} \in \mathbb{R} ^{I_1
\times \dots \times I_N} $. The CANDECOMP/PARAFAC (CP) decomposition has been
extensively studied and applied to approximate X by N loading matrices A(1), .
. . ,A(N) where N represents the order of the tensor. We propose a novel
algorithm, FP-CPD, to parallelize the CANDECOMP/PARAFAC (CP) decomposition of a
tensor $\mathcal{X} \in \mathbb{R} ^{I_1 \times \dots \times I_N} $. Our
approach is based on stochastic gradient descent (SGD) algorithm which allows
us to parallelize the learning process and it is very useful in online setting
since it updates $\mathcal{X}^{t+1}$ in one single step. Our SGD algorithm is
augmented with Nesterov's Accelerated Gradient (NAG) and perturbation methods
to accelerate and guarantee convergence. The experimental results using
laboratory-based and real-life structural datasets indicate fast convergence
and good scalability.
- Abstract（参考訳）: 構造健康モニタリング(SHM)は、構造に付随する複数のネットワークセンサーを通して継続的にデータを収集することで、構造体の行動を理解することを促進する経済的なアプローチを提供する。
このデータは、構造物の健全性を把握し、その維持についてタイムリーかつ経済的決定を行うために利用される。
生成されたscmセンシングデータは非定常であり、バッチ/オフライン学習と標準2方向行列解析がこれらすべての相関関係をキャプチャできないような相関多方向形式に存在する。
この意味で、オンラインテンソルデータ解析は、テンソル $\mathcal{X} \in \mathbb{R} ^{I_1 \times \dots \times I_N} $ に格納された高次データセットの基盤構造をキャプチャするための必須ツールとなっている。
CANDECOMP/PARAFAC (CP)分解は、N がテンソルの順序を表すような N の荷重行列 A(1), . . , A(N) により、近似 X に対して広く研究され、応用されている。
テンソル $\mathcal{X} \in \mathbb{R} ^{I_1 \times \dots \times I_N} $ の CANDECOMP/PARAFAC (CP) 分解を並列化する新しいアルゴリズム FP-CPD を提案する。
本手法は,学習過程の並列化を可能にする確率勾配降下法(SGD)アルゴリズムに基づいており,一ステップで$\mathcal{X}^{t+1}$を更新するので,オンライン環境では非常に有用である。
我々のSGDアルゴリズムは、NesterovのAccelerated Gradient(NAG)と摂動法を用いて、収束を加速し保証する。
実験室ベースおよび実生活構造データセットを用いた実験結果は、高速収束と優れたスケーラビリティを示す。
関連論文リスト
- Explainable Spatio-Temporal GCNNs for Irregular Multivariate Time Series: Architecture and Application to ICU Patient Data [7.433698348783128]
XST-CNN(eXG-Temporal Graph Conal Neural Network)は、不均一で不規則なマルチ時系列(MTS)データを処理するための新しいアーキテクチャである。
提案手法は,GCNNパイプラインを利用して時間的・時間的統合パイプライン内での時間的特徴を捉える。
ICU患者のマルチドラッグ抵抗(MDR)を予測するために,実世界の電子健康記録データを用いてXST-CNNを評価した。
論文 参考訳（メタデータ） (2024-11-01T22:53:17Z) - Compressing Structured Tensor Algebra [1.2624532490634646]
DASTACはテンソルが捕捉した高レベル構造を低レベルコード生成に伝達するフレームワークである。
本手法は,最適なデータレイアウトを自動的に検出することでメモリフットプリントを削減する。
DASTACは、最先端のスパーステンソルコンパイラであるTACOと、最先端の構造化テンソル代数コンパイラであるStructTensorに対して、1～2桁の高速化を実現する。
論文 参考訳（メタデータ） (2024-07-18T17:25:17Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳（メタデータ） (2023-10-18T10:29:58Z) - Fast and Provable Tensor Robust Principal Component Analysis via Scaled
Gradient Descent [30.299284742925852]
本稿では、テンソルロバスト主成分分析(RPCA)に取り組む。
希少な腐敗によって汚染された観測から低ランクのテンソルを回収することを目的としている。
提案アルゴリズムは, 最先端行列やテンソルRPCAアルゴリズムよりも, より優れた, よりスケーラブルな性能を実現する。
論文 参考訳（メタデータ） (2022-06-18T04:01:32Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳（メタデータ） (2022-05-19T08:37:56Z) - Multi-task Learning of Order-Consistent Causal Graphs [59.9575145128345]
我々は、$K関連ガウス非巡回グラフ(DAG)の発見問題を考える。
マルチタスク学習環境下では, 線形構造方程式モデルを学習するためのMLE ($l_1/l$-regularized maximum chance estimator) を提案する。
理論的には、関係するタスクにまたがるデータを活用することで、因果順序を復元する際のサンプルの複雑さをより高めることができることを示す。
論文 参考訳（メタデータ） (2021-11-03T22:10:18Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳（メタデータ） (2021-09-10T07:01:15Z) - Online nonnegative CP-dictionary learning for Markovian data [8.490619842547739]
CANDECOMP/PARAFACベースを一般的な制約下でテンソル値データの所定のストリームから学習する新しいアルゴリズムを提案する。
提案アルゴリズムは,データテンソルの列が基礎となるマルコフ連鎖によって生成されるという仮説の下で,目的関数の定常点の集合にほぼ確実に収束することを示す。
論文 参考訳（メタデータ） (2020-09-16T11:41:01Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z) - NeCPD: An Online Tensor Decomposition with Optimal Stochastic Gradient
Descent [1.0953917735844645]
マルチウェイオンラインデータに基づく$(N)Nにおける非効率的な問題に対して,NeCPDという新しい効率的な分解アルゴリズムを提案する。
さらに,本手法を構造的データセットを用いた実生活モニタリングの分野に適用する。
論文 参考訳（メタデータ） (2020-03-18T04:44:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。