論文の概要: PARAFAC2 AO-ADMM: Constraints in all modes
- arxiv url: http://arxiv.org/abs/2102.02087v1
- Date: Wed, 3 Feb 2021 14:42:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-04 17:38:13.436517
- Title: PARAFAC2 AO-ADMM: Constraints in all modes
- Title(参考訳): PARAFAC2 AO-ADMM:すべてのモードの制約
- Authors: Marie Roald, Carla Schenker, Jeremy E. Cohen, Evrim Acar
- Abstract要約: 本稿では, PARAFAC2 を適合させる乗算器 (ADMM) ベースのアルゴリズムの交互方向法を提案し, 任意の近似関数に対して正則化のペナルティを拡大する。
数値実験により, PARAFAC2のADMMに基づく手法により, シミュレーションデータから基礎成分を精度良く回収できることが示されている。
- 参考スコア(独自算出の注目度): 6.901159341430921
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The PARAFAC2 model provides a flexible alternative to the popular
CANDECOMP/PARAFAC (CP) model for tensor decompositions. Unlike CP, PARAFAC2
allows factor matrices in one mode (i.e., evolving mode) to change across
tensor slices, which has proven useful for applications in different domains
such as chemometrics, and neuroscience. However, the evolving mode of the
PARAFAC2 model is traditionally modelled implicitly, which makes it challenging
to regularise it. Currently, the only way to apply regularisation on that mode
is with a flexible coupling approach, which finds the solution through
regularised least-squares subproblems. In this work, we instead propose an
alternating direction method of multipliers (ADMM)-based algorithm for fitting
PARAFAC2 and widen the possible regularisation penalties to any proximable
function. Our numerical experiments demonstrate that the proposed ADMM-based
approach for PARAFAC2 can accurately recover the underlying components from
simulated data while being both computationally efficient and flexible in terms
of imposing constraints.
- Abstract(参考訳): PARAFAC2モデルはテンソル分解のための一般的なCANDECOMP/PARAFAC(CP)モデルに代わる柔軟な代替を提供する。
CPとは異なり、PARAFAC2は1つのモード(すなわち進化モード)の因子行列をテンソルスライスで変化させ、ケモメトリックスや神経科学などの異なる領域の応用に有用であることが証明されている。
しかし、PARAFAC2モデルの進化モードは伝統的に暗黙的にモデル化されているため、規則化は困難である。
現在、このモードで正規化を適用する唯一の方法は柔軟な結合アプローチであり、規則化された最小二乗サブプロブレムを通じてソリューションを見つける。
そこで本研究では, PARAFAC2 を適合させる乗算器 (ADMM) ベースのアルゴリズムの交互方向法を提案し, 任意の近似関数に対して正則化の罰則を拡大する。
数値実験により, PARAFAC2 に対する ADMM に基づく提案手法により, シミュレーションデータから基礎となる成分を精度良く回収できることを示した。
関連論文リスト
- Pushing the Limits of Large Language Model Quantization via the Linearity Theorem [71.3332971315821]
本稿では,階層的$ell$再構成誤差と量子化によるモデルパープレキシティ増加との直接的な関係を確立する「線形定理」を提案する。
この知見は,(1)アダマール回転とHIGGSと呼ばれるMSE最適格子を用いた単純なデータフリーLCM量子化法,(2)非一様層ごとの量子化レベルを求める問題に対する最適解の2つの新しい応用を可能にする。
論文 参考訳(メタデータ) (2024-11-26T15:35:44Z) - Recursive Learning of Asymptotic Variational Objectives [49.69399307452126]
一般状態空間モデル(英: General State-space Model, SSM)は、統計機械学習において広く用いられ、時系列データに対して最も古典的な生成モデルの一つである。
オンラインシーケンシャルIWAE(OSIWAE)は、潜在状態の推測のためのモデルパラメータとマルコフ認識モデルの両方のオンライン学習を可能にする。
このアプローチは、最近提案されたオンライン変分SMC法よりも理論的によく確立されている。
論文 参考訳(メタデータ) (2024-11-04T16:12:37Z) - PARAFAC2-based Coupled Matrix and Tensor Factorizations with Constraints [1.0519027757362966]
AO(Alternating Optimization)とADMM(Alternating Direction Method of Multipliers)を用いたPARAFAC2ベースのCMTFモデルに適合するフレキシブルなアルゴリズムフレームワークを提案する。
様々なシミュレーションと実際のデータセットの実験は、提案したフレームワークの有用性と汎用性を示している。
論文 参考訳(メタデータ) (2024-06-18T07:05:31Z) - Sample Complexity Characterization for Linear Contextual MDPs [67.79455646673762]
文脈決定プロセス(CMDP)は、遷移カーネルと報酬関数がコンテキスト変数によってインデックス付けされた異なるMDPで時間とともに変化できる強化学習のクラスを記述する。
CMDPは、時間とともに変化する環境で多くの現実世界のアプリケーションをモデル化するための重要なフレームワークとして機能する。
CMDPを2つの線形関数近似モデルで検討する: 文脈変化表現とすべての文脈に対する共通線形重み付きモデルIと、すべての文脈に対する共通表現と文脈変化線形重み付きモデルIIである。
論文 参考訳(メタデータ) (2024-02-05T03:25:04Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - A model-free feature selection technique of feature screening and random
forest based recursive feature elimination [0.0]
質量特徴を持つ超高次元データのモデルフリー特徴選択法を提案する。
提案手法は選択整合性を示し, 弱正則条件下では$L$整合性を示す。
論文 参考訳(メタデータ) (2023-02-15T03:39:16Z) - PARAFAC2-based Coupled Matrix and Tensor Factorizations [1.7188280334580195]
本稿では,全てのモードや線形結合に様々な制約を課す可能性を考慮した PARAFAC2 ベースのCMTF モデルを適合させるアルゴリズムフレームワークを提案する。
数値実験により,提案手法は様々な制約や線形結合を用いて,基礎となるパターンを正確に復元することを示した。
論文 参考訳(メタデータ) (2022-10-24T09:20:17Z) - Online Probabilistic Model Identification using Adaptive Recursive MCMC [8.465242072268019]
適応再帰的マルコフ連鎖モンテカルロ法(ARMCMC)を提案する。
モデルパラメータの確率密度関数全体を計算しながら、従来のオンライン手法の欠点を解消する。
本研究では,ソフト曲げアクチュエータとハント・クロスリー動的モデルを用いてパラメータ推定を行った。
論文 参考訳(メタデータ) (2022-10-23T02:06:48Z) - An AO-ADMM approach to constraining PARAFAC2 on all modes [6.3172660601651]
乗算器の交互方向法(AO-ADMM)による交互最適化に基づくPARAFAC2の組付けアルゴリズムを提案する。
提案したPARAFAC2 AO-ADMMアプローチは柔軟な制約を許容し、基礎となるパターンを正確に復元し、最先端技術と比較して計算効率が良いことを示す。
論文 参考訳(メタデータ) (2021-10-04T09:39:01Z) - Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める
近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。
両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
論文 参考訳(メタデータ) (2020-03-30T08:40:35Z) - Adaptive Correlated Monte Carlo for Contextual Categorical Sequence
Generation [77.7420231319632]
我々は,モンテカルロ (MC) ロールアウトの集合を分散制御のために評価する政策勾配推定器に,カテゴリー列の文脈的生成を適用する。
また,二分木ソフトマックスモデルに相関したMCロールアウトを用いることで,大語彙シナリオにおける高生成コストを低減できることを示す。
論文 参考訳(メタデータ) (2019-12-31T03:01:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。