論文の概要: Variational Bayesian inference for CP tensor completion with side information

• arxiv url: http://arxiv.org/abs/2206.12486v1
• Date: Fri, 24 Jun 2022 20:00:56 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-28 16:21:46.282194
• Title: Variational Bayesian inference for CP tensor completion with side information
• Title（参考訳）: 側情報を用いたcpテンソル補完のための変分ベイズ推定
• Authors: Stanislav Budzinskiy, Nikolai Zamarashkin
• Abstract要約: 副次情報を付加した場合に自動的にランク決定を行う低ランクテンソル補完のためのメッセージパッシングアルゴリズムを提案する。 我々は,SIにより誘導される正規化特性を,合成および実世界のデータに関する広範な数値実験により検証した。 その結果, SIの有無で, 完成に要する試料数は有意に減少することがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a message passing algorithm, based on variational Bayesian inference, for low-rank tensor completion with automatic rank determination in the canonical polyadic format when additional side information (SI) is given. The SI comes in the form of low-dimensional subspaces the contain the fiber spans of the tensor (columns, rows, tubes, etc.). We validate the regularization properties induced by SI with extensive numerical experiments on synthetic and real-world data and present the results about tensor recovery and rank determination. The results show that the number of samples required for successful completion is significantly reduced in the presence of SI. We also discuss the origin of a bump in the phase transition curves that exists when the dimensionality of SI is comparable with that of the tensor.
• Abstract（参考訳）: 本稿では, 変分ベイズ推定に基づくメッセージパッシングアルゴリズムを提案し, 付加側情報 (si) が与えられた場合, 正準多進形式で自動的にランクを決定する低ランクテンソル補完を行う。 SI はテンソルのファイバースパン(カラム、行、チューブなど)を含む低次元部分空間の形で現れる。 合成および実世界のデータを用いた広範囲な数値実験を行い,siによる正則化特性を検証し,テンソル回復とランク決定に関する結果を示す。 その結果, SIの有無で, 完成に要する試料数は有意に減少することがわかった。 また、siの次元がテンソルの次元に匹敵するときに存在する相転移曲線におけるバンプの起源についても論じる。

関連論文リスト

• Stochastic Differential Equations models for Least-Squares Stochastic Gradient Descent [6.3151583550712065]
  グラディエントDescent(SGD)の連続時間モデルのダイナミクスについて検討する。 我々は,SGDをモデル化する退化微分方程式(squareSDEs)を,トレーニング損失(有限サンプル)と集団1(オンライン設定)のいずれにおいても解析する。
  論文  参考訳（メタデータ） (2024-07-02T14:52:21Z)
• Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
  単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。 我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
  論文  参考訳（メタデータ） (2024-03-08T18:50:19Z)
• Gradient-Based Feature Learning under Structured Data [57.76552698981579]
  異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。 バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。 特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
  論文  参考訳（メタデータ） (2023-09-07T16:55:50Z)
• Bayesian Renormalization [68.8204255655161]
  ベイズ統計的推論にインスパイアされた再正規化に対する完全情報理論的アプローチを提案する。 ベイズ再正規化の主な洞察は、フィッシャー計量が創発的RGスケールの役割を担う相関長を定義することである。 本研究では,ベイズ正規化方式が既存のデータ圧縮法やデータ生成法とどのように関係しているかを考察する。
  論文  参考訳（メタデータ） (2023-05-17T18:00:28Z)
• Unified Fourier-based Kernel and Nonlinearity Design for Equivariant Networks on Homogeneous Spaces [52.424621227687894]
  等質空間上の群同変ネットワークに対する統一的枠組みを導入する。 昇降した特徴場のフーリエ係数の空間性を利用する。 安定化部分群におけるフーリエ係数としての特徴を取り扱う他の方法が、我々のアクティベーションの特別な場合であることを示す。
  論文  参考訳（メタデータ） (2022-06-16T17:59:01Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)
• Alternating linear scheme in a Bayesian framework for low-rank tensor approximation [5.833272638548154]
  ベイズ推論問題を解くことにより、与えられたテンソルの低ランク表現を見つける。 本稿では,テンソルトレイン方式で無音変換を行うアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-12-21T10:15:30Z)
• The Heavy-Tail Phenomenon in SGD [7.366405857677226]
  最小損失のHessianの構造に依存すると、SGDの反復はエンフェビーテールの定常分布に収束する。 深層学習におけるSGDの行動に関する知見に分析結果を変換する。
  論文  参考訳（メタデータ） (2020-06-08T16:43:56Z)
• Model-Free State Estimation Using Low-Rank Canonical Polyadic Decomposition [5.041384008847852]
  我々は、分散ネットワークのためのモデルフリーな状況認識およびエネルギー予測フレームワークを考案する。 ワークは3方向テンソルとして、複数のタイミングでネットワークの状態を定式化する。 スラブサンプリングとファイバサンプリングの2つの構造的サンプリング方式が検討されている。
  論文  参考訳（メタデータ） (2020-04-13T01:50:51Z)
• Tensorized Random Projections [8.279639493543401]
  テンソルトレイン(TT)とCP分解形式に依存した2つのテンソル化ランダムプロジェクションマップを提案する。 2つのマップはメモリ要件が非常に低く、入力がCPまたはTTフォーマットで与えられる低階テンソルである場合に効率よく適用できる。 その結果, TTフォーマットは, 同じ歪み比を達成するのに必要な乱射影の大きさにおいて, CPよりもかなり優れていることがわかった。
  論文  参考訳（メタデータ） (2020-03-11T03:56:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。