論文の概要: Implicit ZCA Whitening Effects of Linear Autoencoders for Recommendation

• arxiv url: http://arxiv.org/abs/2308.13536v1
• Date: Tue, 15 Aug 2023 07:58:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-03 21:43:34.930693
• Title: Implicit ZCA Whitening Effects of Linear Autoencoders for Recommendation
• Title（参考訳）: 推薦用リニアオートエンコーダのZCA白化効果
• Authors: Katsuhiko Hayashi and Kazuma Onishi
• Abstract要約: 線形オートエンコーダモデルとZCAホワイトニングの関連性を示す。 また,埋め込み手法を用いて得られる低次元項目ベクトルに対して線形オートエンコーダを適用することの正当性を示す。
• 参考スコア（独自算出の注目度）: 10.374400063702392
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Recently, in the field of recommendation systems, linear regression (autoencoder) models have been investigated as a way to learn item similarity. In this paper, we show a connection between a linear autoencoder model and ZCA whitening for recommendation data. In particular, we show that the dual form solution of a linear autoencoder model actually has ZCA whitening effects on feature vectors of items, while items are considered as input features in the primal problem of the autoencoder/regression model. We also show the correctness of applying a linear autoencoder to low-dimensional item vectors obtained using embedding methods such as Item2vec to estimate item-item similarities. Our experiments provide preliminary results indicating the effectiveness of whitening low-dimensional item embeddings.
• Abstract（参考訳）: 近年、レコメンデーションシステムの分野では、アイテムの類似性を学ぶ方法として線形回帰(autoencoder)モデルが研究されている。 本稿では,線形オートエンコーダモデルとZCAホワイトニングの関連性を示す。 特に,線形オートエンコーダモデルの双対形式解は,アイテムの特徴ベクトルに対してzcaホワイトニング効果を実際に有し,一方,アイテムはオートエンコーダ/レグレッションモデルのプライマリ問題における入力特徴と見なされる。 また,各項目の類似性を推定するためにItem2vecなどの埋め込み手法を用いて得られた低次元項目ベクトルに対して線形オートエンコーダを適用することの正当性を示す。 本実験は, 低次元アイテム埋め込みの白化効果を示す予備実験である。

関連論文リスト

• Loss-Free Machine Unlearning [51.34904967046097]
  我々は、再学習とラベルなしの両方の機械学習アプローチを提案する。 Retraining-freeアプローチは、損失から派生したFisher情報を利用することが多く、利用できないラベル付きデータを必要とする。 本稿では,モデル出力のl2ノルムの勾配に対して,フィッシャー情報行列の対角線を近似感度に置き換えるSelective Synaptic Dampeningアルゴリズムの拡張を提案する。
  論文  参考訳（メタデータ） (2024-02-29T16:15:34Z)
• Fast Dual-Regularized Autoencoder for Sparse Biological Data [65.268245109828]
  本研究では,近傍正規化行列補完問題に対する浅層オートエンコーダを開発する。 本研究は, 薬物と薬物の相互作用と薬物の放出関連性を予測する上で, 既存の最先端技術に対するアプローチの速度と精度の優位性を実証する。
  論文  参考訳（メタデータ） (2024-01-30T01:28:48Z)
• It's Enough: Relaxing Diagonal Constraints in Linear Autoencoders for Recommendation [4.8802420827610025]
  本稿では,線形オートエンコーダにおける2項の性質を理論的に理解することを目的とする。 本稿では,RLAE(Relaxed Linear AutoEncoder)とRDLAE(Relaxed Denoising Linear AutoEncoder)と呼ばれる,対角不等式制約を用いた単純なyet効率の線形オートエンコーダモデルを提案する。 実験の結果、我々のモデルは6つのベンチマークデータセット上で、最先端の線形モデルと非線形モデルに匹敵するか、優れていることが示された。
  論文  参考訳（メタデータ） (2023-05-22T11:09:49Z)
• Fundamental Limits of Two-layer Autoencoders, and Achieving Them with Gradient Methods [91.54785981649228]
  本稿では,非線形二層型オートエンコーダについて述べる。 本結果は,人口リスクの最小化要因を特徴付け,その最小化要因が勾配法によって達成されることを示す。 符号アクティベーション関数の特別な場合において、この解析は、シャローオートエンコーダによるガウス音源の損失圧縮の基本的な限界を確立する。
  論文  参考訳（メタデータ） (2022-12-27T12:37:34Z)
• Efficient Nearest Neighbor Search for Cross-Encoder Models using Matrix Factorization [60.91600465922932]
  本稿では,クロスエンコーダのみに頼って,二重エンコーダによる検索を回避する手法を提案する。 我々のアプローチは、現在の広く使われている方法よりも優れたテスト時間リコール-vs計算コストトレードオフを提供する。
  論文  参考訳（メタデータ） (2022-10-23T00:32:04Z)
• On the Regularization of Autoencoders [14.46779433267854]
  教師なし設定自体が、学習されたオートエンコーダのモデル容量の大幅な削減という、強い正規化を誘導することを示す。 深部非線形オートエンコーダは、両方のモデルが最終層に同じ次元を持つ場合、線形オートエンコーダよりも正確にトレーニングデータに適合できない。 3つのよく知られたデータセットに対する実験において、すべてのモデルランクに対して正確な近似であることを示す。
  論文  参考訳（メタデータ） (2021-10-21T18:28:25Z)
• Unsupervised detection of mouse behavioural anomalies using two-stream convolutional autoencoders [1.1236899956615454]
  本稿では,マウスビデオデータの異常検出における教師なし学習の適用について検討する。 提示される2つのモデルは、デュアルストリームの3D畳み込みオートエンコーダとデュアルストリームの2D畳み込みオートエンコーダである。
  論文  参考訳（メタデータ） (2021-05-28T16:30:09Z)
• Autoencoding Variational Autoencoder [56.05008520271406]
  我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。 自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
  論文  参考訳（メタデータ） (2020-12-07T14:16:14Z)
• Dual Adversarial Auto-Encoders for Clustering [152.84443014554745]
  教師なしクラスタリングのためのDual-AAE(Dual-AAE)を提案する。 Dual-AAEの目的関数に対する変分推論を行うことで,一対のオートエンコーダをトレーニングすることで最適化可能な新たな再構成損失を導出する。 4つのベンチマーク実験により、Dual-AAEは最先端のクラスタリング手法よりも優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2020-08-23T13:16:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。