論文の概要: Flexible Online Representation Learning Based on Similarity Matching
- arxiv url: http://arxiv.org/abs/2606.01546v1
- Date: Mon, 01 Jun 2026 01:46:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.859742
- Title: Flexible Online Representation Learning Based on Similarity Matching
- Title(参考訳): 類似性マッチングに基づくフレキシブルオンライン表現学習
- Authors: Shagesh Sridharan, Yanis Bahroun, Anirvan M. Sengupta,
- Abstract要約: スパース高次元表現は、教師なしデータの探索において非自明な構造を明らかにするのに役立つ。
そこで本研究では,スパースシフト不変表現を学習可能なオンライン生物可利用学習アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 2.461513633983538
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sparse high-dimensional representations are conducive to uncovering nontrivial structures in unsupervised exploration of data. Such a representation can deal with the dense connectivity in graphs relevant to community detection problems. However, sparse high-dimensional representations are capable of doing more, including manifold tiling and feature learning. Conventional algorithms optimize in the space of computationally intractable completely positive matrices or relax the problem to the space of doubly nonnegative matrices that scale with sample size in a way rendering them impractical for large data sets. Some of these methods also impose a row sum constraint, such as double stochasticity. Row sum constraints have the added advantage of being shift-invariant, in the context of manifold tiling. Constraints on the row sum of output similarity matrices require nontrivial online learning rules. Addressing these needs, we propose a versatile online biologically plausible learning algorithm capable of learning sparse shift-invariant representations, useful for clustering, manifold tiling, or sparse coding, depending on the data structure.
- Abstract(参考訳): スパース高次元表現は、教師なしデータの探索において非自明な構造を明らかにするのに役立つ。
このような表現は、コミュニティ検出問題に関連するグラフの密接な接続を扱うことができる。
しかし、細かな高次元表現は、多様体タイリングや特徴学習など、より多くのことができる。
従来のアルゴリズムでは、計算的に抽出可能な完全正の行列の空間を最適化したり、サンプルサイズでスケールする2つの非負の行列の空間に問題を緩和する。
これらの方法のいくつかは、二重確率性のような行和の制約も課している。
ロー和の制約は、多様体タイリングの文脈においてシフト不変であるという付加的な利点を持つ。
出力類似度行列の行数制限は、非自明なオンライン学習ルールを必要とする。
これらのニーズに対処し、データ構造に応じてスパースシフト不変表現を学習し、クラスタリング、多様体タイリング、スパースコーディングに有用な、多種多様なオンライン生物可利用学習アルゴリズムを提案する。
関連論文リスト
- An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。
このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。
本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-09-30T15:57:14Z) - Recovering Simultaneously Structured Data via Non-Convex Iteratively
Reweighted Least Squares [0.8702432681310401]
線形観測から多種多様低次元構造に固執するデータを復元する新しいアルゴリズムを提案する。
IRLS法は,低/複合状態の計測に好適であることを示す。
論文 参考訳(メタデータ) (2023-06-08T06:35:47Z) - Reinforcement Learning in Low-Rank MDPs with Density Features [12.932032416729774]
低ランク遷移を持つMDPは、抽出可能な学習を可能にする非常に代表的な構造である。
本研究では, 密度特性を用いたサンプル効率学習, すなわち, 状態占有分布の強力なモデルを生成する正しい行列について検討する。
論文 参考訳(メタデータ) (2023-02-04T22:46:28Z) - Unsupervised Manifold Linearizing and Clustering [19.879641608165887]
本稿では、データ表現と2重クラスタメンバシップの両方に関して、最大符号化削減度を最適化することを提案する。
CIFAR-10, -20, -100, TinyImageNet-200データセットに対する実験により,提案手法は最先端のディープクラスタリング手法よりもはるかに正確でスケーラブルであることが示された。
論文 参考訳(メタデータ) (2023-01-04T20:08:23Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Semi-Supervised Manifold Learning with Complexity Decoupled Chart Autoencoders [45.29194877564103]
本研究は、クラスラベルなどの半教師付き情報を付加できる非対称符号化復号プロセスを備えたチャートオートエンコーダを導入する。
このようなネットワークの近似力を議論し、周囲空間の次元ではなく、本質的にデータ多様体の内在次元に依存する境界を導出する。
論文 参考訳(メタデータ) (2022-08-22T19:58:03Z) - High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
共分散行列の明示的な構成を避ける新しい推論手法を提案する。
本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。
いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
論文 参考訳(メタデータ) (2022-02-25T16:35:26Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Multiple Metric Learning for Structured Data [0.0]
構造化データからメトリクスを学習しながらグラフと特徴空間情報を融合する問題に対処する。
本稿では,距離制約下での最適化のためのグラフベースの新しい手法を提案する。
論文 参考訳(メタデータ) (2020-02-13T19:11:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。