論文の概要: Recursive Binding for Similarity-Preserving Hypervector Representations
of Sequences
- arxiv url: http://arxiv.org/abs/2201.11691v1
- Date: Thu, 27 Jan 2022 17:41:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-28 14:39:45.470212
- Title: Recursive Binding for Similarity-Preserving Hypervector Representations
of Sequences
- Title(参考訳): 類似性保存型ハイパーベクトル表現のための再帰結合
- Authors: Dmitri A. Rachkovskij, Denis Kleyko
- Abstract要約: HDC/VSAソリューションを設計するための重要なステップは、入力データからそのような表現を得ることである。
ここでは, 近傍位置における同一配列要素の類似性を両立させる分散表現への変換を提案する。
単語類似性の人間の知覚をモデル化するためのシンボル文字列を用いて,提案手法を実験的に検討した。
- 参考スコア(独自算出の注目度): 4.65149292714414
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hyperdimensional computing (HDC), also known as vector symbolic architectures
(VSA), is a computing framework used within artificial intelligence and
cognitive computing that operates with distributed vector representations of
large fixed dimensionality. A critical step for designing the HDC/VSA solutions
is to obtain such representations from the input data. Here, we focus on
sequences and propose their transformation to distributed representations that
both preserve the similarity of identical sequence elements at nearby positions
and are equivariant to the sequence shift. These properties are enabled by
forming representations of sequence positions using recursive binding and
superposition operations. The proposed transformation was experimentally
investigated with symbolic strings used for modeling human perception of word
similarity. The obtained results are on a par with more sophisticated
approaches from the literature. The proposed transformation was designed for
the HDC/VSA model known as Fourier Holographic Reduced Representations.
However, it can be adapted to some other HDC/VSA models.
- Abstract(参考訳): hyperdimensional computing (hdc) または vector symbolic architectures (vsa) は、人工知能と認知コンピューティングで使われる計算フレームワークであり、大きな固定次元の分散ベクトル表現を扱う。
HDC/VSAソリューションを設計するための重要なステップは、入力データからそのような表現を得ることである。
ここでは、列に焦点をあて、それらの分散表現への変換を提案し、どちらも近傍の同じ配列要素の類似性を保ち、配列シフトに同値である。
これらの特性は再帰的結合と重ね合わせ操作を用いてシーケンス位置の表現を形成することによって実現される。
提案する変換は、単語の類似性の人間の知覚をモデル化するシンボリック文字列を用いて実験的に研究された。
得られた結果は、文学のより洗練されたアプローチと同等である。
この変換はFourier Holographic Reduced Representationsとして知られるHDC/VSAモデルのために設計された。
しかし、他のHDC/VSAモデルにも適用可能である。
関連論文リスト
- EulerFormer: Sequential User Behavior Modeling with Complex Vector Attention [88.45459681677369]
複素ベクトル注意を持つ新しい変圧器変圧器(EulerFormer)を提案する。
意味的差と位置的差の両方を定式化するための統一的な理論的枠組みを提供する。
意味的変動に対してより堅牢であり、原理上はより上述の理論的性質を持つ。
論文 参考訳(メタデータ) (2024-03-26T14:18:43Z) - Neuromorphic Visual Scene Understanding with Resonator Networks [11.701553530610973]
3つの重要な概念を生かしたニューロモルフィックな解を提案する。
このフレームワークは、複雑な値のベクトルを持つベクトルアーキテクチャに基づいている。
ネットワークは、視覚シーンにおける非可換変換と回転を分解する。
機械ビジョンとロボット工学の現実的な応用シナリオにおいて、同種のアプローチを実証する。
論文 参考訳(メタデータ) (2022-08-26T22:17:52Z) - OneDConv: Generalized Convolution For Transform-Invariant Representation [76.15687106423859]
一般化された一次元畳み込み作用素(OneDConv)を提案する。
計算的かつパラメトリック的に効率的な方法で入力特徴に基づいて、畳み込みカーネルを動的に変換する。
一般的な画像のパフォーマンスを犠牲にすることなく、畳み込みの堅牢性と一般化を改善する。
論文 参考訳(メタデータ) (2022-01-15T07:44:44Z) - Shift-Equivariant Similarity-Preserving Hypervector Representations of
Sequences [0.8223798883838329]
本稿では,シーケンスのハイパーベクター形成のためのアプローチを提案する。
提案手法は合成ハイパーベクターによるシーケンス要素の表現である。
シンボル文字列の形でデータを用いた多種多様なタスクセットを用いて,提案した表現を実験的に検討した。
論文 参考訳(メタデータ) (2021-12-31T14:29:12Z) - Topographic VAEs learn Equivariant Capsules [84.33745072274942]
本稿では, 地理的に整理された潜伏変数を用いた深部生成モデルを効率的に学習するための新しい手法であるTopographic VAEを紹介する。
このようなモデルでは,MNIST上での桁数クラス,幅,スタイルなどの健全な特徴に応じて,その活性化を組織化することが実際に学べることが示される。
我々は、既存の群同変ニューラルネットワークの能力を拡張して、複素変換に近似した同値性を示す。
論文 参考訳(メタデータ) (2021-09-03T09:25:57Z) - Analogous to Evolutionary Algorithm: Designing a Unified Sequence Model [58.17021225930069]
実演的進化アルゴリズム(EA)と類似した視覚変換器の合理性について説明する。
我々は、より効率的なEATモデルを提案し、様々なタスクに柔軟に対処するタスク関連ヘッドを設計する。
近年のビジョントランスに比べて,イメージネット分類作業における最先端の成果が得られている。
論文 参考訳(メタデータ) (2021-05-31T16:20:03Z) - Convolutional Hough Matching Networks [39.524998833064956]
畳み込みマッチングにおけるハフ変換の視点を導入し、畳み込みハフマッチング(CHM)と呼ばれる効果的な幾何マッチングアルゴリズムを提案する。
半等方性高次元カーネルを持つ学習可能な神経層にキャストし、少数の解釈可能なパラメータとの非剛性マッチングを学習した。
本手法は,意味的視覚対応のための標準ベンチマークの新たな技術を確立し,クラス内変動に対する強固さを証明した。
論文 参考訳(メタデータ) (2021-03-31T06:17:03Z) - Invariant Deep Compressible Covariance Pooling for Aerial Scene
Categorization [80.55951673479237]
本研究では,空気シーン分類におけるニュアンス変動を解決するために,新しい不変な深部圧縮性共分散プール (IDCCP) を提案する。
本研究では,公開空間画像データセットに関する広範な実験を行い,最先端の手法と比較して,この手法の優位性を実証する。
論文 参考訳(メタデータ) (2020-11-11T11:13:07Z) - tvGP-VAE: Tensor-variate Gaussian Process Prior Variational Autoencoder [0.0]
tvGP-VAEはカーネル関数を使用して相関を明示的にモデル化することができる。
そこで本研究では,どの相関構造を潜在空間で明示的に表現するかの選択が,モデル性能に大きな影響を及ぼすことを示す。
論文 参考訳(メタデータ) (2020-06-08T17:59:13Z) - Supervised Learning for Non-Sequential Data: A Canonical Polyadic
Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。
この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。
表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文 参考訳(メタデータ) (2020-01-27T22:38:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。