論文の概要: Linear Codes for Hyperdimensional Computing

• arxiv url: http://arxiv.org/abs/2403.03278v1
• Date: Tue, 5 Mar 2024 19:18:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-07 17:05:13.882571
• Title: Linear Codes for Hyperdimensional Computing
• Title（参考訳）: 超次元計算のための線形符号
• Authors: Netanel Raviv
• Abstract要約: ランダムな線形符号は、キー-値ストアを形成するために使用できるリッチなサブコード構造を提供する。 筆者らが開発しているフレームワークでは、ランダムな線形符号は単純なリカバリアルゴリズムを(束縛あるいは束縛された)構成表現に含めていることが示される。
• 参考スコア（独自算出の注目度）: 9.7902367664742
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Hyperdimensional Computing (HDC) is an emerging computational paradigm for representing compositional information as high-dimensional vectors, and has a promising potential in applications ranging from machine learning to neuromorphic computing. One of the long-standing challenges in HDC is factoring a compositional representation to its constituent factors, also known as the recovery problem. In this paper we take a novel approach to solve the recovery problem, and propose the use of random linear codes. These codes are subspaces over the Boolean field, and are a well-studied topic in information theory with various applications in digital communication. We begin by showing that hyperdimensional encoding using random linear codes retains favorable properties of the prevalent (ordinary) random codes, and hence HD representations using the two methods have comparable information storage capabilities. We proceed to show that random linear codes offer a rich subcode structure that can be used to form key-value stores, which encapsulate most use cases of HDC. Most importantly, we show that under the framework we develop, random linear codes admit simple recovery algorithms to factor (either bundled or bound) compositional representations. The former relies on constructing certain linear equation systems over the Boolean field, the solution to which reduces the search space dramatically and strictly outperforms exhaustive search in many cases. The latter employs the subspace structure of these codes to achieve provably correct factorization. Both methods are strictly faster than the state-of-the-art resonator networks, often by an order of magnitude. We implemented our techniques in Python using a benchmark software library, and demonstrated promising experimental results.
• Abstract（参考訳）: 超次元コンピューティング(HDC)は、合成情報を高次元ベクトルとして表現するための新しい計算パラダイムであり、機械学習からニューロモルフィックコンピューティングまで幅広い応用において有望なポテンシャルを持つ。 hdcにおける長年の課題の1つは、その構成因子(リカバリ問題とも呼ばれる)への構成表現を分解することである。 本稿では,リカバリ問題を解くための新しい手法と,ランダムな線形コードの利用を提案する。 これらのコードはブール場上の部分空間であり、デジタル通信における様々な応用を含む情報理論においてよく研究されている話題である。 まず、乱数線形符号を用いた超次元符号化は、一般的な(通常)乱数符号の好ましい性質を保ち続けることを示し、この2つの手法を用いたhd表現は、同等の情報記憶能力を有する。 我々は,hdcのほとんどのユースケースをカプセル化するキー値ストアを形成するために,ランダム線形符号がリッチなサブコード構造を提供することを示す。 最も重要なことは、我々が開発するフレームワークの下では、ランダムな線形符号は単純なリカバリアルゴリズムを(束縛されたあるいは束縛された)構成表現に含めていることである。 前者はブール場上のある種の線形方程式系の構築に依存しており、この解は探索空間を劇的に減らし、多くの場合において排他的探索よりも厳密に優れている。 後者はこれらの符号の部分空間構造を用いて、確実に正しい分解を行う。 どちらの手法も最先端の共振器ネットワークよりも厳密に高速であり、しばしば桁違いに高速である。 我々はベンチマークソフトウェアライブラリを使用してpythonでこの技術を実装し、有望な実験結果を示した。

関連論文リスト

• Decoding Quasi-Cyclic Quantum LDPC Codes [23.22566380210149]
  量子低密度パリティチェック(qLDPC)符号は耐故障性を求める上で重要な要素である。 近年のqLDPC符号の進歩は、量子的に良好であり、線形時間デコーダが符号ワード量子ビットの一定数に影響を与える誤りを正すという構成に繋がった。 実際には、2つの繰り返し符号の産物である表面/履歴符号は依然としてqLDPC符号として選択されることが多い。
  論文  参考訳（メタデータ） (2024-11-07T06:25:27Z)
• Factor Graph Optimization of Error-Correcting Codes for Belief Propagation Decoding [62.25533750469467]
  低密度パリティ・チェック (LDPC) コードは、他の種類のコードに対していくつかの利点がある。 提案手法は,既存の人気符号の復号性能を桁違いに向上させる。
  論文  参考訳（メタデータ） (2024-06-09T12:08:56Z)
• Learning Linear Block Error Correction Codes [62.25533750469467]
  本稿では,バイナリ線形ブロック符号の統一エンコーダデコーダトレーニングを初めて提案する。 また,コード勾配の効率的なバックプロパゲーションのために,自己注意マスキングを行うトランスフォーマーモデルを提案する。
  論文  参考訳（メタデータ） (2024-05-07T06:47:12Z)
• Injective Rank Metric Trapdoor Functions with Homogeneous Errors [2.117778717665161]
  ランクメトリック暗号において、有限体上の有限次元線型空間からのベクトルは、その入射によって広がる線型空間と見なされる。 入射型片道トラップドア関数の新規構築について紹介する。 私たちのソリューションは、エラー訂正コードから公開鍵プリミティブを構築する頻繁な方法から離れています。
  論文  参考訳（メタデータ） (2023-10-13T09:12:25Z)
• CORE: Common Random Reconstruction for Distributed Optimization with Provable Low Communication Complexity [110.50364486645852]
  コミュニケーションの複雑さは、トレーニングをスピードアップし、マシン番号をスケールアップする上で、大きなボトルネックになっています。 本稿では,機械間で送信される情報を圧縮するための共通Om REOmを提案する。
  論文  参考訳（メタデータ） (2023-09-23T08:45:27Z)
• Spherical and Hyperbolic Toric Topology-Based Codes On Graph Embedding for Ising MRF Models: Classical and Quantum Topology Machine Learning [0.11805137592431453]
  本稿では,Isingモデルの基底状態を記述するための情報幾何学の適用について紹介する。 このアプローチは、機械学習とエラー訂正コーディングの関連性を確立する。
  論文  参考訳（メタデータ） (2023-07-28T19:38:13Z)
• Streaming Encoding Algorithms for Scalable Hyperdimensional Computing [12.829102171258882]
  超次元コンピューティング(Hyperdimensional Computing、HDC)は、計算神経科学を起源とするデータ表現と学習のパラダイムである。 そこで本研究では,ハッシュに基づくストリーミング符号化手法のファミリについて検討する。 我々は,これらの手法が既存の代替手段よりもはるかに効率的でありながら,学習アプリケーションの性能に匹敵する保証を享受できることを正式に示す。
  論文  参考訳（メタデータ） (2022-09-20T17:25:14Z)
• An Extension to Basis-Hypervectors for Learning from Circular Data in Hyperdimensional Computing [62.997667081978825]
  超次元計算(Hyperdimensional Computing、HDC)は、高次元ランダム空間の性質に基づく計算フレームワークである。 本稿では, 基本超ベクトル集合について検討し, 一般にHDCへの実践的貢献につながっている。 本稿では,HDCを用いた機械学習において,これまでに扱ったことのない重要な情報である円形データから学習する手法を提案する。
  論文  参考訳（メタデータ） (2022-05-16T18:04:55Z)
• High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
  共分散行列の明示的な構成を避ける新しい推論手法を提案する。 本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。 いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
  論文  参考訳（メタデータ） (2022-02-25T16:35:26Z)
• Auto-Encoding Twin-Bottleneck Hashing [141.5378966676885]
  本稿では,効率よく適応的なコード駆動グラフを提案する。 自動エンコーダのコンテキストでデコードすることで更新される。 ベンチマークデータセットの実験は、最先端のハッシュ手法よりもフレームワークの方が優れていることを明らかに示しています。
  論文  参考訳（メタデータ） (2020-02-27T05:58:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。