論文の概要: Efficient Vector Symbolic Architectures from Histogram Recovery

• arxiv url: http://arxiv.org/abs/2511.01838v1
• Date: Mon, 03 Nov 2025 18:45:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-05 16:37:27.376482
• Title: Efficient Vector Symbolic Architectures from Histogram Recovery
• Title（参考訳）: ヒストグラムからの効率的なベクトルシンボリックアーキテクチャ
• Authors: Zirui Deng, Netanel Raviv,
• Abstract要約: 本稿では、リストデコーディングに関連するアルゴリズムを用いてヒストグラム復元問題の最適解を示し、その結果のノイズレジリエンスを解析する。 以上の結果から,周波数やトレーニングを必要とせず,効率性,準直交性,回復性,アダマール符号などの類似解に対するパラメータの改善を図った。
• 参考スコア（独自算出の注目度）: 7.075842071068846
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vector symbolic architectures (VSAs) are a family of information representation techniques which enable composition, i.e., creating complex information structures from atomic vectors via binding and superposition, and have recently found wide ranging applications in various neurosymbolic artificial intelligence (AI) systems. Recently, Raviv proposed the use of random linear codes in VSAs, suggesting that their subcode structure enables efficient binding, while preserving the quasi-orthogonality that is necessary for neural processing. Yet, random linear codes are difficult to decode under noise, which severely limits the resulting VSA's ability to support recovery, i.e., the retrieval of information objects and their attributes from a noisy compositional representation. In this work we bridge this gap by utilizing coding theoretic tools. First, we argue that the concatenation of Reed-Solomon and Hadamard codes is suitable for VSA, due to the mutual quasi-orthogonality of the resulting codewords (a folklore result). Second, we show that recovery of the resulting compositional representations can be done by solving a problem we call histogram recovery. In histogram recovery, a collection of $N$ histograms over a finite field is given as input, and one must find a collection of Reed-Solomon codewords of length $N$ whose entry-wise symbol frequencies obey those histograms. We present an optimal solution to the histogram recovery problem by using algorithms related to list-decoding, and analyze the resulting noise resilience. Our results give rise to a noise-resilient VSA with formal guarantees regarding efficient encoding, quasi-orthogonality, and recovery, without relying on any heuristics or training, and while operating at improved parameters relative to similar solutions such as the Hadamard code.
• Abstract（参考訳）: ベクトル記号アーキテクチャ(VSAs)は、結合と重ね合わせによって原子ベクトルから複雑な情報構造を作成できる情報表現技術のファミリーであり、近年、様々なニューロシンボリック人工知能(AI)システムにおいて幅広い応用が発見されている。 最近、Raviv氏はVSAでランダムな線形コードを使うことを提案し、そのサブコード構造は、ニューラルネットワークに必要な準直交性を保ちながら、効率的な結合を可能にすることを示唆している。 しかし、ランダムな線形符号はノイズ下での復号化が困難であり、結果としてVSAが回復をサポートする能力、すなわちノイズの多い合成表現から情報オブジェクトとその属性を検索する能力が著しく制限される。 この作業では、コーディング理論ツールを利用することで、このギャップを埋めます。 まず, レード・ソロモン符号とアダマール符号の連結は, 結果として得られる符号の準直交性(民俗的結果)のため, VSA に適していると論じる。 第2に、ヒストグラム復元と呼ばれる問題を解くことで、結果の合成表現の回復が可能であることを示す。 ヒストグラムリカバリでは、有限体上の$N$ヒストグラムの集合が入力として与えられ、リード・ソロモンの長さ$N$の符号ワードの集合がそれらのヒストグラムに従わなければならない。 本稿では、リストデコーディングに関連するアルゴリズムを用いてヒストグラム復元問題の最適解を示し、その結果のノイズレジリエンスを解析する。 この結果から,Huristicsやトレーニングに頼らずに,効率的な符号化,準直交性,回復性に関する正式な保証と,アダマール符号のような類似の解に対するパラメータの改善を図った。

関連論文リスト

• KodCode: A Diverse, Challenging, and Verifiable Synthetic Dataset for Coding [49.56049319037421]
  KodCodeは、高品質で検証可能なトレーニングデータを取得するという永続的な課題に対処する、合成データセットである。 自己検証手順によって体系的に検証される質問解決テスト三つ子を含む。 このパイプラインは大規模で堅牢で多様なコーディングデータセットを生成する。
  論文  参考訳（メタデータ） (2025-03-04T19:17:36Z)
• Linear Codes for Hyperdimensional Computing [9.7902367664742]
  ランダムな線形符号は、キー-値ストアを形成するために使用できるリッチなサブコード構造を提供する。 筆者らが開発しているフレームワークでは、ランダムな線形符号は単純なリカバリアルゴリズムを(束縛あるいは束縛された)構成表現に含めていることが示される。
  論文  参考訳（メタデータ） (2024-03-05T19:18:44Z)
• Quick Adaptive Ternary Segmentation: An Efficient Decoding Procedure For Hidden Markov Models [41.99844472131922]
  ノイズ観測から元の信号を復号することは、ほぼすべてのHMMデータ解析における主要な目標の1つである。 QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATSについて述べる。 QATSの実装はGitHubのRパッケージQATSにある。
  論文  参考訳（メタデータ） (2023-05-29T19:37:48Z)
• SC-VAE: Sparse Coding-based Variational Autoencoder with Learned ISTA [0.6770292596301478]
  そこで本研究では,ISTA (SC-VAE) を用いたスパース符号化に基づくVAEを新たに導入し,スパース符号化を可変オートエンコーダフレームワークに統合する。 2つの画像データセットに対する実験により、我々のモデルは、最先端の手法と比較して、画像再構成結果の改善を実現していることが示された。
  論文  参考訳（メタデータ） (2023-03-29T13:18:33Z)
• Factorizers for Distributed Sparse Block Codes [45.29870215671697]
  分散ブロック符号(SBC)を高速かつ高精度に分解する手法を提案する。 我々の反復分解器は、しきい値に基づく非線形活性化、条件付きランダムサンプリング、および $ell_infty$-based similarity metricを導入している。 CIFAR-100, ImageNet-1K, RAVENデータセット上での4つの深層CNNアーキテクチャの実現可能性を示す。
  論文  参考訳（メタデータ） (2023-03-24T12:31:48Z)
• Efficient Generator of Mathematical Expressions for Symbolic Regression [0.0]
  本稿では,階層構造を生成するための新しい変分オートエンコーダに基づくシンボリックレグレッション手法を提案する。 HVAEは、数学的表現の小さなコーパスで効率的に訓練することができ、スムーズな低次元潜在空間に正確に表現をエンコードすることができる。 最後に、HVAEの潜在空間に進化的アルゴリズムを適用するEDHiEシステムは、ディープラーニングと進化的アルゴリズムの類似した組み合わせに基づく最先端のシステムよりも、標準的な記号的回帰ベンチマークから方程式を再構築する。
  論文  参考訳（メタデータ） (2023-02-20T10:40:29Z)
• Hierarchical Sketch Induction for Paraphrase Generation [79.87892048285819]
  本稿では、高密度符号化の分解を学習するHRQ-VAE(Hierarchical Refinement Quantized Variational Autoencoders)を紹介する。 HRQ-VAEを用いて、入力文の構文形式を階層化の経路としてエンコードすることで、テスト時の構文スケッチをより容易に予測できる。
  論文  参考訳（メタデータ） (2022-03-07T15:28:36Z)
• Neural Distributed Source Coding [59.630059301226474]
  相関構造に依存せず,高次元までスケール可能な損失DSCのためのフレームワークを提案する。 提案手法は,複数のデータセット上で評価し,複雑な相関関係と最先端PSNRを扱えることを示す。
  論文  参考訳（メタデータ） (2021-06-05T04:50:43Z)
• Single-Shot Decoding of Linear Rate LDPC Quantum Codes with High Performance [5.33024001730262]
  我々は、線形符号化率、スケーリング距離、効率的な復号方式を用いて、低密度パリティチェック(LDPC)量子コード群を構築し、解析する。 コードファミリーは、Guth と Lubotzky が最初に示唆したように、閉じた4次元の双曲型のテッセルレーションに基づいている。
  論文  参考訳（メタデータ） (2020-01-10T17:21:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。