論文の概要: Gram-Space: Structure-Preserving Codebook Compression for Memory-Efficient Neuro-Symbolic AI
- arxiv url: http://arxiv.org/abs/2608.01528v1
- Date: Sun, 02 Aug 2026 22:37:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.265892
- Title: Gram-Space: Structure-Preserving Codebook Compression for Memory-Efficient Neuro-Symbolic AI
- Title（参考訳）: Gram-Space: メモリ効率の良いニューロシンボリックAIのための構造保存コードブック圧縮
- Authors: Weilun Wang, Wantong Li,
- Abstract要約: Gram-Spaceは、コンパクトな正規座標系でコードブックベクトルを表現するための圧縮フレームワークである。
Gram-Spaceは、モデルレベルのGPUメモリ使用量を最大15.75倍に削減し、推論遅延を最大3.62倍改善する。
- 参考スコア（独自算出の注目度）: 6.051502412081842
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vector symbolic architectures (VSA) are widely used for reasoning in neuro-symbolic (NeSy) AI, yet high-dimensional codebooks often create severe memory bottlenecks that limit scalability and deployment. In this paper, we propose Gram-Space, a compression framework that applies Gram-Schmidt orthogonalization to represent codebook vectors in a compact orthonormal coordinate system. Gram-Space preserves the dot-product structure required by matrix-based VSA operators, which supports numerically equivalent execution of matrix similarity, probability vectorization, and attention score computations. We provide a correctness analysis showing that inner products are preserved under the orthonormal basis representation. Using modern GPU hardware, we benchmark the Gram-Space framework on standard neuro-symbolic reasoning datasets. Experimental evaluations across state-of-the-art VSA models show that Gram-Space reduces model-level GPU memory usage by up to 15.75x and improves inference latency by up to 3.62x. Profiling results further indicate that Gram-Space reduces allocation-heavy overhead in codebook-associated stages and improves hardware utilization for NeSy workloads.
- Abstract（参考訳）: ベクトル記号アーキテクチャ(VSA)は、ニューロシンボリック(NeSy)AIの推論に広く使用されているが、高次元のコードブックは、スケーラビリティとデプロイメントを制限する深刻なメモリボトルネックを生じることが多い。
本稿では,コンパクトな正規直交座標系におけるコードブックベクトルを表現するために,Gram-Schmidtの直交化を適用した圧縮フレームワークであるGram-Spaceを提案する。
グラム空間は行列ベースのVSA演算子に必要なドット積構造を保持し、行列類似性、確率ベクトル化、アテンションスコア計算の数値的に等価な実行をサポートする。
内積が正規直交基底表現の下で保存されていることを示す正当性解析を行う。
最新のGPUハードウェアを用いて、標準的なニューロシンボリック推論データセット上でGram-Spaceフレームワークをベンチマークする。
最先端のVSAモデルに対する実験的評価では、Gram-SpaceはモデルレベルのGPUメモリ使用量を最大15.75倍削減し、推論遅延を最大3.62倍改善している。
プロファイリングの結果は、Gram-Spaceがコードブック関連ステージにおけるアロケーションヘビーなオーバーヘッドを低減し、NeSyワークロードのハードウェア利用を改善することを示している。
関連論文リスト
- EVA: Accelerating LLM Decoding via an Efficient Vector Quantization Architecture [13.194852545534822]
EVAは、インプット-コードブック計算とコンフリクトフリーメモリアクセスを組み合わせた、シンプルだが効果的な洞察の上に構築されている。
EVAは、SOTAルックアップベースのアーキテクチャと比較して、最大で11.17$times$スピードアップと7.17$times$高効率を実現している。
論文 参考訳（メタデータ） (2026-05-22T19:06:22Z) - GS^2: Graph-based Spatial Distribution Optimization for Compact 3D Gaussian Splatting [50.2045409672451]
3D Gaussian Splatting (3DGS)は、新しいビュー合成とリアルタイムレンダリングにおいて画期的な性能を示した。
大量のガウス点があるため、高いメモリコストに制約される。
コンパクトな3DGSのためのグラフベースの空間分布最適化を提案する。
論文 参考訳（メタデータ） (2026-04-02T10:41:51Z) - Space Filling Curves is All You Need: Communication-Avoiding Matrix Multiplication Made Simple [42.09057806159106]
一般行列乗算はディープラーニングとHPCワークロードの基盤である。
行列乗算アクセラレータを持つ現代のプラットフォームは高いFLOP/Byteマシンバランスを示す。
この作業では、この面倒なチューニングの問題を緩和するために、空間充填曲線 (SFC) を再検討する。
我々は,データ局所性を本質的に高次に示す,プラットフォーム指向および形状指向の行列乗算スキームを得る。
論文 参考訳（メタデータ） (2026-01-22T19:56:16Z) - Learning Grouped Lattice Vector Quantizers for Low-Bit LLM Compression [57.54335545892155]
本稿では,各重みの群に独自の格子コードブックを割り当てるGLVQ(Grouped Lattice Vector Quantization)フレームワークを紹介する。
提案手法は,既存のトレーニング後の量子化ベースラインと比較して,モデルサイズと精度のトレードオフが良好である。
論文 参考訳（メタデータ） (2025-10-23T20:19:48Z) - Improving the Generation of VAEs with High Dimensional Latent Spaces by the use of Hyperspherical Coordinates [59.4526726541389]
変分オートエンコーダ(VAE)は、これらのベクトルをデータに復号する前に、データを低次元の潜在ベクトルに符号化する。
本稿では,計算オーバーヘッドが制限された潜在空間のパラメータ化を提案する。
論文 参考訳（メタデータ） (2025-07-21T05:10:43Z) - AIRES: Accelerating Out-of-Core GCNs via Algorithm-System Co-Design [6.554916179445241]
グラフ畳み込みネットワーク(GCN)は、バイオメディカルタンパク質とタンパク質の相互作用(PPI)から大規模レコメンデーションシステムまで、様々な科学的応用において基本的なものである。
GCNのグラフ構造をモデル化するための重要な要素はスパース一般行列行列乗法(SpGEMM)である。
SpGEMMは、リソースに制約のあるシステムにおいて、限られたGPUメモリスペースのために、アウトオブコアで実行されることが多い。
本稿では,GCNのアウトオブコア SpGEMM 計算を高速化するアルゴリズム-システム共設計ソリューション AIRES を提案する。
論文 参考訳（メタデータ） (2025-07-02T00:35:43Z) - A Universal Framework for Compressing Embeddings in CTR Prediction [68.27582084015044]
本稿では,事前学習した埋め込みを定量化することにより,埋め込みテーブルを圧縮するモデル非依存型埋め込み圧縮(MEC)フレームワークを提案する。
まず、高頻度特徴と低周波特徴のバランスをとるために、人気重み付け正規化を適用します。
3つのデータセットの実験により,提案手法はメモリ使用量を50倍以上削減し,レコメンデーション性能を維持・改善する。
論文 参考訳（メタデータ） (2025-02-21T10:12:34Z) - HyperVQ: MLR-based Vector Quantization in Hyperbolic Space [56.4245885674567]
一般的な解決策は、VQ変分オートエンコーダ(VQVAE)にベクトル量子化(VQ)を採用することである。
本稿では,双曲型多相ロジスティック回帰(MLR)問題としてVQを定式化する新しい手法であるHyperVQを紹介する。
本実験は,HyperVQが従来のVQに比較し,識別性能を上回りながら,生成・再構成タスクに適合することを示した。
論文 参考訳（メタデータ） (2024-03-18T03:17:08Z) - GES: Generalized Exponential Splatting for Efficient Radiance Field Rendering [112.16239342037714]
GES(Generalized Exponential Splatting)は、GEF(Generalized Exponential Function)を用いて3Dシーンをモデル化する斬新な表現である。
周波数変調損失の助けを借りて、GESは新規なビュー合成ベンチマークにおいて競合性能を達成する。
論文 参考訳（メタデータ） (2024-02-15T17:32:50Z) - Reducing Memory Requirements of Quantum Optimal Control [0.0]
GRAPEのような勾配に基づくアルゴリズムは、ストレージの指数的な増加、量子ビットの増加、メモリ要求の線形増加、時間ステップの増加に悩まされる。
我々は、ユニタリ行列の逆が共役変換であるという事実を利用して、GRAPEが必要とする勾配を計算できる非標準自動微分法を開発した。
提案手法は, GRAPEのメモリ要求を大幅に低減し, 妥当な再計算を犠牲にしている。
論文 参考訳（メタデータ） (2022-03-23T20:42:54Z) - HyperSeed: Unsupervised Learning with Vector Symbolic Architectures [5.258404928739212]
本稿では,Hyperseedという新しい教師なし機械学習手法を提案する。
VSA(Vector Symbolic Architectures)を活用して、問題のないデータのトポロジ保存機能マップを高速に学習する。
ハイパーシードアルゴリズムの2つの特徴的特徴は,1)少数の入力データサンプルから学習すること,2)1つのベクトル演算に基づく学習規則である。
論文 参考訳（メタデータ） (2021-10-15T20:05:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。