論文の概要: Computing with Residue Numbers in High-Dimensional Representation
- arxiv url: http://arxiv.org/abs/2311.04872v1
- Date: Wed, 8 Nov 2023 18:19:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-09 14:43:30.166293
- Title: Computing with Residue Numbers in High-Dimensional Representation
- Title（参考訳）: 高次元表現における残数計算
- Authors: Christopher J. Kymn, Denis Kleyko, E. Paxon Frady, Connor Bybee,
Pentti Kanerva, Friedrich T. Sommer, and Bruno A. Olshausen
- Abstract要約: 本稿では,Residue Hyperdimensional Computingを紹介した。Residue Hyperdimensional Computingは乱高次元ベクトル上で定義される代数学と残余数系を統一する計算フレームワークである。
代数演算をベクトル要素上の成分的に並列化可能な演算で行うことが可能な方法で、剰余数を高次元ベクトルとして表現する方法を示す。
- 参考スコア（独自算出の注目度）: 7.736925756277564
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We introduce Residue Hyperdimensional Computing, a computing framework that
unifies residue number systems with an algebra defined over random,
high-dimensional vectors. We show how residue numbers can be represented as
high-dimensional vectors in a manner that allows algebraic operations to be
performed with component-wise, parallelizable operations on the vector
elements. The resulting framework, when combined with an efficient method for
factorizing high-dimensional vectors, can represent and operate on numerical
values over a large dynamic range using vastly fewer resources than previous
methods, and it exhibits impressive robustness to noise. We demonstrate the
potential for this framework to solve computationally difficult problems in
visual perception and combinatorial optimization, showing improvement over
baseline methods. More broadly, the framework provides a possible account for
the computational operations of grid cells in the brain, and it suggests new
machine learning architectures for representing and manipulating numerical
data.
- Abstract（参考訳）: 我々は,無作為な高次元ベクトル上で定義される代数と剰余数系を統一する計算フレームワークである剰余超次元コンピューティングを導入する。
代数演算をベクトル要素上の成分的に並列化可能な演算で行うことが可能な方法で、剰余数を高次元ベクトルとして表現する方法を示す。
結果として得られる枠組みは、高次元ベクトルを分解する効率的な方法と組み合わせることで、従来の方法に比べてはるかに少ないリソースを用いて、大きなダイナミックレンジの数値を表現し、操作することができる。
本稿では,視覚知覚と組合せ最適化における計算困難問題を解決し,ベースライン法よりも改善する可能性を示す。
より広範に、このフレームワークは脳内のグリッドセルの計算操作の可能な説明を提供し、数値データを表現および操作するための新しい機械学習アーキテクチャを提案する。
関連論文リスト
- MemoryFormer: Minimize Transformer Computation by Removing Fully-Connected Layers [43.39466934693055]
本稿では,新しい視点から計算複雑性(FLOP)を大幅に低減する,新しいトランスフォーマーアーキテクチャであるMemoryFormerを提案する。
これは、完全連結層の線形射影を置き換えるために、特徴変換の代替手法を利用することで実現される。
提案手法の有効性を示すため,様々なベンチマーク実験を行った。
論文 参考訳（メタデータ） (2024-11-20T02:41:53Z) - Efficient Fairness-Performance Pareto Front Computation [51.558848491038916]
最適公正表現はいくつかの有用な構造特性を持つことを示す。
そこで,これらの近似問題は,凹凸プログラミング法により効率的に解けることを示す。
論文 参考訳（メタデータ） (2024-09-26T08:46:48Z) - Knowledge Composition using Task Vectors with Learned Anisotropic Scaling [51.4661186662329]
本稿では,パラメータブロックと異なる学習係数を線形に組み合わせ,タスクベクトルレベルでの異方性スケーリングを実現するアルゴリズムであるaTLASを紹介する。
このような線形結合は事前学習されたモデルの低内在性を明示的に利用しており、学習可能なパラメータは数係数のみであることを示す。
本稿では,タスク算術,少数ショット認識,テスト時間適応において,教師なしあるいは教師なしの目的を用いた手法の有効性を実証する。
論文 参考訳（メタデータ） (2024-07-03T07:54:08Z) - Self-Attention Based Semantic Decomposition in Vector Symbolic Architectures [6.473177443214531]
本稿では,反復探索問題における自己アテンションに基づく更新規則に基づく共振器ネットワークの新たな変種を提案する。
認識に基づくパターン認識,シーン分解,オブジェクト推論など,多くのタスクに応用できる。
論文 参考訳（メタデータ） (2024-03-20T00:37:19Z) - An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。
このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。
本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-09-30T15:57:14Z) - CoLA: Exploiting Compositional Structure for Automatic and Efficient
Numerical Linear Algebra [62.37017125812101]
機械学習における大規模線形代数問題に対して, CoLA という, 単純だが汎用的なフレームワークを提案する。
線形演算子抽象と合成ディスパッチルールを組み合わせることで、CoLAはメモリと実行時の効率的な数値アルゴリズムを自動的に構築する。
偏微分方程式,ガウス過程,同変モデル構築,教師なし学習など,幅広い応用で有効性を示す。
論文 参考訳（メタデータ） (2023-09-06T14:59:38Z) - Randomized Polar Codes for Anytime Distributed Machine Learning [66.46612460837147]
本稿では,低速な計算ノードに対して堅牢で,線形演算の近似計算と精度の両立が可能な分散コンピューティングフレームワークを提案する。
本稿では,復号化のための計算複雑性を低く保ちながら,実数値データを扱うための逐次復号アルゴリズムを提案する。
大規模行列乗算やブラックボックス最適化など,様々な文脈において,このフレームワークの潜在的な応用を実証する。
論文 参考訳（メタデータ） (2023-09-01T18:02:04Z) - In-memory factorization of holographic perceptual representations [14.621617156897301]
感覚信号の構成因子の分散は、知覚と認知の中心である。
ホログラムの知覚表現を効率よく分解できる計算エンジンを提案する。
論文 参考訳（メタデータ） (2022-11-09T17:36:06Z) - Efficient Inference via Universal LSH Kernel [35.22983601434134]
本稿では,単純なハッシュ計算と集約で推論手順を近似できる数列の簡潔な集合である,数学的に証明可能なRepresenter Sketchを提案する。
Representer Sketchは、カーネル文学から人気のあるRepresenter Theoremの上に構築されている。
本研究では,Representer Sketchによるストレージ要件の最大114倍,複雑性の最大59倍を精度の低下なく達成できることを示す。
論文 参考訳（メタデータ） (2021-06-21T22:06:32Z) - Coded Distributed Computing with Partial Recovery [56.08535873173518]
部分回復型符号化計算(CCPR)と呼ばれる新しい符号化行列ベクトル乗法を導入する。
CCPRは計算時間と復号化の複雑さを減らし、精度と計算速度のトレードオフを可能にする。
次に、この手法をより一般的な計算タスクの分散実装に拡張し、部分的回復を伴う符号化通信方式を提案する。
論文 参考訳（メタデータ） (2020-07-04T21:34:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。