論文の概要: SETAREH Transform: A Sorting-Assisted Haar-Wavelet Sparsification Method for Approximate Inner-Product Computation
- arxiv url: http://arxiv.org/abs/2610.23338v1
- Date: Fri, 16 Oct 2026 11:42:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.906914
- Title: SETAREH Transform: A Sorting-Assisted Haar-Wavelet Sparsification Method for Approximate Inner-Product Computation
- Title（参考訳）: SETAREH変換:近似内積計算のためのソルティング支援ハールウェーブレットスカラー化法
- Abstract要約: 本稿では、固定された高次元係数ベクトルと逐次入力ベクトルとの間の内積を近似するハールウェーブレットに基づくスペーシング手法を提案する。
同じ置換とハール変換の列を両方のベクトルに適用することにより、SETAREHはトランケーションの前に正確な内部積を保持する。
その後、変換された係数-入出力ペアのサブセットのみを保持し、制御可能な近似誤差を導入しながら表現コストを低減させる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern deep learning systems increasingly rely on high-dimensional vector operations, in which large input and parameter vectors are repeatedly stored, transferred, and processed. Although substantial research has focused on reducing neural-network model size through pruning, quantization, knowledge distillation, and efficient architectures, the storage, memory-traffic, and communication costs associated with repeatedly presented high-dimensional input vectors remain important practical considerations, particularly in distributed and edge-computing environments. This paper proposes the SETAREH (Sorting-assisted Energy-concentrating Transform for Approximate Representation using Haar wavelets) transform, a Haar-wavelet-based sparsification approach for approximating the inner product between a fixed high-dimensional coefficient vector and successive input vectors. By applying the same sequence of permutations and Haar transforms to both vectors, SETAREH preserves the exact inner product before truncation. It then retains only a subset of the transformed coefficient-input pairs, reducing their representation cost while introducing a controllable approximation error. To evaluate SETAREH, we consider two complementary experimental settings: a synthetic Gaussian-vector baseline and a real apparent-age estimation task using a convolutional neural network on the APPA-REAL dataset. The results show that SETAREH can approximate the evaluated inner products using substantially fewer transformed coefficient-input pairs than the original vector dimension. The findings support its use as a potential structured data-representation method for repeated inner products with fixed weights, while the practical benefit depends on approximation accuracy and the cost of storing or transmitting permutation metadata.
- Abstract（参考訳）: 現代のディープラーニングシステムは、大規模な入力ベクトルとパラメータベクトルを繰り返し保存し、転送し、処理する高次元ベクトル演算にますます依存している。
プルーニング、量子化、知識蒸留、効率的なアーキテクチャによるニューラル・ネットワークモデルサイズの削減に重点を置いているが、特に分散およびエッジコンピューティング環境では、繰り返し提示される高次元入力ベクトルに関連する記憶、メモリトラヒック、通信コストが重要な実践的考慮事項として残されている。
本稿では、固定された高次元ベクトルベクトルと逐次入力ベクトルとの間の内積を近似するハールウェーブレットに基づくスカラー化手法であるSETAREH変換を提案する。
同じ置換とハール変換の列を両方のベクトルに適用することにより、SETAREHはトランケーションの前に正確な内部積を保持する。
その後、変換された係数-入出力ペアのサブセットのみを保持し、制御可能な近似誤差を導入しながら表現コストを低減させる。
SETAREHを評価するために、合成ガウスベクトルベースラインと、APPA-REALデータセット上の畳み込みニューラルネットワークを用いた実年齢推定タスクの2つの相補的な実験環境を検討する。
その結果, SETAREHは, 元のベクトル次元よりもかなり少ない変換係数-入出力対を用いて, 評価内積を近似できることがわかった。
本研究は, 固定重み付き繰り返し内積の構造化データ表現法としての有用性を裏付けるものであり, 実際の利点は近似精度と置換メタデータの保存・送信コストに依存する。
関連論文リスト
- WUSH: Near-Optimal Adaptive Transforms for LLM Quantization [52.77441224845925]
低ビット幅への量子化は、大きな言語モデルをデプロイするための標準的なアプローチである。
いくつかの極端な重みと活性化は、ダイナミックレンジを拡張し、量子化器の有効分解能を減少させる。
結合重みアクティベーション量子化のための閉形式最適線形ブロックワイズ変換を初めて導出する。
論文 参考訳（メタデータ） (2025-11-30T16:17:34Z) - Pooling Attention: Evaluating Pretrained Transformer Embeddings for Deception Classification [0.0]
BERT埋め込みとロジスティック回帰は、LIARデータセット分割のニューラルネットワークよりも優れている。
この研究は、注意に基づくトークンエンコーダを、正確性タスクのための堅牢でアーキテクチャ中心の基盤として位置付けている。
論文 参考訳（メタデータ） (2025-11-28T08:32:49Z) - Neural Optimal Transport Meets Multivariate Conformal Prediction [58.43397908730771]
条件付きベクトル回帰(CVQR)のためのフレームワークを提案する。
CVQRは、ニューラルネットワークの最適輸送と量子化された最適化を組み合わせて、予測に適用する。
論文 参考訳（メタデータ） (2025-09-29T19:50:19Z) - LFA applied to CNNs: Efficient Singular Value Decomposition of Convolutional Mappings by Local Fourier Analysis [4.69726714177332]
興味深いスペクトル特性を符号化した 畳み込み写像の特異値。
特異値の計算は典型的には資源集約である。
本稿では,局所フーリエ解析に基づく複雑性O(N)のアプローチを提案する。
論文 参考訳（メタデータ） (2025-06-05T22:10:01Z) - Entropy Transformer Networks: A Learning Approach via Tangent Bundle
Data Manifold [8.893886200299228]
本稿では,CNNアーキテクチャの設計における画像変換の高精度かつ高速なアプローチについて述べる。
データ多様体分布を補間する新しいエントロピーSTN(ESTN)を提案する。
挑戦的なベンチマークの実験は、提案されたESTNがコンピュータビジョンタスクの範囲で予測精度を向上させることを示している。
論文 参考訳（メタデータ） (2023-07-24T04:21:51Z) - Using Intermediate Forward Iterates for Intermediate Generator
Optimization [14.987013151525368]
中間ジェネレータ最適化は、生成タスクのための任意の標準オートエンコーダパイプラインに組み込むことができる。
IGOの2つの密集予測タスク(viz.)、画像外挿、点雲デノイング(denoising)に対する応用を示す。
論文 参考訳（メタデータ） (2023-02-05T08:46:15Z) - Stochastic tensor space feature theory with applications to robust machine learning [3.6891975755608355]
テンソル空間に基づくマルチレベル直交部分空間(MOS)カーフン・ローブ特徴量理論を開発する。
私たちのキーとなる観察は、個別の機械学習クラスは、主に異なる部分空間に存在することができるということです。
血漿データセット(アルツハイマー病神経画像イニシアチブ)の検査では、精度が劇的に向上した。
論文 参考訳（メタデータ） (2021-10-04T22:01:01Z) - Weight Vector Tuning and Asymptotic Analysis of Binary Linear
Classifiers [82.5915112474988]
本稿では,スカラーによる判別器の分解をパラメータ化することで,ジェネリックバイナリ線形分類器の重みベクトルチューニングを提案する。
また,重みベクトルチューニングは,高推定雑音下での線形判別分析(LDA)の性能を著しく向上させることがわかった。
論文 参考訳（メタデータ） (2021-10-01T17:50:46Z) - Learning Optical Flow from a Few Matches [67.83633948984954]
密な相関体積表現は冗長であり、その中の要素のほんの一部で正確なフロー推定が達成できることを示した。
実験により,高い精度を維持しつつ計算コストとメモリ使用量を大幅に削減できることを示した。
論文 参考訳（メタデータ） (2021-04-05T21:44:00Z) - Quantitative Understanding of VAE as a Non-linearly Scaled Isometric
Embedding [52.48298164494608]
変分オートエンコーダ(VAE)は、各入力データに対応する潜伏変数の後方パラメータを推定する。
本稿では,VAEの微分幾何学的および情報理論的解釈を通じて,VAEの特性を定量的に理解する。
論文 参考訳（メタデータ） (2020-07-30T02:37:46Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳（メタデータ） (2020-03-19T15:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。