論文の概要: FuncCode: Compressing Kolmogorov--Arnold Networks in Function Space with Hardware-Aware Quantization

• arxiv url: http://arxiv.org/abs/2609.26067v1
• Date: Tue, 04 Aug 2026 10:10:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.853555
• Title: FuncCode: Compressing Kolmogorov--Arnold Networks in Function Space with Hardware-Aware Quantization
• Title（参考訳）: FuncCode: Kolmogorov--Arnold Networksをハードウェア対応量子化による関数空間で圧縮する
• Abstract要約: 我々は、サンプルエッジ応答から共有コードブックを形成するベース・ア・圧縮アプローチであるFuncCodeを紹介した。 スプラインとカンにまたがって、サンプル化されたエッジレスポンスは13$--$35%以下の有効ランクを示す。 圧縮後、エッジ単位のインデックスは保存された重みビットの99.4%の価格で表現を束縛する。
• 参考スコア（独自算出の注目度）: 6.860988566886594
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Kolmogorov--Arnold Networks (KANs) replace scalar edge weights with learnable univariate functions, increasing flexibility but also parameter memory because each edge stores multiple coefficients, often together with a separate base branch. We introduce FuncCode, a basis-agnostic compression approach that forms shared codebooks from sampled edge responses, codes the basis and base branches independently, and exports the resulting codebooks and per-edge indices in a quantized, bit-packed format. Across spline and polynomial KANs, sampled edge responses exhibit $13$--$35\%$ lower effective rank than their coefficient representations. Further replicated controls show that function-space clustering alone is statistically tied with coefficient-space clustering; the consistent accuracy gain comes from preserving the distinct sharing structure of the two branches. On a ten-seed MNIST benchmark, FuncCode compresses spline and GRAM KANs by $31.6\times$ and $17.6\times$ with only $0.31$ and $0.34$ pp accuracy loss. On a 6.1M-edge convolutional KAGN, it achieves $19.9\times$ compression while remaining within $0.54$ pp of dense accuracy on CIFAR-10 and $1.89$ pp on CIFAR-100. After compression, per-edge indices account for up to $99.4\%$ of stored weight bits, making the representation index-bound. Across nine bit-exact FPGA accelerators, FuncCode reduces SplineKAN post-route weight memory by $3.87\times$ relative to dense INT4, without increasing cycle count or latency. The FuncCode implementation is available at https://github.com/OSU-STARLAB/FuncCode.
• Abstract（参考訳）: Kolmogorov--Arnold Networks (KAN) は、スカラーエッジ重みを学習可能な単変数関数に置き換え、柔軟性を高め、パラメータメモリも増やす。 我々は,サンプルエッジ応答から共有コードブックを生成するベース非依存の圧縮手法であるFuncCodeを導入し,ベースとベースブランチを独立にコードし,結果のコードブックとエッジ単位のインデックスを量子化されたビットパック形式でエクスポートする。 スプラインと多項式カンにまたがって、サンプリングされたエッジ応答は、係数表現よりも13$-35$%低い有効ランクを示す。 さらに再現された制御は、関数空間クラスタリング単独が係数空間クラスタリングと統計的に結びついていることを示している。 10シードのMNISTベンチマークでは、FuncCodeはスプラインとGRAMkansを$31.6\times$と$17.6\times$で圧縮し、$0.31$と$0.34$ ppの精度損失しかなかった。 6.1Mエッジの畳み込みKAGNでは、CIFAR-10では0.54$ pp、CIFAR-100では1.89$ ppに留まり、19.9\times$ compressionを達成した。 圧縮後、エッジ単位のインデックスは保存された重みビットの最大99.4\%の価格で表され、インデックスは束縛される。 9つのビットエクササイズFPGAアクセラレータの中で、FuncCodeは、サイクル数やレイテンシを増大させることなく、高密度INT4と比較して、SplineKANポストルートウェイトメモリを$3.87\times$で削減する。 FuncCodeの実装はhttps://github.com/OSU-STARLAB/FuncCodeで公開されている。

関連論文リスト

• SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant [79.24089819400126]
  Subsampled TurboQuant (SSTQ) は、オーバーコンプリートな等幅のタイトフレーム、座標サブサンプリング、プライバシ対応量子化を組み合わせたフレームワークである。 SSTQは平均2乗誤差スケーリングを実現し、クライアントあたり$lceil log N il + b$ bitsを使用する。 また、コードブックに依存したMSEスケーリングを$O(4b)$から$O(2b)$に削減する、プライバシを意識したコードブックの目的も導出します。
  論文  参考訳（メタデータ） (2026-08-05T17:51:25Z)
• BiKAN: Restoring Collapsed Basis of Binary Kolmogorov--Arnold Networks [6.860988566886594]
  Kolmogorov-Arnold Network(KAN)のバイナリ化は各レイヤで利用可能な関数空間を変更する。 提案するBiKANは,各2進数2のWalsh文字を加算することにより,この問題に対処する。 W1A1では、ビカンは99.48%、84.38%、Mは55.81%、401AR-10は72AR-100である。
  論文  参考訳（メタデータ） (2026-08-02T20:49:59Z)
• SparseKAN: Compressing Kolmogorov--Arnold Networks Across Basis Functions, Neurons, and Bits [6.860988566886594]
  基本関数,ニューロン/チャネル,数値精度の3つの相補的軸に沿ってkanを圧縮する統一的アプローチである textbfSparseKAN を提案する。 SparseKANは、基本分岐、非線形基底分岐、および個別基底項に、異なるアクティブコストの目的の下で訓練された階層的な学習可能なゲートを装備する。
  論文  参考訳（メタデータ） (2026-08-01T20:42:41Z)
• Structural Kolmogorov-Arnold Convolutions: Learnable Function on the Values or the Filter Shape as Parameter-Efficient Alternative to Per-Edge Convolutional KANs [76.06235645266621]
  Convolutional Kolmogorov--Arnold Networks (KAN) は、畳み込みカーネルの固定重みを学習可能な単変数関数に置き換える。 学習可能な関数は、各エッジよりも畳み込みのエンファン構造に置かれる方がよいと我々は主張する。
  論文  参考訳（メタデータ） (2026-06-23T10:00:26Z)
• FibQuant: Universal Vector Quantization for Random-Access KV-Cache Compression [35.73320708128261]
  固定レートベクトル量子化器のtextscFibQuant を導入する。 コードブックにはBeta-quantile radii, Fibonacci,/,Roberts--Kronecker quasi-Max が組み合わされている。 GPT-2の小さなKVキャッシュでは、textscFibQuantはメモリ-フィデリティフロンティアをトレースする。
  論文  参考訳（メタデータ） (2026-05-12T03:45:53Z)
• MetaCluster: Enabling Deep Compression of Kolmogorov-Arnold Network [8.780976521229741]
  Kolmogorov-Arnold Networks (KAN) はスカラーウェイトを基底係数のエッジベクトルに置き換える。 精度を犠牲にすることなく高圧縮性を実現するフレームワークであるMetaClusterを提案する。
  論文  参考訳（メタデータ） (2025-10-21T21:58:15Z)
• Tensor Decomposition Networks for Fast Machine Learning Interatomic Potential Computations [48.46721044282335]
  テンソル分解ネットワーク(TDN)は、計算処理の劇的な高速化と競合する性能を実現する。 1億5500万のDFT計算スナップショットを含む分子緩和データセットPubChemQCRのTDNを評価した。 その結果,TDNは計算処理の劇的な高速化と競合する性能を示した。
  論文  参考訳（メタデータ） (2025-07-01T18:46:27Z)
• R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
  CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。 CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。 ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
  論文  参考訳（メタデータ） (2025-05-22T16:06:59Z)
• A Novel Structure-Agnostic Multi-Objective Approach for Weight-Sharing Compression in Deep Neural Networks [0.24578723416255746]
  本稿では、ニューラルネットワークアーキテクチャ、次元、タスク、データセットに依存しない多目的進化的アルゴリズム(MOEA)に基づく圧縮フレームワークを提案する。 ネットワークの重みを1つのコードブックに量子化し、効率的な重み表現を行う。 実験結果は、CIFAR-10で13.72 sim14.98倍、CIFAR-100で11.61 sim 12.99倍、ImageNetで7.44 sim 8.58倍のニューラルネットワークメモリを削減できることを示している。
  論文  参考訳（メタデータ） (2025-01-06T15:51:29Z)
• Deep Learning Meets Projective Clustering [66.726500395069]
  NLPネットワークを圧縮するための一般的なアプローチは、埋め込み層を行列 $AinmathbbRntimes d$ としてエンコードすることである。 計算幾何学から遠射的クラスタリングに着想を得て、この部分空間を$k$部分空間の集合で置き換えることを提案する。
  論文  参考訳（メタデータ） (2020-10-08T22:47:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。