論文の概要: Adaptive RBF-KAN: A Comparative Evaluation of Dynamic Shape Parameters in Kolmogorov-Arnold Networks
- arxiv url: http://arxiv.org/abs/2605.21534v1
- Date: Wed, 20 May 2026 01:28:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:41.929958
- Title: Adaptive RBF-KAN: A Comparative Evaluation of Dynamic Shape Parameters in Kolmogorov-Arnold Networks
- Title(参考訳): Adaptive RBF-KAN: Kolmogorov-Arnold ネットワークにおける動的形状パラメータの比較評価
- Authors: Roberto Cavoretto, Alessandra De Rossi, Adeeba Haider, Amir Noorizadegan,
- Abstract要約: より広範なラジアル基底カーネル群を導入し、LOOCV(Left-one-out Cross-validation)を用いてカーネル形状パラメータを初期化する。
我々の知る限りでは、LOOCVに基づくカーネルスケール推定と深KAトレーニングを統合する最初の研究である。
提案する適応RBF-KANは,複数の2次元ベンチマーク関数を用いて評価する。
- 参考スコア(独自算出の注目度): 39.58172554437255
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Kolmogorov-Arnold Networks (KANs) approximate multivariate functions using learnable univariate edge functions, typically parameterized by B-spline bases. Although effective, spline-based implementations can be computationally expensive. A modified version of KANs, called FastKAN, improves efficiency by replacing splines with Gaussian radial basis functions (RBFs), but it relies on a fixed kernel and shape parameter. In this work, we extend the RBF-based KAN framework by introducing a broader family of radial basis kernels and by initializing the kernel shape parameter using leave-one-out cross-validation (LOOCV). To the best of our knowledge, this is the first study that integrates LOOCV-based kernel scale estimation with deep KAN training. We also introduce Matérn and Wendland kernels into the KAN framework for the first time, enabling more flexible basis representations beyond the Gaussian kernel used in FastKAN. The LOOCV estimate provides a data-driven initialization of the kernel scale, which is subsequently refined during network training. The proposed adaptive RBF-KAN is evaluated on several two-dimensional benchmark functions. The results highlight the importance of kernel selection and adaptive shape parameters, with different kernels showing advantages for smooth functions, discontinuities, and oscillatory patterns. Overall, combining LOOCV-based initialization with adaptive kernel learning provides a practical strategy for improving RBF-based KAN models.
- Abstract(参考訳): Kolmogorov-Arnold Networks (KANs) は学習可能な一変量エッジ関数を用いて多変量関数を近似する。
効果はあるものの、スプラインベースの実装は計算コストがかかる。
改良版のkansはFastKANと呼ばれ、スプラインをガウス半径基底関数(RBF)に置き換えることで効率を向上するが、固定されたカーネルと形状パラメータに依存している。
本研究では,RBF ベースの Kan フレームワークを拡張し,より広範なラジアルベースカーネル群を導入し,LOOCV (Left-one-out cross-validation) を用いてカーネル形状パラメータを初期化する。
我々の知る限りでは、LOOCVに基づくカーネルスケール推定と深KAトレーニングを統合する最初の研究である。
我々はまた、FastKANで使用されるガウスカーネルを超えて、より柔軟な基底表現を可能にするために、初めてkanフレームワークにMatérnとWendlandカーネルを導入しました。
LOOCV推定は、カーネルスケールのデータ駆動初期化を提供し、その後、ネットワークトレーニング中に洗練される。
提案する適応RBF-KANは,複数の2次元ベンチマーク関数を用いて評価する。
結果は、スムーズな関数、不連続性、発振パターンの利点を示す異なるカーネルで、カーネルの選択と適応的な形状パラメータの重要性を強調した。
全体として、LOOCVベースの初期化と適応型カーネル学習を組み合わせることで、RBFベースのkanモデルを改善するための実践的な戦略を提供する。
関連論文リスト
- Partition-of-Unity Gaussian Kolmogorov-Arnold Networks [0.0]
本稿では,各エッジ上のガウス基底値を固定中心上の局所和で分割する,ユニシティ・ガウスカン(PU-GKAN)について紹介する。
これにより、標準エッジベースの Kan 構造を保ちながら、トレーニング可能な係数を持つ分割ユニティ特徴写像が生成される。
数値実験により、PU-GKANは()に対する感度を低下させ、スムーズかつ適度に非滑らかな標的に対する検証精度を改善し、より安定した訓練行動を与えることが示された。
論文 参考訳(メタデータ) (2026-04-26T08:24:03Z) - Free-RBF-KAN: Kolmogorov-Arnold Networks with Adaptive Radial Basis Functions for Efficient Function Learning [2.2851922041620587]
Kolmogorov-Arnold Networks (KANs) は複素非線形関数を効率的に近似する強いポテンシャルを示している。
元の Kan の定式化は B-スプライン基底関数に依存しており、デボアのアルゴリズムによる計算オーバーヘッドがかなり大きい。
この性能ギャップを埋めるために適応学習格子とトレーニング可能な滑らかさを組み込んだRBFベースのkanアーキテクチャであるFree-RBF-KANを提案する。
論文 参考訳(メタデータ) (2026-01-12T17:45:31Z) - Enhancing Kernel Flexibility via Learning Asymmetric Locally-Adaptive
Kernels [35.76925787221499]
本稿では,ラジアル基底関数(RBF)カーネルを強化するための訓練可能なパラメータとして,局所適応バンド幅(LAB)の概念を紹介する。
LAB RBFカーネルのパラメータはデータ依存であり、データセットによってその数は増加する可能性がある。
本稿では,非対称なカーネルリッジ回帰フレームワークを初めて確立し,反復的なカーネル学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-08T17:08:15Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Random Features for the Neural Tangent Kernel [57.132634274795066]
完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。
得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
論文 参考訳(メタデータ) (2021-04-03T09:08:12Z) - Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである
本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。
合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
論文 参考訳(メタデータ) (2021-03-29T22:37:06Z) - Finite Versus Infinite Neural Networks: an Empirical Study [69.07049353209463]
カーネルメソッドは、完全に接続された有限幅ネットワークより優れている。
中心とアンサンブルの有限ネットワークは後続のばらつきを減らした。
重みの減衰と大きな学習率の使用は、有限ネットワークと無限ネットワークの対応を破る。
論文 参考訳(メタデータ) (2020-07-31T01:57:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。